인텔, ‘차세대 AI 솔루션 제온6·가우디3’ 신제품 출시

송고 2024.09.26 11:40 | 수정 2024.09.26 11:43
EBN 김채린 기자 (zmf007@ebn.co.kr)

AI 및 HPC 워크로드 성능을 두 배로 향상시키는 제온 6 P-코어 신제품 출시

가우디 3 AI 가속기, 라마2 70B 추론 성능서 H100 대비 최대 20%↑ 처리량

인텔 제온 6. ⓒ인텔

인텔은 26일 제온 6 P-코어(Xeon 6 with Performance-cores)와 가우디 3(Gaudi 3) AI 가속기를 출시하며, 최적의 와트(watt)당 성능과 더 낮은 총 소유 비용(TCO)을 제공해 강력한 AI 시스템을 지원하겠다고 밝혔다.

이날 인텔코리아는 서울 전경련회관에서 데이터센터용 신제품 출시 기자간담회를 갖고, 제온 6 P-코어와 가우디 3 신제품의 상세한 기술사항을 발표했다.

인텔은 데이터 센터 포트폴리오에 두 가지 주요 업데이트를 포함한 최신 AI 인프라스트럭처 지원사항에 대해 발표했다.

인텔 제온 6 P-코어는 컴퓨팅 집약적인 워크로드를 탁월한 효율로 처리할 수 있도록 설계됐다. 이전 세대 대비 2배 높은 성능을 제공한다. 코어 수 증가, 메모리 대역폭 2배 증가, 모든 코어에 내장 AI 가속 기능을 갖춘 것이 특징이다. 엣지에서 데이터센터 및 클라우드 환경에 이르기까지 AI의 성능 요구를 충족하도록 설계됐다.

인텔 가우디 3 AI 가속기는 대규모 생성형 AI에 최적화된 가우디 3은 64개의 텐서 프로세서 코어(TPC)와 8개의 행렬 곱셈 엔진(MME)을 통해 심층 신경망 연산을 가속화한다. 가우디 3은 학습 및 추론 작업을 위한 128GB의 HBM2e 메모리와, 확장 가능한 네트워킹을 위한 24개의 200Gb 이더넷 포트를 갖췄다.

또 파이토치(PyTorch) 프레임워크와 허깅페이스(Hugging Face)의 고급 트랜스포머 및 디퓨전 모델과의 높은 호환성을 제공한다. 인텔은 최근 IBM과 협력하여 IBM 클라우드에서 가우디 3 AI 가속기를 서비스 방식으로 배포한다고 발표한 바 있다. 이를 통해 인텔과 IBM은 AI를 활용하고 확장하는 데 있어 총 소유 비용을 줄이고 성능을 향상시킬 계획이다.

대규모 AI 배포를 위해서는 유연한 배포 옵션, 경쟁력 있는 가격 대비 성능, 접근 가능한 AI 기술 등을 고려해야 한다. 인텔의 강력한 x86 인프라와 광범위한 개방형 생태계는 기업들이 최적의 TCO와 성능 대 전력비를 갖춘 고부가가치 AI 시스템을 구축할 수 있도록 지원한다. 특히, GPU 가속 서버의 73%가 호스트 CPU로 인텔 제온을 사용하고 있다.

USD$	1,328.4	▼5.9
EUR€	1,478.7	▼14
JPY¥	918.0	▼14.5
CNH¥	189.5	▲0.2

인텔, ‘차세대 AI 솔루션 제온6·가우디3’ 신제품 출시

관련기사

전체 댓글 0

매매기준율