삼성 비밀병기 마하1 네이버와 협업- 엔비디아 GPU H100 아성 무너뜨리다

 

삼성의 비밀병기 '마하1’은 인공지능 (AI) 반도체 시장에서 엔비디아를 따라잡기 위해 개발된 AI 가속기입니다. 그 성능에 대해 알아보겠습니다.

 

마하1 AI가속기

 

 

마하1 특징

높은 성능:

 

 마하1은 AI 추론 작업에 특화되어 있으며, 거대 언어 모델과 같은 복잡한 모델을 효율적으로 실행할 수 있습니다.

데이터 압축 기술: 

 

데이터를 홀쭉하게 압축하여 메모리 분량을 줄이는 ‘신호처리 (Signal Processing)’ 기법을 적용합니다. 이를 통해 메모리 사용량을 최적화하고 성능을 향상시킵니다.

양자화 기술: 

 

‘양자화 (Quantization)’ 기법을 사용하여 인공지능망 내의 파라미터를 표현할 때 소수점 16자리까지 계산하던 것을 4자리까지만 계산할 수 있게 해 데이터 양을 줄입니다.

가지치기 기술: 

 

AI 모델의 파라미터 크기 자체를 줄이는 ‘가지치기 (Pruning)’ 기법을 적용합니다.
전력 효율: 고대역폭메모리 (HBM) 대신 저전력 메모리 반도체인 LPDDR을 사용하여 전력 효율을 8배 이상 높일 수 있습니다.

가격 경쟁력: 

 

마하1의 가격은 500만원 이하로 예상됩니다.
마하1은 삼성전자가 처음 AI 반도체 시장에 진출하는 상징적 제품이며, AI 시대를 이끌어가는 기업으로 기대됩니다. 

 

 

어떻게 엔비디아의 아성을 무너뜨리고 질주하려고 할까요?

삼성전자가 인공지능 (AI) 반도체 시장에서 엔비디아를 따라잡기 위해 개발한 비밀병기 '마하1’이 깜짝 등장했습니다. 이 이름은 소리의 속도를 나타내는 '마하’와 관련이 있습니다.

 

음속은 초속 343m, 시속 1235㎞에 이르며, 이를 기준으로 속도가 몇 배인지를 나타내는 단위가 '마하’입니다.

 

마하1은 삼성전자가 자체 개발한 AI 반도체 칩으로, AI를 구현하고 실행하는 데 특화된 하드웨어입니다. 

마하1은 ‘NPU (Neural Processing Unit·신경망처리장치)’ 기반의 AI 가속기입니다.

 

기존의 AI 가속기에서 데이터 '병목 현상’이 작업 처리를 더디게 하는 문제를 해결하기 위해 다양한 방법을 사용합니다.

 

첫째로,

데이터를 홀쭉하게 압축하여 메모리 분량을 줄이는 ‘신호처리 (Signal Processing)’ 기법을 적용합니다.

 

둘째로

 

‘양자화 (Quantization)’ 기법을 사용하여 인공지능망 내의 파라미터를 표현할 때 소수점 16자리까지 계산하던 것을 4자리까지만 계산할 수 있게 해 데이터 양을 줄입니다.

 

셋째로,

 

AI 모델의 파라미터 크기 자체를 줄이는 ‘가지치기 (Pruning)’ 기법을 적용합니다.

 

이렇게 데이터를 성공적으로 압축하면 넓은 도로망 역할을 해주는 고대역폭메모리 (HBM)을 쓸 필요가 없어집니다.

 

대신 저전력 메모리 반도체인 LPDDR을 사용하여 전력 효율을 8배 이상 높일 수 있습니다.

 

마하1은 거대언어모델과 같은 특정 모델의 '추론 (생성)'에 특화되어 있으며, 가격도 500만원 이하로 예상됩니다.

 

 

파운데이션 모델보유 네이버와의 협업

또한, 삼성전자는 네이버와의 협력을 통해 AI 가속기 구조를 공동 설계하고 소프트웨어 개발에도 참여할 수 있습니다.

 

네이버는 ‘하이퍼클로바X’ 등 AI 기술의 기초가 되는 ‘파운데이션 모델’을 갖고 있다. AI 가속기 구조를 공동 설계할 능력도 갖고 있다. 

 

‘하이퍼클로바X’에 최적화된 AI 가속기용 소프트웨어도 개발할 수 있다.

 

 동시에 AI 수퍼컴퓨터와 데이터센터를 운영하는 전 세계 몇 안 되는 기업이다

 

이를 통해 마하1이 개발되면 바로 사용할 수 있는 수요 기업이기도 합니다.

 

삼성 마하1의 청사진

 

삼성전자는 추후 마하 2·3·4·5 등으로 이름 붙이며 연이어 AI 가속기를 개발할 것이며, 자체적인 NPU 설계 기술과 공정 파운드리, 패키징 기술을 결합하여 세계적으로 경쟁력 있는 AI 선두 기업이 될 수 있습니다.

 

 

마하1은 삼성전자가 처음 AI 반도체 시장에 진출하는 상징적 제품이며, AI시대를 이끌어가는 기업으로 깃발이 되어 삼성전자의 미래를 밝히길 기대해봅니다.

 

 

한국에 과일과 야채가 비싼이유-가락시장 공영도매시장 배당금

 

주말농장분양 주말농장창업 자격조건

2024.05.03 - [분류 전체보기] - 통영한달살기 2차모집 경남 [통영에 온나] 모집대상,주요내용,지원금액

통영한달살기 2차모집 경남 [통영에 온나] 모집대상,주요내용,지원금액