애플 AI에 활용되는 구글 TPU(Tensor Processing Unit)

https://www.bloter.net/news/articleView.html?idxno=620290

애플, AI 모델에 구글 TPU 활용…엔비디아 대안 찾는 빅테크

 

애플은 자사 AI 시스템에 TPU를 활용해서  AFM(애플 파운데이션 모델)을 학습시켰다고 이야기했다.

---

 

여기서 더 나아가 삼성의 경우 마하-1를 이용하여 AI모델을 학습시킨다고 한다.

 

https://biz.newdaily.co.kr/site/data/html/2024/04/08/2024040800115.html

AI칩 판도 바뀔까… 삼성 비밀병기 '마하-1' 관심 고조

 

빅테크 기업들이 엔비디아의 대안을 모색하고 있다는 신호로, 엔비디아의 칩 공급 부족 상황에서 애플의 경우 구글의 TPU가 기술적으로 성숙한 대안으로 떠오르고 있음을 보여준다.

---

TPU를 통해 바로 떠올린 것은 GPU, CPU가 떠오른다.

TPU와 GPU, CPU의 차이를 정리해보았다.

 

특징	TPU (Tensor Processing Unit)	CPU (Central Processing Unit)	GPU (Graphics Processing Unit)
설계 목적	딥러닝 작업 가속화	범용 연산 처리	그래픽 연산 가속화 및 병렬 연산 수행
구조 및 설계	대규모 행렬 연산에 최적화	복잡한 명령어 집합 구조, 다양한 작업에 유연함	수천 개의 작은 코어로 병렬 처리에 최적화
성능 특징	인공지능 모델의 훈련 및 추론에 최적화	높은 클럭 속도와 다중 코어로 다양한 작업 수행	대규모 병렬 연산에 뛰어난 성능, 3D 렌더링, AI 등
에너지 효율	AI 작업에서 높은 효율	작업 종류에 따라 다름	병렬 작업에서 높은 효율, 그러나 일반 연산에서는 CPU보다 낮음
사용 사례	딥러닝, AI 연구, TensorFlow	일반 컴퓨팅, 운영체제 실행, 애플리케이션 구동	그래픽 처리, 게임, 영상 처리, 딥러닝
제작사/사용처	구글에서 개발 및 주로 사용	대부분의 컴퓨터 및 전자 기기	NVIDIA, AMD 등 주요 제조사, 게임 및 AI 등 다양한 분야
주요 연산 유형	행렬 곱셈, 벡터 연산	다양한 명령어 연산	벡터 연산, 행렬 연산, 픽셀 데이터 처리

CPU는 컴퓨터에서 운영체제를 실행하고 일반적인 컴퓨팅을 하는 반면, GPU는 상대적으로 연산량이 많은 그래픽처리, 게임, 영상처리, 딥러닝을하고 GPU의 대안으로 나온 TPU는 딥러닝과 AI연구에 적절함을 알 수 있었다.