[1월16일]구글, AI칩 'TPU 트릴리움', MS(마이크로소프트)의 퀀텀 레디 선언

타이틀의 링크를 클릭 하시면 원문 기사 확인이 가능 합니다 2025년 1월 16일(목) 주요 IT 뉴스 "GPU만으론 안된다"…구글, AI칩 '트릴리움' 내세운 이유 TPU 트릴리움 "그래픽처리장치(GPU)는 그래픽 처리를 위해 설계된 프로세서이지만 텐서처리장치(TPU)는 인공지능(AI)을 위해 태어났습니다." 구글에 따르면 최신 TPU인 트릴리움은 이전 세대 대비 추론 처리량이 최대 3배 증가했고, 달러당 학습 성능은 2.5배, 추론 성능은 1.4배 향상됐다.

고밀도 AI 모델뿐 아니라 전문가 혼합(MoE) 아키텍처를 활용한 AI 모델 학습에서도 이전 세대보다 3.8배 빠른 성능을 보인다. TPU와 GPU의 차이 및 구글 TPU 트릴리움의 강점 TPU와 GPU의 차이: GPU: 그래픽 처리를 위해 설계된 병렬 처리 구조로 AI 연산에도 활용 가능.

TPU: AI 모델의 신경망 연산을 위해 설계된 전용 칩으로, 행렬 곱셈 연산과 인터커넥트 기술 등 AI 학습과 추론에 최적화된 구조....

요청 처리 중입니다...

[1월16일]구글, AI칩 'TPU 트릴리움', MS(마이크로소프트)의 퀀텀 레디 선언

등록된 다른 글