알리바바 산하 앤트 그룹의 AI 훈련 컴퓨팅 인프라 연구 - 비싼 엔비디아 GPU를 대체하는 화웨이의 AI 칩 ?! 중국의 알리바바(Alibaba) 산하 앤트 그룹(Ant Group)의 Ling 팀이 작성한 논문이 최근 미국의 여러 주요 매체에 소개되며 화제인데요.
“EVERY FLOP COUNTS: SCALING A 300B MIXTURE-OF-EXPERTS LING LLM WIT contents.premium.naver.com 중국의 알리바바(Alibaba) 산하 앤트 그룹(Ant Group)의 Ling 팀이 작성한 논문이 최근 미국의 여러 주요 매체에 소개되며 화제인데요. “EVERY FLOP COUNTS: SCALING A 300B MIXTURE-OF-EXPERTS LING LLM WITHOUT PREMIUM GPUS”라는 제목의 이 논문은 “고성능 GPU 없이도 3000억 개에 달하는 파라미터를 가진 초대형 언어 모델을 효율적으로 훈련할 수 있는 전략과 그 결과”를 다루고 ...
