1. GPT-4에서 AGI로: OOM(Order of Magnitude) 계산 - AI 발전은 빠름.
GPT-2에서 GPT-4로 4년 만에 유치원생에서 대학생 수준으로 발전함 - 2027년까지 이와 같은 수준의 도약을 예상. 이는 우리를 AGI로 이끌 것 - 발전은 세 가지에서 비롯: 더 많은 컴퓨팅 파워, 더 나은 알고리즘, 그리고 "제약 해제(unhobbling)" - 컴퓨팅 파워는 매년 약 0.5 OOM씩 증가.
무어의 법칙보다 약 3배 빠름 - 알고리즘 효율성도 매년 약 0.5 OOM씩 증가. 이는 컴퓨팅 파워만큼 중요 - "제약 해제" 이득은 수치화하기 어렵지만 또한 엄청남.
RLHF와 사고 연쇄 추론과 같은 것들이 해당 - 4년 안에 5+ OOM의 효과적인 컴퓨팅 파워 증가를 예상. 이는 GPT-2에서 GPT-4 수준의 도약 - 2027년까지 AI 연구원과 엔지니어의 작업을 수행할 수 있는 모델을 가질 수 있을 것.
이것이 바로 AGI - 하지만 훈련 데이터가 부족해지고 ...
#
agi
#
ai
#
gpt
#
tsmc
#
구글
#
마이크로소프트
#
엔비디아
#
오픈ai
