앤트로픽(Anthropic)이 최근 공개한 최신 AI 모델 ‘클로드 3.7 소네트(Claude 3.7 Sonnet)’의 개발 비용이 수천만 달러 수준에 불과한 것으로 알려졌다. 기존 파운데이션 모델(FM)의 훈련에 수억 달러가 투입된 것과 비교하면 상당히 적은 비용으로, 이는 AI 모델 훈련 기술의 발전을 반영하는 중요한 지표로 해석된다.
앤트로픽, 클로드 3.7 소네트의 모델 크기 제한 언급
유명 AI 평론가인 에단 몰릭(Ethan Mollick) 미국 펜실베이니아대학교 와튼스쿨 교수는 X(구 트위터)에 “클로드 3.7 소네트에 대한 평가 글을 올린 후 앤트로픽으로부터 직접 연락을 받았다”고 밝혔다.
그는 “앤트로픽은 클로드 3.7 소네트를 ‘10^26 FLOP 모델’로 간주하지 않는다고 말했다”면서, “이번 모델 개발에는 수천만 달러밖에 들지 않았지만, 앞으로 모델 크기는 훨씬 더 커질 것”이라는 설명을 덧붙였다.
10^26 FLOP은 AI 모델 훈련에 사용되는 부동 소수점 연산(Floating Point Operations, FLOP)의 양을 의미하며, 현재 최첨단 AI 모델을 구분하는 기준으로 자리 잡고 있다. 미국 바이든 행정부는 이를 ‘프론티어 모델(Frontier Model)’로 규정하고, 사전 신고 대상 임곗값으로 설정한 바 있다. 즉, 현재 출시된 AI 모델 중 일부는 이 기준을 충족하지 못할 가능성이 있다.
앤트로픽의 설명은 클로드 3.7 소네트의 모델 크기가 기존 모델보다 대폭 증가하지 않았다는 점을 시사하는 동시에, 성능 면에서는 최신 기술을 적용해 강력한 결과를 냈음을 강조한 것으로 해석된다.
AI 모델 훈련 비용 감소… 효율적 스케일링 기술 주목
기존 최첨단 AI 모델들은 개발에 1억 달러 이상의 비용이 투입되는 것이 일반적이었다.
- 오픈AI는 2023년 공개한 GPT-4의 훈련에 8,000만~1억 달러(약 1,146억~1,443억 원)를 투입한 것으로 알려졌다.
- 구글은 2024년 초 출시한 제미나이 울트라(Gemini Ultra)의 훈련에 2억 달러(약 2,866억 원)를 사용했다고, 스탠퍼드대학교의 ‘AI 인덱스(AI Index)’ 보고서에서 밝혔다.
- AI 스타트업 딥시크(DeepSeek)는 ‘V3’ 모델의 훈련에 558만 달러(약 80억 원)가 들었다고 발표했지만, 이는 GPU 구입비, 엔지니어링 비용, 인건비 등 제반 비용이 제외된 수치로 논란이 있었다.
이에 비해 앤트로픽의 발표는 첨단 AI 모델의 개발 비용이 점차 절감되고 있으며, 이는 효율적인 모델 훈련 및 스케일링 기술 발전 덕분이라는 점을 시사한다.
AI 기술 전문가 베제이 SL(Vijay SL)은 X를 통해 “앤트로픽의 발표는 기존 예상보다 적은 연산량으로도 뛰어난 성능을 달성할 수 있음을 보여준다”며, “아키텍처 혁신과 학습 방법론 개선이 순수 연산량 증가보다 점점 더 중요한 역할을 하고 있다”고 평가했다.
앤트로픽, 차세대 프론티어 모델 출시 예고
한편, 앤트로픽은 향후 출시될 차세대 AI 모델의 규모가 더욱 커질 것임을 시사했다.
특히, 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 양방향 음성 모드 및 메모리 기능을 갖춘 차세대 모델을 개발 중이라고 밝혀, 더욱 강력한 AI 시스템이 몇 개월 내 등장할 가능성이 제기되고 있다.
이는 단순한 텍스트 기반 추론을 넘어 멀티모달(Multimodal) 기능을 갖춘 새로운 프론티어 모델의 등장을 예고하는 것으로, AI 업계는 앤트로픽의 차기 모델이 구체적으로 어떤 기술적 도약을 이룰지 주목하고 있다.
답글 남기기