▶AI 거물들, 잇따라 개발 속도 조절론 제기 ▶중국 추격 감안할 때 현실성 떨어진다는 지적도 ▶반도체는 결국 GPU·HBM 수요 둔화 여부가 핵심 지금까지 인공지능(AI) 업계의 화두는 압도적으로 속도였습니다. 얼마 전 챗GPT가 신모델 아스트라(ASTRA)를 내놓은 것도 마찬가지 맥락입니다. 이런 식으로 오픈AI가 새로운 모델을 내놓으면 앤트로픽이 대응했고, 구글과 xAI가 뒤를 따르는 구조였습니다. 더 강력한 모델을 만들기 위해 그래픽처리장치(GPU) 확보 경쟁이 벌어졌고, 데이터센터 투자 규모도 빠르게 커져왔습니다. 그런데 이게 무슨 일일까요. 갑자기 AI 거물들이 브레이크를 밟아야 한다는 목소리를 내고 있습니다. 최근 다리오 아모데이 앤트로픽 CEO가 쓴 글을 보겠습니다. 그는 ‘We Must Pace the Frontier(우리는 프런티어 AI의 발전 속도를 조절해야 한다)’라는 제목의 글을 통해 프런티어 AI의 발전 속도를 늦출 필요가 있다고 주장했습니다. AI 개발 자체를 중단하자는 것이 아니라, 안전기술과 인간의 통제 능력이 모델 발전 속도를 따라갈 수 있도록 속도를 관리하자는 주장입니다. 그가 특히 우려하는 부분은 ‘재귀적 자기개선(recursive self-improvement)’입니다. 과거에는 사람이 코드를 만들고 실험을 설계하고 다음 모델을 개발했습니다. 최근에는 AI가 직접 코드를 작성하고 연구와 실험을 지원하면서 새로운 AI 개발 과정에 참여하기 시작했습니다. AI 성능이 높아질수록 다음 세대 AI를 만드는 속도가 빨라지고, 더 강력해진 AI가 그다음 AI 개발을 다시 가속하는 구조가 만들어질 수 있습니다. 이 경우 기술 발전 속도가 인간이 안전장치를 만드는 속도를 앞지를 수 있다는 것이 아모데이의 우려입니다. 최근 AI 에이전트가 예상하지 못한 방식으로 외부 시스템을 공격하거나 평가 체계를 우회하려 한 사례들이 잇달아 알려진 것도 이런 문제의식을 키운 것으로 보입니다. 아모데이는 외부 평가자를 AI 기업 내부에 참여시키고, 프런티어 AI 기업들이 공동 안전기준을 마련하며, 장기적으로는 국가 간 개발 속도까지 조율할 필요가 있다고 제안했습니다. 흥미로운 점은 경쟁사인 오픈AI의 수장 샘 올트먼도 이 같은 주장에 한목소리를 내고 있다는 점입니다. 블룸버그 등 외신에 따르면 올트먼 CEO는 최근 회사 미팅에서 ‘오픈AI가 AI 개발 속도를 조절할 수 있고, 다른 AI 랩과 함께 속도를 맞추는 방안도 가능하다’는 취지의 발언을 했습니다. 또 오픈AI는 최근 의회에 ‘만약 업계가 공동으로 AI 개발 속도를 늦춘다면 그게 반독점법 위반인지 명확히 해달라’는 취지의 문의를 했습니다. 한술 더 떠 올트먼 CEO는 “안전을 우려해 연내 오픈AI를 상장하지 않겠다”고 공식 천명했습니다. 일론 머스크 xAI 대표 역시 “다리오(앤트로픽 CEO)가 맞다”는 글을 X에 올리며 이런 입장에 동참하고 있습니다. AI 업계 3명의 거물이 거의 동일한 시간에 ‘AI 속도조절론’에 동참하는 행보를 보인 것입니다. 어떤 맥락에서 이런 발언이 쏟아지는지 진의를 정확하게 파악하기는 힘듭니다. 기업가들이 회사에 도움이 되지 않는 발언을 ‘안전’과 ‘보안’을 이슈로 했다고 믿기는 어렵습니다. 그렇다면 이 같은 각도에서 발언의 의도를 바라볼 여지가 있습니다. 기사 전문은 매일경제신문의 프리미엄 재테크 콘텐츠 플랫폼 매경플러스에서 확인할 수 있습니다. 네이버에서 ‘매경플러스’를 검색하거나 아래 QR코드를 스마트폰으로 찍으면 연결됩니다.