앞에선 빅테크들 속도조절 한목소리…속내는 'AI주도권 잡기'

[이데일리 방성훈 기자] 인공지능(AI) 기업들이 개발 속도를 늦추고 안전검증을 강화하자고 나서자 도널드 트럼프 미국 대통령이 위험론을 “사기”라고 일축했다. 기업들은 인간의 통제 능력이 기술 발전을 따라가지 못한다고 우려하지만 백악관은 중국과의 경쟁에서 뒤처질 수 있다고 맞선다. 여기에 기업공개(IPO)와 개발비 부담, 선두 기업의 시장 지배력까지 얽히면서 안전 기준을 둘러싼 논쟁이 복잡해지고 있다. 주요 인공지능(AI) 업계가 인류파멸론과 속도 조절론을 앞세우고 있지만 이면에는 이해관계와 주도권 다툼이 복잡하게 얽혀 있다는 분석이 나온다.

[이데일리 김정훈 기자]

트럼프, 젠슨 황에게 직접 전화

트럼프 대통령은 14일(현지시간) 트루스소셜에서 AI가 인류를 파괴할 것이라는 주장을 사기라고 규정했다. 정부가 이미 기업을 통제할 형사·규제 권한을 갖고 있다며 추가 안전장치 요구를 일축했다. 같은 날 젠슨 황 엔비디아 최고경영자(CEO)와 공개 통화에서도 위험론을 비판했다. 그는 로스앤젤레스(LA) 행사 무대에서 연설 중이던 젠슨 황 엔비디아 CEO에게 직접 전화를 걸어 “단언컨대 이건 전부 사기”라고 반복했다. 스피커폰으로 연결돼 통화는 객석에 그대로 공개됐다.

발단은 다리오 아모데이 앤스로픽 CEO가 12일 공개한 제안이다. 그는 AI 능력이 인간의 이해와 통제 범위를 앞서갈 수 있다며 발전 속도를 조절하자고 주장했다. 샘 올트먼 오픈AI CEO와 일론 머스크도 지지 의사를 밝혔다. 구글 딥마인드의 데미스 허사비스 CEO 역시 안전 기준 마련에 힘을 실었다. 다만 기업들이 구체적인 감속 일정에 합의한 것은 아니다.

기업들의 이해관계도 논쟁을 키운다. 14일 월스트리트저널(WSJ)은 AI 산업에서 과학적 진보와 안전에 대한 책임, 경제적 유인이 충돌하고 있다고 진단했다. 개발 경쟁을 늦추면 막대한 모델 훈련비를 줄이면서 기존 서비스로 매출을 올릴 여지가 있다는 것이다. 이들 기업이 AI 안전을 주창하면서 기업공개(IPO)를 앞두고 기업 가치를 높이는 한편 경쟁사를 견제하기 위해 주판알을 튕기고 있다는 비판이다.

더 문제는 개별 기업이 먼저 AI개발 속도를 늦출 유인이 약하다는 점이다. 이미 천문학적인 투자금을 쏟아부은 상황에서 1위가 다 가져간다면 2위 이하 기업들은 돈을 회수할 길이 없어진다. 경쟁사가 제품을 먼저 내놓으면 고객과 인재를 빼앗길 수 있다. 조지 애리슨 그라인더 CEO는 “AI기업의 가치를 정당화하는 유일한 방법은 ‘내가 모든 산업과 일자리를 차지할 것’이라고 주장하는 것뿐이다”고 꼬집었다. 위험하다는 경고가 곧 AI기술의 위력을 증명한다는 것이다.

구글·오픈AI·앤스로픽은 첨단 모델을 출시 전에 검증하는 업계 기구 설립도 논의해왔다. 참고 모델은 미국 금융산업규제기구(FINRA)다. FINRA는 정부기관이 아니라 증권거래위원회(SEC)의 감독을 받는 자율규제기구다. 이 구상을 AI에 적용하려면 기업과 검증기구의 관계부터 정해야 한다. 기업이 재원을 대더라도 평가자가 불리한 결과를 독립적으로 공개할 수 있어야 한다. 위험을 발견했을 때 출시를 중단시킬 권한이 있는지, 참여하지 않는 기업에는 어떤 기준을 적용할지 등은 남은 과제다.

구글·오픈AI 등 검증 기구 설립 논의 중

잭 클라크 앤스로픽 공동창업자가 거론한 ‘킬 스위치’(AI 작동을 중단하는 장치)도 설치 여부만으로 충분하지 않다. 제3자가 실제 작동을 확인할 수 있는지가 중요하다. 안전 기준을 정하는 기업과 검증받는 기업이 같다면 이해충돌을 막을 장치가 필요하다. 반대로 선두 기업에 맞춘 비용과 절차를 모든 기업에 요구하면 후발기업의 진입을 어렵게 할 수 있다. 이처럼 규제 대상이 규칙을 자신에게 유리하게 만드는 현상을 ‘규제 포획’이라고 한다.

데이비드 색스 백악관 과학기술자문위원장은 “AI 기업들이 자발적으로 개발을 늦추면 된다”며 “정부에 자신들이 선호하는 규제 체계를 요구하고 있다”고 했다. 그는 “초지능을 개발하지 않는 가장 쉬운 방법은 이를 개발하지 않기로 합의하는 것이다”며 AI 개발 속도를 늦추기 위해 정부가 규제를 마련해야 한다는 주장에 대해 비판했다.

국가 간 경쟁은 합의를 더 어렵게 한다. 트럼프 대통령은 ‘규칙 제정권’을 넘길 생각이 없다는 뜻을 다시금 강조했다. 그는 “AI에 필요한 유일한 통제 또는 ‘안전장치’는 강력하고 똑똑한 대통령이자 미국은 바로 그런 대통령을 보유하고 있다”며 “우리는 이미 이러한 기업에 대해 막강한 형사 및 규제 권한을 가지고 있다”고 언급했다.

중국은 미국 기업들의 제안에 반발했다. 궈자쿤 중국 외교부 대변인은 “공포 조장과 대결이 국제 AI 규칙 마련을 방해한다”고 비판했다. 이에 대해 영국 가디언지는 “안전 필요성을 부정하기보다 미국의 기술 우위를 유지하는 조건으로 속도를 늦추라는 요구를 문제 삼는 것이다”고 분석했다. 트럼프 대통령의 ‘사기’ 주장은 중국과의 패권 다툼과도 맞닿아 있다.

조지 첸 아시아그룹 파트너는 “중국 정부는 AI를 미국과의 기술 균형을 다시 짤 일생일대의 기회로 보고 있어 자발적으로 속도를 늦출 가능성은 낮다”며 “2위라면 2위에서 멈추지 않는다”고 말했다. AI 개발 속도 조절론이 실제 제도로 이어지려면 참여 기업의 선언을 넘어 공통 검증 기준과 정보 접근권, 위반에 따른 책임을 구체화해야 한다는 지적이다.