특히 이번 프레임워크가 오픈웨이트(Open-weight, 가중치 공개) AI 모델을 평가 대상에서 제외하는 방향으로 설계된 것으로 알려지면서, 개방형 AI 생태계와 안전 규제 사이의 균형 문제가 새로운 쟁점으로 떠오르고 있다.
미국 매체 악시오스(Axios)에 따르면 백악관은 4일(현지시간) 도널드 트럼프 행정부가 지난 6월 발표한 행정명령에 따른 첨단 AI 모델 평가용 자율 프레임워크 구축 기한을 충족했다고 밝혔다.
하지만 백악관은 프레임워크의 구체적인 내용과 검토 과정에 참여한 기업, 실제 적용 시점 등에 대해서는 끝내 함구했다.
백악관 관계자는 “행정명령에서 제시한 자율 프레임워크는 정해진 기한 내 완성됐다”며 “현재 업계와 후속 조치를 논의하고 있다”고 밝혔다. 이어 “앤스로픽, 오픈AI, 구글뿐 아니라 더 많은 업계 파트너들과 협력하고 있다”고 설명했지만, 구체적인 참여 기업 명단은 밝히지 않았다.
|
이번 프레임워크는 AI 개발사가 개발 중인 모델이 정부 평가 대상에 해당하는지 판단하고, 필요할 경우 출시 전 정부와 안전 검증 절차를 진행할 수 있도록 지원하는 것이 목적이다.
프레임워크에는 미국 정부가 AI 모델 출시 전 최대 30일 동안 접근할 경우 적용되는 △기밀 유지 △사이버보안 △내부자 위험 관리 △지식재산권 보호 △사용 조건 △비공개 의무 등이 포함될 예정이다.
또 미국 정부가 어떤 기관을 ‘신뢰할 수 있는 파트너(Trusted Partners)’로 지정해 첨단 AI 모델에 조기 접근 권한을 부여할지도 주요 내용으로 거론된다.
다만 백악관은 구체적인 평가 기준과 적용 범위를 공개하지 않고 있다.
트럼프 행정부의 행정명령은 첨단 AI 모델의 사이버 공격 능력을 평가하는 벤치마크 절차와 평가 대상 판단 기준을 기밀 정보로 지정했다. 해당 정보는 필요한 경우에만 AI 개발사와 연구자에게 공유하도록 했다.
반면 자율 평가 프레임워크 자체는 기밀로 규정하지 않았다. 이에 따라 정책 전문가와 AI 안전 연구자들은 정부가 어떤 기준으로 첨단 AI 모델의 위험성을 판단하는지 공개해야 한다고 촉구하고 있다.
오픈웨이트와 오픈소스는 달라
오픈웨이트와 오픈소스 AI 모델은 다르다.
오픈웨이트 모델은 AI 모델의 핵심 요소인 가중치(weights)를 공개하는 방식이다. 이용자는 공개된 가중치를 내려받아 모델을 실행하거나 일부 조정할 수 있지만, 학습 데이터와 개발 과정, 데이터 처리 방식까지 공개되는 것은 아니다.
반면 오픈소스 AI 모델은 일반적인 소프트웨어 오픈소스 개념에 가까워 모델 코드뿐 아니라 개발 과정, 학습 방식, 구성 요소 등 폭넓은 정보 공개를 요구한다.
모든 오픈소스 AI 모델은 오픈웨이트 형태를 포함할 수 있지만, 모든 오픈웨이트 모델이 오픈소스인 것은 아닌 셈이다.
최근 AI 업계에서 활용되는 모델 상당수도 엄밀한 의미의 오픈소스보다는 오픈웨이트 모델에 해당한다. 메타의 ‘라마(Llama)’와 엔비디아의 ‘네모트론(Nemotron)’ 등이 대표적이다.
소수 기업 중심 감독 논란…중국 AI 경쟁 변수
백악관의 이번 프레임워크는 오픈AI, 구글, 앤스로픽 등 대형 AI 기업이 개발하는 폐쇄형 프론티어 모델 중심의 안전 관리 체계로 해석된다.
하지만 업계에서는 오픈웨이트 모델이 정부 평가 대상에서 빠질 경우 공개된 AI 모델의 악용 가능성을 충분히 관리하기 어렵다는 우려가 나온다.
AI 정책 단체들도 일부 대형 기업만 정부 검증 체계에 참여할 경우 감독 체계의 투명성과 공정성이 떨어질 수 있다고 비판하고 있다.
반면 미국 정부는 중국과의 AI 경쟁이 격화되는 상황에서 과도한 규제가 미국 기업의 혁신 속도를 늦출 수 있다는 점도 고려하는 것으로 분석된다.
미국 의회에서는 자율 방식이 아닌 법적 의무화를 요구하는 목소리도 커지고 있다. 일부 의원들은 최첨단 AI 모델에 대한 안전성 테스트를 법으로 강제하고, 정부가 보다 명확한 기준을 마련해야 한다고 주장한다.
백악관의 이번 AI 안전 평가 프레임워크는 당장 시험대에 올랐다. 미국이 AI 패권 경쟁 속에서 첨단 모델의 안전 관리와 개방형 AI 생태계 육성이라는 두 과제 사이에서 어떻게 균형점을 찾을 수 있을지 관심이다.
