AI 안전 평가 인력 英 200명·美 34명…한국은 고작 ‘6명’

[이데일리 김현아 기자] 초고성능 인공지능(AI) 모델의 위험성을 점검하는 국가 차원의 안전 대응 역량이 주요국에 크게 못 미치는 것으로 나타났다. 국내 인공지능안전연구소(AISI)의 실제 기술 평가 인력은 6명에 그쳤고, 예산과 연산 인프라도 영국·미국·일본보다 크게 부족했다.

28일 국회 과학기술정보방송통신위원회 소속 이정헌 더불어민주당 의원이 과학기술정보통신부와 AISI에서 제출받은 자료에 따르면, AISI ‘AI 안전 평가실’의 전체 인원은 7명이다. 이 가운데 법제·규범 담당 1명을 제외하면 실제 AI 모델의 안전성을 기술적으로 평가하는 인력은 6명뿐이다.

주요국과 비교하면 격차가 크다. 영국은 관련 인력이 약 200명에 달한다. 미국은 현재 34명에서 80명까지 늘릴 계획이다. 일본도 현재 31명인 인력을 올해 60명까지 확대하고, 장기적으로 200명 규모로 늘릴 계획이다.

이정헌 의원(더불어민주당)

예산 차이도 크다. 현재 AISI의 올해 예산은 89억원 수준이다. 영국은 약 1216억원, 미국은 약 232억원을 투입하고 있다. 일본도 기존 34억원 수준이던 관련 예산을 추가경정예산을 통해 800억원 이상으로 확대했다.

AI 모델을 직접 시험할 연산 자원도 부족하다. 영국은 약 15억파운드(약 2조7000억원) 규모의 국가 컴퓨트 자원에 대한 우선 배분 체계를 갖추고 있다.

반면 국내 AISI가 보유한 GPU 서버는 5대다. 이 가운데 2대는 민간 클라우드 서버를 빌려 사용하고 있다. 조 단위 파라미터를 가진 초거대 AI 모델이나 안전장치가 제거된 이른바 ‘언센서드 모델’을 충분히 검증하기에는 한계가 있다는 지적이다.

조직의 법적 지위도 과제로 꼽힌다. AISI는 현재 한국전자통신연구원(ETRI) 부설 연구소 형태로 운영되고 있어 독자적인 인사·예산 운영에 제약이 있다. 이에 따라 최고 수준의 AI 안전·보안 전문가를 확보하고 독립적인 규제·감독 기능을 수행하는 데 한계가 있다는 게 이 의원의 지적이다.

현행 AI 기본법의 제재 수준도 문제로 거론됐다. 안전조치 시정명령을 위반할 경우 부과할 수 있는 과태료가 최대 3000만원에 그쳐 글로벌 빅테크 기업에 대한 실효적인 제재 수단으로 부족하다는 주장이다.

이정헌 의원은 “가시화된 위협에 대응하려면 국가 차원의 AI 안보 체계를 구축해야 한다”며 “AI 기본법을 개정해 AISI에 법적 독립성을 부여하고 독자적인 예산과 인사권을 보장해야 한다”고 말했다.

이어 “글로벌 빅테크를 상대로 실효성이 부족한 과태료만으로는 국민 안전을 충분히 담보하기 어렵다”며 “위협 발생 시 통제와 시정 조치가 작동할 수 있도록 제재 수단을 현실화하고 국가 차원의 AI 안보 거버넌스를 구축해야 한다”고 강조했다.