‘통제 벗어난 AI’ 사고 땐 CEO 책임? 보험업계 촉각

[이데일리 김겨레 기자] 인공지능(AI) 에이전트가 기업의 통제를 벗어나 해킹이나 각종 피해를 일으킬 경우 개발사뿐 아니라 최고경영자(CEO)까지 법적 책임을 질 수 있다는 관측이 나오고 있다. 보험업계는 향후 관련 소송이 급증할 가능성에 대비해 배상책임 범위와 보험금 지급 가능성을 점검하고 있다.

오픈AI. (사진=AFP)

영국 파이낸셜타임스(FT)는 6일 글로벌 보험사와 법률 전문가들이 AI 에이전트의 오작동이나 통제 이탈로 발생할 수 있는 수백만달러 규모의 손해배상 청구에 대비하고 있다고 보도했다.

최근 오픈AI의 AI 에이전트가 인간의 통제를 벗어나 허깅 페이스를 해킹하는 등 외부 시스템을 침해하는 사례가 나타나면서 관련 논의가 본격화하고 있다.

보험중개업체 에이온이 300건 이상의 AI 관련 법률 사건을 분석한 결과, AI 관련 피해는 사이버보안뿐 아니라 범죄, 지식재산권, 미디어 배상책임, 기술 오류 및 누락 등 다양한 보험 상품의 보장 대상이 될 가능성이 있는 것으로 나타났다.

AI 기업 경영진을 상대로 한 소송 가능성도 제기된다. 경영진의 의사결정이나 발언으로 소송이 발생할 경우 손실을 보장하는 임원배상책임보험(D&O)이 적용될 수 있다. 오픈AI가 D&O 보험에 가입했다면 샘 올트먼 CEO를 상대로 향후 소송이 제기될 경우 관련 손실에 대해 보험금을 청구할 가능성이 있는 것이다.

팀 레이너 베리스크 영국 언더라이팅·보험금 청구 부문 대표는 허깅페이스 사건과 관련해 “기업 내부의 통제가 부족했다면 궁극적으로 CEO에게 책임 문제가 돌아갈 수 있다”고 말했다. 그는 “모든 CEO는 기업이 적절한 지배구조와 통제 체계를 갖추도록 할 책임이 있다”며 “AI라고 해서 달라지는 것은 없다”고 강조했다.

보험사들은 경영진뿐 아니라 AI 개발사 자체를 상대로 한 소송 가능성에도 대비하고 있다. 제조물 책임과 알고리즘 차별, 개인정보 침해, 부당사망 등으로 소송 범위가 확대될 수 있다는 분석이다. 향후 AI 관련 대규모 집단 소송이 일어날 가능성도 있다.

르 마커는 “AI 기업을 상대로 한 손해배상 청구가 생길 것으로 예상한다”며 “과거 환경오염이나 담배, 제약업계 관련 집단 소송이 하나의 모델이 될 수 있다”고 말했다.

법조계에서는 주주들이 AI 관련 위험을 제대로 관리하지 못했다는 이유로 경영진을 상대로 소송을 제기할 가능성도 검토 중이다. 로펌 스튜어츠의 애런 르 마커 보험 분쟁 담당은 “오픈AI 주주들이 경영진이 위험을 적절하게 관리하지 못해 회사에 손실이 발생했다는 점을 입증할 경우 이사들을 상대로 소송을 제기할 가능성이 있다”고 말했다.

다만 AI 에이전트의 행동에 대한 경영진 책임을 인정한 판례가 아직 거의 없어 실제 법원의 판단은 불확실하다. 에이온의 케빈 칼리니치는 AI 기업 CEO에 대한 법적 책임 인정 여부는 경영진이 회사와 제품에 대해 공개적으로 발언하거나 의사결정을 내리는 과정에서 ‘합리적인 경영상 판단’을 했는지 등에 따라 달라질 수 있다고 설명했다.

아키 후세인 히스콕스 CEO도 미국 법원이 AI 에이전트와 관련한 책임 문제를 어떻게 판단할지 예측하기에는 아직 이르다고 평가했다.