|
에이전틱 AI는 사용자의 지시에 따라 도구와 시스템을 자율적으로 호출해 업무를 수행하는 AI다. 기업의 운영 효율과 생산성을 높일 것으로 기대되지만, 권한 오남용과 프롬프트 조작, 응용프로그램인터페이스(API) 연동 과정에서의 정보 유출 등 새로운 보안 위험을 동반할 수 있다. 책임 귀속과 감사로그 관리도 주요 과제로 꼽힌다. AI 관련 규제 환경이 빠르게 변화하면서 기업이 도입·운영 단계부터 보안 통제와 준법 체계를 함께 설계해야 할 필요성도 커지고 있다.
행사는 이성엽 고려대 교수이자 한국정보통신법학회 회장의 개회사와 정영진 김앤장 변호사의 환영사로 시작한다. 이어 이상근 고려대 정보보호대학원 교수가 ‘에이전틱 AI의 자율 역량과 통제 방안 동향’을, 한혜원 김앤장 변호사가 ‘사이버 위기 대응과 관련된 기업의 내부통제 시스템 설계의 방향’을 주제로 발표한다.
종합토론은 정보보호포럼 위원장인 권태경 연세대 교수가 진행한다. 이주형 서울시립대 법학전문대학원 교수, 박기웅 세종대 정보보호학과 교수, 이종혁 과학기술정보통신부 정보보호산업과 과장, 민경표 카카오뱅크 정보보호실장(CISO), 차윤호 김앤장 고문이 패널로 참여해 보안 통제와 규제 대응의 실무적 쟁점을 논의한다.
이성엽 회장은 “에이전틱 AI와 특화 모델의 확산으로 기업의 생산성과 효율성이 극대화되는 한편, 자율적인 도구 호출 및 시스템 연동에 따른 새로운 유형의 보안 리스크와 책임 문제가 대두되고 있다”고 말했다.
이어 “이번 세미나가 급변하는 규제 환경 속에서 기업들이 실효성 있는 기술적 통제 방안과 내부통제 체계를 함께 설계하여 안전하고 신뢰할 수 있는 AI 생태계를 구축하는 중요한 지침이 되기를 바란다”고 밝혔다.
