에임인텔리전스, '피지컬AI 안전 컨소시엄' 출범

[이데일리 김응태 기자] 인공지능(AI) 보안 전문기업 에임인텔리전스는 ‘피지컬 인공지능(AI)’의 안전 문제를 연구하기 위한 글로벌 컨소시엄 ‘파스크’(PASC·Physical AI Safety Consortium)를 출범했다고 17일 밝혔다.

사진=에임인텔리전스

파스크는 피지컬AI 안전의 공통 정의, 평가 방법론, 벤치마크 및 표준화에 필요한 연구 기반을 함께 마련하는 글로벌 컨소시엄이다. 에임인텔리전스가 소집하고 비영리 방식으로 운영하며 개인과 기관은 연구, 모델, 하드웨어, 컴퓨팅, 데이터 등 다양한 방식으로 참여할 수 있다.

현재 파스크에는 구글, 마이크로소프트, 오라클, LG전자 등에 소속한 전문가와 국내외 대학 및 AI 안전 연구기관의 연구진 등이 참여하고 있다. 주요 참여 인사로는 △구글 소속 제니 니(Jenny Ni) △마이크로소프트·요크대학교 소속 아드리안 데 윈터(Adrian de Wynter) △오라클 소속 히테쉬 파텔(Hitesh Laxmichand Patel)과 아밋 아가왈(Amit Agarwal) 등이다.

파스크는 첫 공동 과제는 피지컬AI 안전의 정의와 평가 방향에 대한 기준을 정립하는 것이다. 이후 공동 평가 체계와 벤치마크 설계, 운영 환경에서의 적대적 테스트, 시뮬레이션과 실제 로봇 환경을 아우르는 검증 연구 등으로 활동을 확대할 계획이다.

에임인텔리전스는 AI 보안 전문 스타트업으로 레드팀 솔루션과 가드레일 솔루션을 선보였다. 기술력을 인정 받아 오픈AI 가드레일 부문 아시아태평양(APAC) 파트너사로 협업하고 있다.

박하언 에임인텔리전스 최고기술책임자(CTO)는 “피지컬AI가 현실 세계에서 더 많은 역할을 맡게 될수록 안전은 모델의 성능과 별개로 설계하고 검증해야 할 핵심 기반”이라며 “파스크가 학계와 산업계의 전문성을 연결해 피지컬AI 안전의 공통 언어와 검증 기반을 만들어가는 장이 될 것”이라고 말했다.