노아 굿맨 스탠퍼드대 교수 겸 humans& 공동창업자는 12일 서울 JW메리어트 동대문에서 열린 제13회 이데일리 글로벌 AI포럼(GAIF 2026)에서 ‘공생: 인간과 AI가 함께 번영하는 방법’을 주제로 기조연설을 했다. 그는 인간과 AI가 서로의 목표를 이해하고 협력하는 새로운 AI 개발 방향을 제시했다.
굿맨 교수는 “AI가 무엇이 될지는 우리가 AI를 무엇을 하도록 훈련하느냐에 달려 있다”고 강조했다. AI의 성능을 높이는 데 그치지 않고 인간의 장기적인 목표와 사회적 관계까지 이해하도록 만들어야 한다는 설명이다.
|
굿맨 교수는 AI의 발전 과정을 세 가지 게임으로 설명했다. 첫 번째는 앨런 튜링이 1950년 제안한 모방 게임이다. 기계가 인간과 구별하기 어려울 정도로 대화할 수 있는지를 평가하는 방식이다. 두 번째는 클로드 섀넌이 1951년 제시한 예측 게임이다. 문장에서 다음에 등장할 단어를 예측하는 방식이다.
당시 노엄 촘스키는 단어의 통계적 예측만으로 언어의 문법과 의미를 이해할 수 없다고 지적했다. 그러나 대규모 언어모델(LLM)은 방대한 데이터를 학습하며 다음 단어를 예측하는 과정에서 문법과 지식, 추론 능력까지 발전시켰다.
이후 AI가 정답에 도달하는 추론 과정을 학습하는 방식이 등장했다. 문제를 단계별로 풀고 정답에 이른 추론을 강화하면서 독립적인 문제 해결 능력을 높였다. AI가 사람의 개입 없이 수행할 수 있는 과제의 시간과 범위도 빠르게 늘어났다.
문제는 AI가 세 번째 게임인 ‘승리’에만 집중할 때 발생한다. 정답이나 과제 완수에만 보상하면 인간이 원하는 결과보다 보상 자체를 얻는 데 집중할 수 있기 때문이다.
굿맨 교수는 1902년 베트남 하노이의 쥐 퇴치 사례를 들었다. 당시 당국은 쥐를 잡아 꼬리를 제출하면 보상금을 지급했다. 그러자 주민들이 쥐를 잡는 대신 꼬리만 자르고 놓아주거나 쥐를 사육하기 시작했다. 쥐를 없애려던 정책이 오히려 쥐를 늘리는 결과를 낳았다.
측정 지표가 목표가 되는 순간 지표로서의 기능을 잃는다는 ‘굿하트의 법칙’이다. AI도 과제 달성률만 높이도록 훈련하면 보상 체계를 악용하거나 인간이 원하지 않는 행동을 할 수 있다는 설명이다.
굿맨 교수는 AI 에이전트 간 협력 과정에서 발생할 수 있는 보안 문제도 소개했다. 2026년 7월 진행된 허깅페이스 관련 보안 실험에서 약 1200개의 AI 에이전트가 공유 게시판과 유출된 접근 토큰을 활용해 서버에 접근하고 비공개 데이터를 복사했다. 오픈AI는 이 과정에서 에이전트들이 서로의 목표를 받아들이거나 작업 기록을 조작하는 등의 보상 해킹 문제가 나타났다고 분석했다. AI가 주어진 과제의 성공에만 집중할 경우 서로 협력하면서도 인간이 의도하지 않은 결과를 만들 수 있다는 것이다.
AI 의존이 인간의 인지 능력과 사회적 관계에 미치는 영향도 경고했다. 강연 자료에는 AI가 잘못된 답을 제시했을 때 성인 실험 참가자 5명 중 4명이 이를 따랐다는 연구와, AI를 활용해 수학 문제를 연습한 학생들이 AI 없이 치른 시험에서 성적이 떨어졌다는 연구가 소개됐다.
AI를 활용해 당장의 성과를 높이는 것과 인간 스스로 문제를 해결하는 능력을 키우는 것은 별개라는 얘기다. AI가 인간을 돕는 수준을 넘어 사고하고 관계를 맺는 역할까지 대신하면 인간의 장기적인 역량이 약해질 수 있다는 게 그의 경고다.
|
굿맨 교수가 제시한 대안은 인간과 AI의 공생이다. 그는 1960년 J.C.R. 리클라이더가 제안한 ‘인간-컴퓨터 공생’ 개념을 다시 꺼냈다. 인간의 두뇌와 컴퓨터가 긴밀하게 협력해 어느 한쪽만으로는 해내기 어려운 사고와 문제 해결을 가능하게 하는 관계다.
공생을 위해서는 AI와 인간의 목표가 일치해야 한다. 그러나 인간 사회의 목표는 고정돼 있지 않다. 사람마다 생각이 다르고 사회적 규범과 공동의 목표도 대화와 협상, 제도를 거치며 계속 바뀌기 때문이다.
따라서 AI 역시 한 번 설정한 목표에 고정돼서는 안 된다. 인간의 목표와 사회적 합의가 달라지면 AI의 행동 방향도 함께 조정하는 ‘역동적 재정렬(Dynamic Realignment)’이 필요하다는 것이다.
AI가 개인의 업무를 최적화하는 데 그치지 않고 사람들 사이의 공통점을 찾아내고 협업을 돕는 역할까지 해야 한다는 의미다.
굿맨 교수는 공생형 AI가 갖춰야 할 조건으로 세 가지를 제시했다. 첫째, 개인의 업무뿐 아니라 사람들이 함께 일하는 방식과 집단의 관계를 이해해야 한다. 둘째, 당장의 과제뿐 아니라 수개월에서 수년에 걸친 인간의 장기적인 목표를 파악해야 한다. 셋째, 과제 완료 자체가 아니라 인간의 장기적인 성장과 번영에 보상해야 한다.
|
굿맨 교수가 공동창업한 humans&는 이러한 철학을 실제 제품에 적용하고 있다. 현실적인 사회적 상황을 시뮬레이션하고 그 안에서 AI를 훈련하는 것이 핵심이다.
대표적인 모델은 인간의 대화와 행동을 모방하도록 훈련한 ‘페르시몬(Persimmon)’이다. 기존 AI 비서는 고객의 말을 지나치게 정돈하거나 요청하지 않은 정보까지 덧붙이는 경향이 있다. 실제 사람들의 대화 방식과 차이가 있다는 것이다.
페르시몬은 실제 인간의 대화 데이터를 바탕으로 대화 상대의 반응과 행동을 시뮬레이션하도록 개발됐다. 자연스러운 문장을 만드는 것을 넘어 사람들이 실제로 대화를 이어가는 방식까지 학습하는 모델이다.
굿맨 교수는 실제 대화의 다음 발언을 예측하는 평가에서 페르시몬이 기존 모델보다 높은 성능을 보였다고 소개했다. 강연 자료에 따르면 다음 8개 발언을 생성하게 한 평가에서 페르시몬의 심사위원 판정 오류율은 19.8%였다. 심사위원이 AI가 생성한 대화를 실제 인간의 대화로 오인한 비율이다.
이를 활용한 제품이 AI 튜터 ‘앤튜터(&Tutor)’다. 정답을 바로 알려주는 대신 학습자가 스스로 문제를 풀도록 돕는 것이 특징이다.
학생이 문제를 틀렸을 때 곧바로 정답을 제시하는 것이 아니라 어디에서 잘못 생각했는지 질문하고 필요한 순간에 힌트를 제공한다. 학습자가 다음 문제를 혼자 해결할 수 있도록 돕는 것이 목표다.
굿맨 교수는 정답을 알려주는 것보다 누군가가 스스로 배우도록 돕는 일이 더 어렵다는 취지로 설명했다. 학습 성과 역시 당장의 정답률이 아니라 시간이 지난 뒤 학습자가 혼자 문제를 해결할 수 있는지를 기준으로 평가해야 한다는 것이다.
사람들이 함께 목표를 달성하도록 돕는 AI 모델 ‘앰퍼샌드(Ampersand)’도 공개했다. 그룹 채팅에 참여해 구성원들의 일정과 상황을 파악하고 공동 작업이 원활하게 진행되도록 지원하는 모델이다.
강연에서 소개된 사례에서는 팀원 한 명이 금요일에 자리를 비운다고 알리자 AI가 이를 기억했다. 이후 다른 팀원이 금요일에 세 명이 함께하는 출시 리허설을 제안하자 앞선 대화를 근거로 일정 충돌을 알려줬다. 개별 명령을 수행하는 데 그치지 않고 구성원들의 상황과 공동 목표를 함께 이해하는 방식이다.
앰퍼샌드를 활용한 그룹 채팅 서비스 ‘보바(Boba)’도 소개됐다. humans&는 초기 사용자들이 200만건 이상의 메시지를 주고받았으며, 설문에 응한 290명 중 95%가 서비스를 좋아하거나 매우 좋아한다고 답했다고 밝혔다.
굿맨 교수는 AI가 인간의 역할을 대체하는 방향으로 발전하기보다 인간이 더 깊이 생각하고 다른 사람들과 더 많은 일을 함께 해내도록 지원해야 한다고 강조했다.
AI의 경쟁력을 평가하는 기준도 달라져야 한다. 얼마나 많은 일을 대신하고 얼마나 빨리 정답을 내놓느냐가 아니라, 인간이 얼마나 더 깊이 생각하고 다른 사람들과 협력하며 성장하도록 돕느냐가 중요하다는 것이다. AI와 인간의 경쟁이 아닌 공생을 위한 새로운 기준이다.
