|
배경에는 2021년 시행된 법 조항이 있다. 환자가 검사 수치와 판독문, 진료 기록을 거의 실시간으로 볼 수 있게 되면서 미국 성인 대다수는 의사와 상담하기 전에 결과를 먼저 확인한다. 이 결과지를 그대로 챗봇에 올리는 환자가 늘자 의료계에서는 환각(할루시네이션)과 오독, 개인정보 유출을 걱정하는 목소리가 커졌다.
미 플로리다주에서 내과를 운영하는 제이슨 골드먼 박사는 “환자들이 검색하고 읽은 것을 바탕으로 스스로 확신해버린 병명을 반박하는 데 진료 시간을 쓴다”며 “‘감기입니다’부터 ‘암으로 죽어가고 있습니다’까지 무엇이든 나온다”고 말했다. 챗봇과 나눈 대화를 근거로 생명을 지켜주는 콜레스테롤약을 끊은 환자, AI가 불안에 맞장구쳐준 탓에 백신 접종 권고를 의심한 환자도 있었다. 그는 “권고를 하면 ‘가서 AI한테 물어보겠다’고 한다”며 “그럼 왜 병원에 왔느냐고 되묻게 된다”고 털어놨다.
기업들은 이런 관심을 사업 기회로 보고 있다. 앤스로픽의 챗봇 클로드는 일부 이용자의 의료 기록과 연결할 수 있도록 했고, 전자의무기록 업체 에픽시스템스는 자사 소프트웨어에 AI 비서를 넣었다. 오픈AI는 지난달 의료 기록과 웨어러블 기기 데이터를 연동해 건강 지표의 변화 추이를 알려주는 기능을 대폭 개방했다. 애슐리 알렉산더 오픈AI 헬스제품 부문 부사장은 자사 모델이 “임상의보다 더 잘 추론할 수 있다”고 말했다. 다만 회사 측은 모델이 의사를 대체하지는 않는다고 밝혔다.
의사들은 회의적이다. 메리 멀케이히 로욜라대 메디컬센터 스포츠의학과장은 AI가 반월상연골 파열의 종류를 구분하기 어려울 것이라고 지적했다. 파열 유형과 환자의 활동량, 관절염 정도에 따라 치료법이 달라지는데 AI의 답변은 이런 맥락을 놓칠 수 있다는 것이다. 그는 “환자가 의사의 전문성을 고려하지 않은 채 치료법을 이미 안다고 여기며 찾아오면 다소 위험해진다”고 말했다.
의사들도 어려운 의학 용어를 쉬운 말로 풀어주는 데는 AI가 쓸모 있다고 인정한다. 2024년 연구에서 챗GPT는 병리 검사 보고서를 중학생 수준으로 바꿔 썼고 의학적 정확도는 98%에 가까웠다. 그러나 림프절 검사를 하지도 않았는데 “림프절에 암이 없다”고 잘못 알려주는 오류를 냈다. 연구진은 다른 챗봇도 저지른 이 실수가 가장 흔한 오류였다고 밝혔다.
소프트웨어 개발자 메그 가와트(32)는 지난해 혈액검사 용어가 어려워 챗GPT에 해석을 맡겼다. AI는 처음엔 “아주 건강하시네요”라고 했지만, 낮게 나온 비타민D 수치를 잘못 읽는 등 오류가 여러 건 발견됐다. 이후 가와트가 수치를 바로잡자 AI는 돌연 빨간 사이렌 이모티콘과 함께 “즉시 보충제를 먹으라”고 다급하게 촉구했다. 나중에 연락해온 간호사도 보충제를 권했지만 훨씬 차분했다.
올해 봄 미국노인정신의학회지에 실린 사례 연구에서는 65세 참전용사가 과거 인지검사 결과 두 건을 챗GPT에 입력했다. 경도인지장애 진단을 받았던 이 환자에게 챗봇은 치매로 진행됐다고 알렸다. 실제로는 상태가 전혀 나빠지지 않았다. 오픈AI 대변인은 개별 사례 하나가 전체 이용 경험을 대표하지는 않으며 최신 모델은 성능과 안전장치가 개선됐다고 설명했다.
브래드 맬린 밴더빌트대 생의학정보학 교수는 챗봇에 건강 데이터를 올리는 순간 미 의료정보보호법(HIPAA)의 보호를 스스로 포기하는 것이라고 지적했다. 기업이 개인정보 정책을 사실상 알아서 정하고 언제든 바꿀 수 있어서다. 그는 “이 상황에서는 환자가 아니라 소비자”라며 “대체로 각자 알아서 조심해야 한다”고 강조했다.
