고객센터

뉴스와 시론
상세페이지 작성글 정보
제목 ChatGPT는 의사를 도울 수 있고, 환자를 해칠 수도 있다.
작성자 관리자 작성일 2023-05-22 조회수 89

※ 기사ChatGPT Can Help Doctorsand Hurt Patients

 

챗봇(Chatbot)은 의사들에게 의학적 정보를 제공한다는 측면에서 매력적이지만연구자들은 힘든 윤리적 결정에 있어 AI를 신뢰하는 것은 위험하다고 경고하고 있다.

 

스탠퍼드 의과대학 교수이자, Kaiser Permanente의 CEO였던 ROBERT PEARL은 이제는 청진기보다 AI가 더 중요하다라고 말했다. Pearl은 더 이상 임상을 보지는 않지만그는 ChatGPT를 사용하여환자의 치료상황을 요약정리하고레터를 작성하고난감한 상황에서 어떻게 환자를 진단할지에 대한 아이디어를 구하는 의사들을 안다고 말했다그는 의사들이 사람들의 건강 개선을 위한 수십만 개의 유용한 봇(bot) 응용 프로그램을 발견할 것이라고 추측했다.

 

OpenAI의 ChatGPT와 같은 기술이 구글 검색의 우월성에 도전하고산업 변화에 대한 논의를 촉발함에 따라언어 모델이 프로그래머법률가의사와 같은 사무직(white-collar) 노동자들의 업무를 담당할 수 있다는 것을 보여주기 시작했다이는 해당 기술이 환자에게 서비스를 제공하는 데 어떤 도움을 줄 수 있는지를 두고 의사들 사이에 논의를 촉발했다의료 전문가들은 언어 모델이 디지털 의료 기록에서 정보를 찾아내거나환자에게 길고 기술적인 내용을 요약해줄 것을 기대하지만한편으로 의사를 속이거나 잘못된 진단이나 치료 계획으로 이어지는 부정확한 응답을 제공할 수 있다는 두려움도 가지고 있다.

 

AI가 의료서비스에 미치는 영향을 연구하는 하버드 대학 공중보건 강사 Heather Mattie는 ChatGPT를 처음 사용했을 때깊은 인상을 받았다그녀는 자신이 연구하는 주제인 HIV 연구에서 사회적 관계 모델링이 어떻게 사용되었는지에 대한 요약을 요청했다. ChatGPT는 그녀의 지식 밖에 있는 주제에 대해서도 언급했고그녀는 더 이상 이것이 진실인지 분별할 수 없었다그녀는 ChatGPT가 의학 논문에서 완전히 다르거나 상반되는 결론을 어떻게 조정하는지그리고 누가 그 답변이 적절하거나유해한지를 결정하는지 궁금해졌다.

 

Mattie는 사용자가 봇(bot)이 100% 정확하지 않을 수 있고편향된 결과를 생성할 수 있음을 인지하고 있다면텍스트 요약과 같은 업무에 유용한 도구가 될 수 있다고 말했다그러나, Mattie는 ChatGPT가 인종 및 성별 편향적 기록이 있는 심혈관 질환 및 환자중증도평가에 대한 진단 도구를 어떻게 다룰지 우려했다또한그녀는 ChatGPT가 종종 사실을 만들어 내거나정보의 출처를 명확하게 밝히지 않기 때문에 임상에서 사용하기를 조심스러워하고 있다. “의학 지식과 의료 행위는 시간이 지남에 따라 변화하고 발전한다우리는 ChatGPT가 일반적인 치료라고 언급할 때 그 정보를 어느 시점에서 가져오는지 알 수 없다그것은 최신 정보일까이미 지나간 것일까?”

 

또한사용자는 ChatGPT 스타일의 봇이 허구 또는 잘못된 정보를 아주 자연스럽게 제공하기 때문에알고리즘 응답에 대한 사실 확인을 하지 않으면 심각한 문제로 이어질 수 있다는 점에 주의해야 한다또한, AI가 생성한 텍스트는 미묘하게 사람들에게 영향을 미친다지난 1월 발표된 ChatGPT의 윤리적 문제에 관한 연구*동료 평가(peer review)를 거치지는 않았지만챗봇이 인간의 의사결정에 영향을 미칠 수 있는 일관성 없는 도덕적 조언자를 만든다고 결론 내렸다.

*The moral authority of ChatGPT

 

의사가 되는 것은 백과사전적인 의학 지식을 되뇌는 것 이상의 것을 갖춰야 한다많은 의사들이 텍스트 요약과 같은 위험도가 낮은 작업에 ChatGPT를 사용하는 것은 열광하고 있지만생명윤리학자들은 의사들이 생존 또는 회복 가능성이 낮은 환자를 수술하는 것이 올바른 선택인지와 같은 어려운 윤리적 결정에 직면했을 때 봇에게 의존하여 조언을 구하는 것을 우려한다.

 

에든버러 대학 Technomoral Futures 센터 생명윤리학자 Jamie Webb은 이러한 종류의 단계(윤리적 문제를 봇에게 의존)를 생성형 AI 모델에 맡기거나 자동화되게 할 수 없다라고 밝혔다작년, Webb과 도덕 심리학팀은 의학에서 사용할 AI 기반 도덕적 조언자(moral adviser)” 구축을 위해 필요한 것이 무엇인지 연구*했다. Webb과 공동 저자는 이러한 시스템이 서로 다른 윤리 원칙 간에 균형을 안정적으로 유지하는 것이 어려울 것이며의료종사자가 스스로 어려운 결정을 내리는 대신 봇에 지나치게 의존하게 되면 도덕적 탈숙련화(moral de-skilling)”가 일어날 수 있다고 결론지었다.

*Artificial Moral Advisors: A New Perspective from Moral Psychology

 

의료서비스에서 ChatGPT의 사용과 문제점 

 - 출처: What does ChatGPT mean for Healthcare?

 

ChatGPT는 의료서비스에서 어떻게 사용될까?

의료서비스에서 ChatGPT의 잠재적 활용분야가 많고, ChatGPT가 의료서비스를 개선할 수 있는 규모는 의료서비스 시스템에 중요한 변화를 가져올 수 있다코로나19 유행 이후원격 의료 이용이 증가하였으며, ChatGPT는 환자가 진료를 예약하고치료받도록 돕고의료 정보를 관리하는 가상의 보조원을 개발하여 의료서비스의 원격 관리를 가능하게 했다.

 

의료서비스에서 최종 결정을 내리기 위해서는 항상 인간” 의사가 필요하지만, ChatGPT는 잠재적인 약물 상호 간 작용을 표시하거나특정 상태에 대한 치료 옵션 제안관련 임상 지침의 제공 등과 같은 증거 기반에 권장 사항을 실시간으로 제공하여임상 의사의 결정을 지원할 수 있다*.

*관련 연구Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum

 

진료기록 보관은 ChatGPT가 의료시스템을 개선할 수 있는 또 다른 영역이다. ChatGPT는 기록-보관 절차를 효과적으로 간소화하면서환자의 병력을 요약할 수 있다이론적으로의료종사자는 ChatGPT에 명령을 내릴 수 있으며, ChatGPT는 주요 세부 정보를 자동으로 요약할 수 있다실시간 번역은 의료 분야에서 활용할 수 있는 ChatGPT의 또 다른 기능이다시스템의 고급 언어 처리 기능을 활용하여 기술 용어와 의학 전문 용어를 빠르고 정확하게 번역하여 환자가 그들의 진단치료 사항 및 의학적 지시사항을 완전하게 이해할 수 있도록 한다.

 

임상 시험은 의료시스템의 발전에 매우 중요하다이는 새로운 치료법진단 도구 및 예방 전략을 개발하는데 중심 역할을 한다임상 시험을 위해서는 많은 참가자가 필요하며 때로는 모집이 어려울 수 있다. ChatGPT는 해당 임상 시험 모집 기준을 충족하는 사람을 식별하여 연구자를 참여 의향이 있는 사람과 연결하는데 도움을 줄 수 있다. ChatGPT는 또한 의학 교육을 향상시킬 수 있는 잠재력이 있다이는 전문의료진과 학생들이 필요한 의료 정보에 접근할 수 있도록 도울 것이다마지막으로, ChatGPT는 정신 건강 지원환자 원격 모니터링약물 관리질병 감시진단서 작성환자 분류 등에 잠재적으로 응용 가능하다.

 

의료서비스에서 ChatGPT 사용의 문제점

위에 언급한 바와 같이의료서비스에서 ChatGPT의 잠재력은 매우 크지만 관련된 모든 논의에서 윤리적 고려를 배제할 수는 없다. ChatGPT 및 발전된 AI의 출현과 함께 우리는 인공 지능으로의 전환점에 있으며점점 더 똑똑해지고 유능해지는 도구를 윤리적이고 안전하게 사용하는 방법을 찾아야 한다.

 

모든 산업에서 AI 도구를 사용할 때 해결해야 할 많은 윤리적 고려사항이 있다아마도 의료서비스에서 가장 중요한 것은 개인정보 보호 및 안전에 대한 것이다. ChatGPT를 사용할 때우리는 데이터를 제공받고의료 분야에서 해당 데이터에는 종종 환자의 기밀 정보가 포함될 수 있다. ChatGPT가 의료 분야에서 더 폭넓게 사용되기 전에환자의 정보가 기밀로 유지되도록 시스템을 구축이 필요하므로이는 데이터 보호에 있어 많은 영향을 미칠 것이다또한, ChatGPT의 능력으로 인해 사용자는 시스템이 항상 100% 정확하다고 맹목적으로 신뢰할 수 있는 위험이 있다. ChatGPT는 모든 단계의 업무 수행이 아닌 지원을 위해서만 사용되어야 하며, ChatGPT가 제공하는 모든 것은 한 번 더 확인할 필요가 있다만약 ChatGPT로부터 제공된 AI 기반의 정보가 부정확하다면그것은 사람들의 건강에 악영향을 미칠 것이기 때문에 각별한 주의가 필요하다.

 

전반적으로, ChatGPT는 다양한 방식으로 의료시스템을 간소화시키고 개선하는 잠재력을 가지고 있다이 기술이 더 많은 분야에 도입됨에 따라 인터넷이 산업적 혁명을 일으킨 것과 같은 큰 변화를 가져올 것이다그러나이 기술은 주의해서 사용해야 하며, “인간” 의료 전문가 없이 의료와 관련된 의사결정을 내리는데 이를 이용해서는 안 된다.