환자 치료 새로운 시대 연 인공지능…“글로벌 거버넌스 구축 필요”

윤리적 문제 고민…책임 주체 불분명 문제 해소해야

▲(왼쪽부터) 리카르도 바프티스타 레이터 HealthAI CEO, 유한주 네이버클라우드 디지털헬스케어랩장, 존림 싱가포르 듀크 엔유에스 의대(Duke-NUS) 교수, 폴 캠벨 HealthAI CRO, 김동민 JLK 대표가 토의를 진행하고 있다. (노상우 기자 nswreal@)

보건의료 분야의 인공지능(AI)은 분석, 자동화, 최적화를 넘어 예방 치료 및 치료 경로를 혁신해 환자 치료의 새로운 시대를 열고 있다. 그러나 AI 시스템에 대한 신뢰를 구축하고 이러한 기술의 공평한 접근을 가속하기 위해서는 다양한 이해관계자를 참여시킨 글로벌 거버넌스가 필요하다는 의견이 제시됐다.

리카르도 바프티스타 레이터(Ricardo Baptista Leite) 헬스AI(HealthAI) 대표는 11일 인천 송도 컨벤시아에서 열린 ‘세계 바이오 서밋(World Bio Summit 2024)’ 부대행사인 ‘보건분야 AI의 글로벌 거버넌스를 위한 도전과 기회’에서 강연을 통해 이같이 밝혔다.

그는 “AI의 활용은 새로운 기회일 수 있다. 보건과 돌봄을 혁신적으로 개선시킬 수 있으며 삶의 질을 높이고 질병 부담도 낮출 수 있다. 하지만 AI의 활용으로 인한 부정적인 부분이 있을까 하는 두려움이 있다”고 말했다.

HealthAI는 헬스케어 분야에서 AI를 규제하는 국가의 역량을 확대하는 데 초점을 맞춘 비영리 기구(NGO)다. 이들은 건강한 미래를 위해 건강 분야에서 AI 거버넌스 강화가 필요하다고 주장한다.

AI는 보건의료분야에서 의약품·의료기기의 연구개발(R&D) 단계에서부터 제조·유통, 공중보건, 시판 후 모니터링, 행정관리 등 다양하게 활용된다. 이를 통해 전 세계 개인과 지역사회의 건강을 개선하고 과잉된 의료 자원을 효율적으로 관리하는 등 긍정적으로 작용한다.

리카르도 대표는 “AI가 미국과 유럽을 제외한 중저소득 국가와 의료수준 격차를 줄이는 균형추 구실을 할 것”이라고 봤다. 다만 그는 “국가 간 디지털 격차가 점점 커지고 있다. 기본적인 AI 기술 도입에도 큰 진입장벽이 되기도 한다. 글로벌 데이터 불균형, 데이터 프라이버시 등 AI를 활용을 막는 장애 요소가 여전히 많은 상황”이라면서 “보건분야의 획기적인 글로벌 거버넌스를 구축해 긍정적인 보건 영향이 전 세계로 퍼질 수 있도록 해야 한다”고 주장했다.

이어 발표자로 나선 유한주 네이버클라우드 디지털헬스케어랩장은 사람 중심의 AI 활용이 중요하다고 강조했다. 유 랩장은 “한국에서 가장 큰 IT 기업이라는 책임감을 갖고 있다”며 “2021년 11월 AI를 활용해 혼자 사는 분들이나 환자에게 전화로 안부를 묻는 서비스 ‘클로바케어콜’을 출시했다. 기존 AI콜은 단답식으로 질문하는 반면 ‘클로바케어콜’은 친절하게 사람 중심으로 정보를 수집했다. 적은 인원으로 환자를 관리하고 감정적으로 교감할 수 있는 AI 서비스를 제공했다”고 소개했다.

그러면서 유 랩장은 “네이버는 국내 기업 최초로 AI 윤리가이드라인을 배포했다. 다양성과 공정성에 대한 존중, 안전 중심의 서비스 디자인을 담았고, 개인 정보 보안 관점에서도 아젠다를 가지고 프로세스를 운영하고 있다. 또한 AI 학습 연구데이터를 무료로 배포해 신뢰성 높은 AI 개발에 기여하고 있다”고 말했다.

AI 발전이 빠르다 보니 규제가 쉽지 않다. 전 세계적으로 200만 개 이상의 디바이스 타입이 존재하고 7000~1만 개 이상의 카테고리가 존재한다. 폴 캠벨 헬스AI 최고규제책임자(CRO)는 “복잡하고 광범위한 만큼 규제가 쉽지 않다”고 설명했다.

폴 CRO는 “사람이 결정권을 가지면 편향을 가질 수 있고, 그 결정에 대해 제대로 설명하기 어려울 수 있다. 하지만 AI는 그렇지 않다. 환경에 빠르게 적응할 수 있으며 어떠한 결정을 내렸을 때 왜 그랬는지 데이터를 통해 보여준다”고 말했다. 특히 그는 “AI는 윤리적 문제를 불러올 수 있다. 어느 주체가 책임지게 될지 알 수 없다. 복잡한 문제인 만큼 협동이 필요하다. 전 세계적으로 책임감 있는 AI 솔루션을 위해서는 힘을 모아야 한다”고 당부했다.