생성형 인공지능(AI)을 활용한 의료기기는 잠재적 적응증까지 고려한 새 평가 기준이 적용돼야 한다는 주장이 제기됐다.

 한국보건산업진흥원(KHIDI)은 최근 '생성형 인공지능 도입의 영향과 정책적 시사점' 보고서에서 생성형 인공지능(AI) 의료기기 기술 특성을 고려한 평가 방법과 사후 관리 체계 구축을 제안했다.

 보고서는 "생성형 AI 의료기기는 특정 적응증뿐만 아니라 잠재된 적응증까지도 평가해야 하므로 기존과 다른 새로운 평가 방법과 기준이 필요하다"며 "미래 기술의 잠재적 위험까지 고려한 포괄적이고 유연한 평가 기준이 필요하며, 사회·윤리적 편향 및 오용 가능성을 포함하는 종합적인 위험 평가 모델을 개발해야 한다"고 주장했다.

 임상 현장에서 지속적으로 모델이 업데이트되거나 적응증이 확대되는 상황을 모니터링하고 리스크를 관리하는 체계에 대한 가이드라인 내 지침도 보완할 필요가 있다는 주장이다.

 데이터 보호와 활용의 균형 있는 접근도 요구했다.

 보고서는 바이오헬스 분야 생성형 AI의 핵심은 양질의 데이터에 있지만 보건의료 데이터는 민감한 개인정보를 포함하고 있어 데이터 보호와 활용 사이의 균형을 맞추는 것이 매우 중요하다며 개인정보 보호와 강력한 데이터 보안 체계가 확보된 환경에서 실질적인 데이터 활용이 활성화될 수 있도록 정책적 노력이 요구된다고 밝혔다.

 이어 "데이터 활용이 확대되는 만큼 정보보호 기준, 위수탁 관리 체계, 중계기관의 자격 등에 대한 법적 장치 등을 체계적으로 마련해야 한다"고 덧붙였다.

 보고서는 "기술의 잠재력을 최대한 활용하면서도 잠재적 위험을 최소화하기 위해서는 의료 종사자의 인공지능 리터러시(Al Literacy) 제고가 필수적"이라며 "AI 리터러시 교육은 단순히 AI 사용법을 넘어서 AI가 유발할 수 있는 편향이나 오류를 식별하는 비판적 사고 능력과 책임성, 개인정보 보호 등 윤리적 판단 능력을 기르는 데 중점을 둬야 한다"고 당부했다.

 그러면서 "궁극적으로 의료 종사자의 AI 리터러시 제고는 생성형 AI의 안전하고 신뢰할 수 있는 활용을 위한 핵심 기반이 될 것"이라고 단언했다.