[의학신문·일간보사=이재원 기자]?뇌출혈 여부와 출혈량을 분석하고 의료진의 판독 순서까지 자동으로 정하는 인공지능(AI) 의료기기가 정부의 '고영향 AI' 판단에서는 제외된 것으로 나타났다. 식품의약품안전처가 허가한 2등급 이상 AI 의료기기가 500건을 넘어섰지만, 사업자가 법에서 정한 고영향 AI 사전검토를 실제 실시했는지 정부가 파악하는 체계도 미흡한 것으로 확인됐다. 생명·신체에 중대한 영향을 미칠 수 있는 의료AI에 대한 안전·신뢰 의무를 어디까지 적용할 것인지 명확한 판단기준을 마련하고, 식약처 의료기기 허가정보와 연계해 사업자의 사전검토 여부를 관리해야 한다는 지적이 나온다. 김선민 의원. 사진 제공=김선민 의원실. 국회 과학기술정보방송통신위원회 소속 조국혁신당 김선민 의원이 과학기술정보통신부로부터 제출받은 자료에 따르면 올해 상반기 '고영향 AI 확인 전문위원회'가 검토한 AI 의료기기 3건은 모두 과기정통부로부터 고영향 AI에 해당하지 않는다는 판단을 받았다. 이 가운데 A사의 제품은 뇌 CT 영상을 분석해 뇌출혈 유무와 출혈량을 산출할 뿐 아니라 판독 우선순위까지 자동으로 정렬하는 AI 의료기기다. 식약처 의료기기 등급상 '중증도의 잠재적 위해성'을 가진 3등급 의료기기로 분류돼 있다. 바다이야기하는법 해당 업체는 AI가 의료진의 진단을 보조하고 최종적인 판단은 의료진이 내린다는 . 등을 근거로 고영향 AI가 아니라고 자체 판단했다. 전문위원회는 의료진의 실질적인 개입 여부와 진단 과정에서 AI가 미치는 영향 등을 검토했고, 과기정통부도 이를 토대로 해당 제품을 고영향 AI로 분류하지 않았다. 김 의원은 판독 순서를 조정하는 기능까지 단순한 진단 보조로 볼 수 있는지 따져봐야 한다고 지적했다. 뇌출혈과 같이 신속한 진단이 중요한 질환에서는 AI의 우선순위 판단에 오류가 발생할 경우 위급한 환자의 판독이 늦어질 가능성도 고려해야 한다는 것이다. 의료AI의 고영향 여부를 정부가 얼마나 파악하고 있는지를 놓고도 관리 공백이 제기됐다. 올해 8월31일 기준 식약처가 허가한 2등급 이상 AI 의료기기는 모두 538건이다. 2등급이 446건, 3등급이 92건이며 관련 제조업체는 171곳에 달한다. 반면 과기정통부에 자신의 제품이 고영향 AI인지 확인해 달라고 요청한 업체는 3곳에 불과했다. 각 업체가 1건씩 총 3건을 신청했으며, 과기정통부는 3건 모두 고영향 AI가 아니라고 결론 내렸다. 현재까지 정부 확인 절차를 거쳐 고영향 AI로 판단된 의료기기는 한 건도 없는 셈이다. 온라인손오공게임 문제는 나머지 제품이 고영향 AI에 해당하는지 여부를 정부가 반드시 확인하도록 하는 구조가 아니라는 。이다. AI기본법은 사업자가 AI 제품이나 서비스를 제공할 경우 해당 AI가 고영향 AI에 해당하는지 사전에 검토하도록 의무화하고 있다. 고영향 AI는 사람의 생명·신체 안전이나 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI로 정의된다. 보건의료 제공·이용체계와 의료기기 및 디지털의료기기의 개발·이용도 적용 가능 영역에 포함돼 있다. 그러나 사업자가 자체적으로 내린 판단 결과를 정부에 의무적으로 제출하거나 등록하도록 하는 규정은 없다. 과기정통부에 고영향 AI 해당 여부를 확인해 달라고 요청하는 것 역시 사업자의 선택이다. 정부도 사업자가 사전검토 의무를 이행했는지 별도로 확인하지 않고 있다. 과기정통부는 김 의원실에 사업자의 고영향 AI 사전검토 실시 여부를 "별도로 。검하고 있지 않다"고 답변했다. 정부에 확인을 요청하지 않은 사업자가 모두 사전검토를 하지 않았다고 단정할 수는 없다. 다만 정부가 별도로 。검하지 않는 만큼 나머지 의료AI에 대해 사전검토가 실제 이뤄졌는지, 사업자가 어떤 근거로 고영향 여부를 판단했는지를 정부가 파악하기 어려운 구조다. 고영향 AI 해당 여부에 따라 사업자가 부담하는 의무도 달라진다. 릴게임다운 고영향 AI로 분류되면 AI기본법에 따라 위험관리와 이용자 보호, 설명 방안 마련, 사람에 의한 관리·감독 등 강화된 안전·신뢰 확보 조치를 이행해야 한다. 반면 현행 AI기본법상 사실조사 대상에는 사업자의 고영향 AI 사전검토 의무 위반이 포함돼 있지 않다. 이미 고영향 AI로 분류된 제품의 안전·신뢰 의무 위반에 대해서는 사실조사와 시정명령이 가능하지만, 사업자가 사전검토 자체를 하지 않았을 경우 이를 확인하고 시정하도록 할 명시적 근거는 부족하다는 지적이다. 김선민 의원은 "뇌출혈 유무를 분석하고 판독 순서까지 정하는 AI도 고영향 AI에 해당하지 않는다면, 정부는 환자 안전에 미치는 영향을 어떤 기준으로 평가했는지 밝혀야 한다"며 "의료진이 최종 판단하더라도 AI가 판독 순서와 진단 과정에 미치는 영향까지 따져야 한다"고 말했다. 이어 "법적으로 사전검토를 의무화하고도 정부가 실시 여부조차 .검하지 않는다면, 그 의무가 현장에서 지켜지는지 누가 확인하겠느냐"며 "과기정통부는 사업자의 판단 근거를 문서화하고 확인할 수 있도록 제도를 보완하고, 식약처 허가 정보와 연계해 사전검토 여부와 판단 결과를 파악하는 체계를 마련해야 한다"고 강조했다. 김 의원은 "국민이 안심할 수 있는 AI 생태계를 만들려면 과기정통부가 고영향 AI 판단 기준을 명확히 세우고, 각 부처의 정보를 연결해 안전·신뢰 체계가 현장에서 작동하도록 책임 있게 나서야 한다"고 밝혔다. font color