핵심 요약: 무엇이 달라졌는가
2026년 현재, 미국 FDA는 1,450여 개의 AI·머신러닝(ML) 기반 의료기기를 승인했지만, 생성형 AI(Generative AI) 기반 의료기기는 단 한 건도 허가하지 않았다. 반면 한국은 생성형 AI를 활용한 의료기기를 세계 최초로 승인했다. 이 대비는 단순한 규제 속도 차이가 아니다. 생성형 AI가 의료 환경에서 갖는 고유한 불확실성 — 이른바 ‘환각(hallucination)’ 현상 — 을 어떻게 다룰 것인지에 대한 근본적인 철학 차이를 반영한다.
FDA는 왜 생성형 AI 의료기기를 허가하지 않는가
기존 AI·ML 의료기기는 대부분 판별 모델(Discriminative Model) 기반이다. 영상에서 병변을 탐지하거나, 심전도에서 부정맥을 분류하는 방식은 정해진 출력 범주 안에서 작동하기 때문에 검증 데이터셋을 통한 성능 평가가 비교적 명확하다. FDA는 2021년 설립한 Digital Health Center of Excellence(DHCoE)와 2024년 이후 발전시켜온 AI/ML-Enabled Medical Devices 규제 프레임워크를 통해 이러한 모델들을 순차적으로 검토해왔다.
그러나 생성형 AI는 출력이 본질적으로 개방형(open-ended)이다. 동일한 입력에 대해 매번 다른 텍스트, 이미지, 또는 임상 권고가 생성될 수 있으며, 모델이 학습 데이터에 없는 패턴을 그럴듯하게 만들어내는 환각 현상이 의료 맥락에서는 치명적일 수 있다. 예를 들어, 생성형 AI가 전혀 존재하지 않는 약물 상호작용 정보를 신뢰감 있는 문장으로 제시하거나, 실제와 다른 검사 수치를 기반으로 진단 방향을 제시할 경우 의사와 환자 모두 이를 실시간으로 검증하기 어렵다. FDA가 2024년 게재한 분석(Mintz Law, 2024)에서도 “혁신의 속도는 FDA 규제 프레임워크가 따라가지 못하는 수준으로 가속화되고 있다”고 직접 언급할 만큼, FDA 내부에서도 생성형 AI에 대한 기존 허가 경로 적용이 한계에 달했다는 인식이 있다.
2026년 1월, FDA는 저위험 웨어러블 및 소프트웨어 기기에 대해 규제 완화 방향을 발표했다(reason.com, 2026). 그러나 이는 어디까지나 저위험 분류 기기에 한정된 내용이며, 진단·처방 보조 영역에서 생성형 AI를 활용하는 기기에 대한 허가 방침은 여전히 공백 상태다.
한국 세계 최초 승인: 무엇을 허가했고, 어떤 조건이 붙었는가
한국 식품의약품안전처가 생성형 AI 기반 의료기기를 세계 최초로 승인했다는 사실(팜이데일리, 2026)은 국제 의료기기 규제 역사에서 주목할 만한 사건이다. 다만 여기서 짚어야 할 점이 있다. 승인된 기기가 생성형 AI 출력을 최종 임상 의사결정에 직접 사용하는 구조인지, 아니면 의사의 검토를 거치는 ‘보조 도구(Clinical Decision Support Tool)’로 설계되었는지가 안전성 평가의 핵심이다.
이 구분은 규제 논의에서 SaMD(Software as a Medical Device) 분류 체계와 직결된다. International Medical Device Regulators Forum(IMDRF)이 제시하는 SaMD 위험 등급 체계에서 생성형 AI가 진단 또는 치료 결정을 단독으로 내리는 구조는 가장 높은 위험 등급에 해당한다. 한국 최초 승인 사례가 이 등급에서 이루어졌다면, 그것은 진정한 의미의 규제 선진성이 아닌 규제 모험일 수 있다. 반대로, 생성형 AI를 의사-환자 상호작용의 보조 인터페이스로만 활용하면서 임상 책임을 의사에게 명확히 귀속시키는 구조라면, 이는 합리적인 첫 발걸음으로 평가할 수 있다.
AI-Driven Digital Biomarker와 생성형 AI의 규제 검증 요구 수준
2026년 규제 동향에서 또 하나의 핵심 흐름은 AI 기반 디지털 바이오마커(Digital Biomarker)의 검증 요건 강화다. FDA가 2026년 4월 발표한 Federal Register Notice(Docket No. FDA-2026-N-2476)는 임상시험에서 디지털헬스 기술 활용을 위한 의견 수렴을 요청하며, 알고리즘 투명성(Algorithmic Transparency), 편향 검증(Bias Validation), 그리고 실사용 데이터(Real-World Data) 기반 성능 모니터링을 명시적으로 요구했다.
이는 생성형 AI에도 그대로 적용된다. 생성형 AI 기반 의료기기가 진정한 임상 가치를 증명하려면, 단순히 출시 전 성능 검증(Pre-market Validation)만으로는 부족하다. 모델이 실제 임상 환경에서 다양한 환자 집단 — 고령자, 희귀질환 환자, 소수 언어권 환자 — 에 걸쳐 일관된 출력을 보이는지를 지속적으로 추적하는 사후 시장 감시(Post-market Surveillance) 체계가 반드시 병행되어야 한다. 이 기준을 충족하지 않은 채 허가된 기기는 사용자가 인지하지 못하는 방식으로 특정 집단에서 편향된 출력을 낼 수 있으며, 그 피해는 의사가 아닌 환자에게 돌아간다.
임상 현장에서의 시사점: 응급의학과 전문의의 한 마디
응급실에서 나는 매일 ‘빠른 정보 처리’와 ‘불확실성 관리’ 사이에서 의사결정을 한다. 생성형 AI가 임상 메모를 작성하거나 감별진단 목록을 제시하는 보조 도구로 활용된다면, 그것은 분명 유용하다. 하지만 생성형 AI는 “그럴듯하게 틀리는 능력”을 가지고 있다는 점에서, 분류형 AI(예: 흉부 X선 판독 알고리즘)와는 본질적으로 다르다. 분류형 AI가 틀렸을 때는 출력값 자체가 의심을 유발하지만, 생성형 AI가 틀렸을 때는 그 문장이 자연스럽고 권위 있게 들린다는 점이 위험하다.
한국의 세계 최초 승인이 의미를 갖기 위해서는, 실제로 그 기기가 임상에서 어떤 방식으로 사용되고 있는지, 오류 발생 시 책임 귀속이 어떻게 설계되어 있는지가 공개되어야 한다. FDA가 신중한 것은 두려움 때문이 아니라, 과거 의료기기 안전성 허가의 실수를 반복하지 않으려는 제도적 학습의 결과다. 속도가 아닌 검증의 질이 이 분야에서 신뢰를 결정한다. 임상 현장에서도 마찬가지다 — 아직 검증되지 않은 생성형 AI 출력을 의사 검토 없이 환자에게 전달하는 워크플로우는 설계 단계부터 재고되어야 한다.
References
- U.S. Food and Drug Administration. Artificial Intelligence and Machine Learning (AI/ML)-Enabled Medical Devices. FDA Digital Health Center of Excellence. Updated 2026. Available at: https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-and-machine-learning-aiml-enabled-medical-devices
- Mintz Law. FDA Needs a New Approach to AI/ML-Enabled Medical Devices. March 12, 2024. Available at: https://www.mintz.com/insights-center/viewpoints/2146/2024-03-12-fda-needs-new-approach-aiml-enabled-medical-devices
- FDA Federal Register Notice. Docket No. FDA-2026-N-2476: Advancing the Use of Digital Health Technologies in Clinical Investigations for Drugs and Biological Products. April 2026. Available at: https://www.thefdalawblog.com/2026/04/fda-seeks-input-on-digital-health-technologies-in-clinical-investigations-for-drugs-and-biological-products/
- 팜이데일리. 美 FDA도 못 뚫은 ‘생성형 AI’ 의료기기… 韓 세계 최초 승인. 2026. Available at: https://pharm.edaily.co.kr/News/Read?newsId=01315286645417760
- International Medical Device Regulators Forum (IMDRF). Software as a Medical Device (SaMD): Clinical Evaluation. IMDRF/SaMD WG/N41FINAL:2017.
- Intuition Labs. FDA AI Guidance 2026: Drug Manufacturing & Digital Health. 2026. Available at: https://intuitionlabs.ai/articles/fda-ai-guidance-2026-drug-manufacturing-digital-health