핵심 요약: 규제 공백에서 구체적 기준으로
2026년 6월 30일, 식품의약품안전처는 국내 최초로 거대언어모델(LLM, Large Language Model) 기반 디지털의료기기 허가·심사 가이드라인(민원인 안내서)을 발표했다. 이 가이드라인은 기존 소프트웨어 의료기기(SaMD) 규제 체계가 생성형 AI의 특수성을 반영하지 못한다는 문제의식에서 출발한다. 간단히 말하면, 지금까지 LLM 기반 의료 소프트웨어는 허가 기준이 명확하지 않아 시장에서 ‘회색지대’로 운영되어 왔다. 이번 가이드라인은 그 경계를 처음으로 법적 언어로 그은 문서다.
LLM 기반 디지털의료기기란 무엇인가
식약처 가이드라인이 대상으로 하는 LLM 기반 디지털의료기기는 GPT 계열을 비롯한 대형 언어 모델을 핵심 엔진으로 사용하여, 의료 진단·처방 보조·환자 모니터링 등 임상적 판단을 지원하거나 수행하는 소프트웨어를 의미한다. 기존 SaMD와의 가장 큰 차이는 ‘비결정론적 출력(non-deterministic output)’ 특성에 있다. 동일한 입력값에도 출력 결과가 매번 다를 수 있으며, 모델이 의도하지 않은 방향으로 추론(hallucination)할 수 있다는 점이 규제 설계의 핵심 도전 과제다.
이는 기존 알고리즘 기반 SaMD와 본질적으로 다른 문제다. 혈당 측정 소프트웨어나 영상 판독 AI는 훈련된 범위 내에서 예측 가능한 방식으로 작동하지만, LLM은 새로운 문맥 조합에서 예상치 못한 답변을 생성할 수 있다. 임상 현장에서 이 차이가 왜 중요한지는 명확하다. 환자 안전과 직결되기 때문이다.
가이드라인의 핵심 내용: 무엇을 어떻게 판단하는가
식약처 가이드라인은 LLM 기반 소프트웨어의 의료기기 해당 여부를 판단하는 기준, 허가 신청 시 필요한 기술 문서 요건, 그리고 임상 성능 평가 방법론을 세 축으로 구성한다.
1. 의료기기 해당 여부 판단
가이드라인은 LLM 소프트웨어가 ‘진단, 치료, 예방, 경감 또는 처치’의 목적으로 사용될 때 의료기기로 분류된다는 원칙을 재확인하면서, 동시에 일반 의료 정보 제공이나 건강 교육 목적의 소프트웨어는 의료기기 범주에서 제외할 수 있음을 명시한다. 이 경계는 FDA의 CDS(Clinical Decision Support) 소프트웨어 최종 가이드라인(2026년 7월 확정)과 구조적으로 유사하지만, 판단 주체와 책임 소재 면에서 한국 고유의 해석이 적용되어 있다.
2. 기술 문서 요건: 투명성과 재현성
허가 신청 시 제출해야 하는 기술 문서에는 모델 아키텍처 및 훈련 데이터 설명, 알려진 한계 및 실패 모드(failure mode) 명시, 그리고 성능 평가에 사용된 벤치마크 데이터셋 공개가 포함된다. 특히 ‘hallucination rate’를 정량화하고 의료 맥락에서 허용 가능한 오류 범위를 설정하도록 요구하는 항목은 국내 최초의 구체적 기준이다. 이 요건은 사실상 제조사가 자사 모델의 한계를 명문화해야 한다는 것을 의미한다.
3. 임상 성능 평가
가이드라인은 LLM 기반 의료기기의 성능 평가에 무작위대조시험(RCT)을 항상 요구하지 않고, 적용 목적과 위험 등급에 따라 실세계 근거(Real-World Evidence, RWE)와 전문가 패널 검토를 허용하는 유연한 구조를 제시했다. 이는 현실적인 접근이지만, 동시에 낮은 위험 등급 제품에서 임상 근거가 충분히 확보되지 않은 채 허가가 이루어질 수 있다는 우려를 낳는다.
국제 규제 흐름과의 비교: 한국의 위치
FDA는 2026년 초 최초의 AI 경고장(Warning Letter)을 발송하면서 LLM을 규제 판단에 사용하다 임상 요건을 누락한 제조사에 책임을 물었다. 영국 NHS는 AI Airlock 프레임워크를 통해 AI 의료기기의 단계적 실제 환경 검증을 의무화하고 있다. 이러한 국제 흐름과 비교할 때, 이번 식약처 가이드라인은 사전 허가 기준을 명문화했다는 점에서 의미가 있으나, 허가 이후 사후 감시(post-market surveillance) 체계와 실제 임상 환경에서의 지속적 성능 모니터링 요건이 아직 구체화되지 않았다는 한계가 있다.
특히 LLM은 지속적으로 학습하거나 외부 데이터와 연결될 수 있어, 허가 시점의 성능이 실제 사용 환경에서 유지된다는 보장이 없다. FDA의 PCCP(Predetermined Change Control Plan, 사전 결정 변경 관리 계획) 개념이 국내 규제 체계에 통합되는 시점이 언제가 될지가 향후 핵심 과제다.
임상 현장의 실질적 의미: 제조사와 병원 모두에게
이번 가이드라인은 두 가지 방향에서 임상 현장에 영향을 미친다. 첫째, LLM 기반 의료 소프트웨어를 개발하거나 도입하는 제조사와 병원 모두 해당 소프트웨어가 의료기기에 해당하는지를 사전에 명확히 판단해야 한다. 병원에서 자체 도입한 의료용 AI 챗봇이 사실상 미허가 의료기기로 분류될 수 있기 때문이다. 둘째, 의료진은 LLM이 제공하는 임상 정보의 ‘규제 지위’가 무엇인지를 확인해야 한다. 허가받지 않은 AI 도구의 추천을 임상 결정에 반영했다가 부작용이 발생했을 때, 법적 책임 소재가 명확하지 않은 구조가 지금도 유효하다는 점을 기억해야 한다.
응급의학과 전문의의 한 마디
응급실에서 일하다 보면 AI 보조 도구에 대한 질문을 자주 받는다. ‘이 AI가 말하는 진단이 맞나요?’라는 질문이 아니라, ‘이 AI는 허가받은 의료기기인가요?’라는 질문을 의료진 스스로 던질 수 있어야 한다. 식약처 LLM 가이드라인은 그 질문에 처음으로 공식적인 답변 구조를 제공했다는 점에서 진전이다.
그러나 한 가지는 분명히 짚고 싶다. 규제 문서가 존재한다고 해서 AI가 안전해지는 것은 아니다. 허가를 받은 LLM 의료기기라도, 훈련 데이터의 편향, hallucination, 실제 임상 환경과의 불일치는 여전히 현실적 위험으로 남는다. 응급 현장에서 AI의 출력을 ‘참고 자료’가 아닌 ‘결론’으로 사용하는 순간, 그 의료기기의 허가 여부보다 임상 의사의 판단 중단이 더 큰 문제가 된다. 가이드라인이 만들어낸 경계선은, 책임을 규제 기관과 제조사에 분산시키는 것이지 의료진의 판단 책임을 면제하지 않는다. 이 점을 간과하지 않는 것이, 지금 디지털 헬스케어 시대 임상 전문가에게 요구되는 리터러시다.
References
- 식품의약품안전처. 거대언어모델(LLM) 기반 디지털의료기기 허가·심사 가이드라인(민원인 안내서). 2026년 6월 30일 발표.
- Shin, S-Y. 식약처 LLM 기반 디지털의료기기 허가·심사 가이드라인 해설. sooyongshin.wordpress.com. 2026년 7월 19일.
- FDA. Clinical Decision Support Software — Final Guidance. U.S. Food and Drug Administration. 2026.
- FDA. Good AI Practice (GAIP) in Drug Development — Draft Guidance. 2026.
- Braiviq. Healthcare AI Just Crossed Into The Regulator’s Hands — NHS AI Airlock, ARPA-H, Clinical Agents, FDA 2026. braiviq.com. 2026.
- LinkedIn Medical Affairs. FDA Just Issued Its First AI Warning Letter. 2026.
- 의료 AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법). 2026년 1월 22일 시행.