핵심 요약: 왜 지금 LLM 규제인가
2026년 6월 30일, 식품의약품안전처는 「거대언어모델(LLM) 기반 디지털의료기기 허가·심사 가이드라인」을 공식 발표했다. 이는 ChatGPT류 생성형 AI가 의료 행위에 직접 개입하는 시대에 대응하는 한국 최초의 LLM 특화 규제 프레임이다. 기존 AI 의료기기 가이드라인이 머신러닝 기반 예측 모델 중심이었다면, 이번 가이드라인은 자연어 생성·대화형 출력이라는 LLM 고유의 특성에서 발생하는 새로운 위험을 정면으로 다룬다. 임상 현장에서 AI 도구를 이미 사용 중이거나 도입을 검토하는 의료진이라면 이 규제가 의미하는 바를 정확히 이해해야 한다.
LLM 기반 디지털의료기기란 무엇인가
LLM 기반 디지털의료기기는 대규모 언어모델을 핵심 알고리즘으로 활용하여 질병의 진단, 치료 계획 수립, 예후 예측 등 의료적 판단에 직접 또는 간접적으로 관여하는 소프트웨어 의료기기(SaMD)를 지칭한다. 단순한 의료 정보 제공이나 행정 보조 기능은 의료기기 범주 밖에 놓이지만, 특정 환자의 임상 데이터를 입력받아 진단 결론이나 치료 추천을 생성하는 순간 규제 대상이 된다.
미국 FDA는 이미 2026년 기준 1,524개의 AI 의료기기를 승인한 상태이며(IntuitionLabs, 2026), 한국 식약처 역시 디지털의료제품법 시행(2024) 이후 AI 의료기기 심사 건수가 급격히 증가하고 있다. 그러나 LLM은 기존 딥러닝 분류 모델과 달리 ‘환각(hallucination)’이라는 본질적 결함을 가진다. 즉, 존재하지 않는 약물 용량을 그럴듯하게 제시하거나, 잘못된 진단 근거를 유창한 문장으로 생성할 수 있다. 이 위험이 기존 AI 의료기기 규제 체계만으로는 충분히 포착되지 않는다는 문제 의식이 이번 가이드라인의 출발점이다.
가이드라인이 새롭게 정의한 심사 기준
이번 식약처 가이드라인은 LLM 특유의 위험 요소를 반영하여 기존 SaMD 심사 기준에 다음과 같은 요건을 추가·명확화했다.
1. 출력 불확실성 정량화 의무
LLM은 확률 기반 출력 구조를 가지므로, 동일 입력에도 출력이 달라질 수 있다. 가이드라인은 제조사에게 출력의 일관성(consistency)과 재현성(reproducibility)을 임상적으로 의미 있는 수준에서 정량화하고 검증 데이터를 제출하도록 요구한다. 단순히 “정확도 몇 퍼센트”가 아니라, 실패 모드(failure mode)와 그 임상적 영향을 체계적으로 기술해야 한다.
2. 환각 모니터링 및 완화 전략
환각은 LLM의 구조적 문제로, 제거가 아닌 관리의 대상이다. 가이드라인은 환각 발생 빈도를 사전 평가하고, 임상적으로 위험한 환각(예: 잘못된 약물 처방 제안)에 대한 안전망(예: 규칙 기반 후처리 필터, 의료진 검토 필수 설계)을 갖추도록 명시했다. 이는 AI가 최종 의사결정자가 아닌 보조자로 설계되어야 한다는 ‘인간 감독(human-in-the-loop)’ 원칙과 맥을 같이 한다.
3. 학습 데이터 투명성
LLM의 성능은 사전학습 데이터의 질과 범위에 크게 좌우된다. 가이드라인은 학습 데이터의 출처, 한국 임상 데이터 포함 여부, 데이터 편향(bias) 평가 결과를 문서화하도록 요구한다. 특히 글로벌 LLM을 기반으로 의료기기를 개발할 경우, 한국인 임상 특성을 반영한 추가 학습(fine-tuning) 또는 성능 검증이 필수적이다.
4. 시판 후 지속 모니터링 체계
LLM은 지속적 업데이트와 버전 변경이 빈번하다. 가이드라인은 알고리즘 변경 시 재심사 기준을 명확히 하고, 실사용 데이터(Real-World Evidence)를 활용한 시판 후 성능 모니터링 계획을 요구한다. 이는 FDA의 Pre-Determined Change Control Plan(PCCP) 개념을 한국 규제 환경에 적용한 것으로 볼 수 있다.
임상적 의미: 실제로 무엇이 달라지는가
이 가이드라인이 임상 현장에 미치는 영향은 단순히 제조사의 허가 부담 증가에 그치지 않는다. 병원에서 LLM 기반 AI 도구를 도입할 때 의료진이 반드시 물어야 할 질문이 생긴다. 이 도구는 식약처 허가를 받은 의료기기인가, 아니면 미허가 소프트웨어인가? 만약 미허가 상태로 임상 결정에 활용된다면, 의료 책임 소재는 어디에 귀속되는가?
2026년 한국 AI 기본법이 시행되면서 고위험 AI 시스템에 대한 수평적 규제 체계가 작동하기 시작했다. 의료 AI는 명백히 고위험 범주에 해당하며, 식약처 가이드라인과 AI 기본법이 중첩 적용되는 복합 규제 환경이 형성되고 있다. JAMA Health Forum이 지적한 것처럼, 승인된 AI 의료기기의 임상 근거 공백(evidence gap) 문제는 여전히 심각하다. 1,524개 FDA 승인 기기 중 실제 무작위대조시험(RCT) 근거를 가진 것은 소수에 불과하다는 점은 한국 상황에도 동일하게 적용된다.
LLM 규제의 구조적 한계
가이드라인이 진일보한 것은 사실이나, 현장 적용에는 명확한 한계가 존재한다.
- 규제 속도 문제: LLM 기술은 수개월 단위로 급변하지만, 허가 심사는 통상 수년을 요구한다. 심사가 완료될 시점에 해당 모델이 이미 구형이 되는 역설이 발생할 수 있다.
- 경계 불명확성: ‘의료 목적’과 ‘비의료 목적’의 경계가 불분명한 LLM 서비스가 다수 존재한다. 처방 지원 기능을 포함한 전자의무기록(EMR) 내 LLM 어시스턴트가 의료기기 규제를 받는지 여부는 현재도 회색지대다.
- 글로벌 LLM과의 충돌: 해외 개발 LLM 기반 의료 서비스가 국내 시장에 진입할 때 동일한 허가 기준을 적용받는지에 대한 집행력 문제가 남아 있다.
- 임상 검증 인프라 부족: 가이드라인이 요구하는 임상 데이터 기반 검증을 수행할 역량을 갖춘 국내 기관이 제한적이다.
임상 현장에서의 시사점
응급실에서 근무하는 입장에서 LLM 기반 AI 도구의 위험성은 추상적 논의가 아니다. 과거 응급실에서 AI 기반 패혈증 예측 도구의 알람이 울릴 때, 그 알람을 신뢰하는 정도는 ‘이 도구가 어떤 근거로 어떤 환자군에서 검증되었는가’에 달려 있었다. 검증 과정이 불투명한 도구일수록, 임상의는 알람을 무시하거나 과신하는 두 가지 오류 중 하나를 범하게 된다.
LLM은 기존 AI보다 훨씬 설득력 있는 문장으로 잘못된 판단을 제시할 수 있다. 숫자 출력 모델이 “패혈증 위험 확률 87%”를 내놓을 때와, LLM이 “이 환자는 패혈증 3단계로 즉각 항생제 투여가 필요합니다”라고 서술할 때, 임상의가 느끼는 권위감은 다르다. 후자가 더 위험하다.
식약처 가이드라인은 이러한 위험에 대한 사회적 응답이다. 그러나 규제는 도입의 시작이지 보장이 아니다. 의료 현장에서 LLM을 도구로 활용할 때, 허가 여부 확인과 함께 ‘이 AI가 내 임상 판단을 보조하는가, 아니면 대체하는가’라는 질문을 멈추지 않아야 한다. 승인된 기기도 틀릴 수 있고, 미승인 기기가 유용할 수도 있다. 그러나 책임의 소재는 항상 임상의에게 있다.
References
- 식품의약품안전처. 거대언어모델(LLM) 기반 디지털의료기기 허가·심사 가이드라인(민원인 안내서). 2026.06.30.
- Shin SY. 식약처 LLM 기반 디지털의료기기 허가/심사 가이드라인 (26.6) 해설. sooyongshin.wordpress.com. 2026.07.19.
- IntuitionLabs. FDA-Approved AI Medical Devices List: Complete 2026 Guide. intuitionlabs.ai. 2026.
- Mittermaier M, et al. “A review of the nature of evidence required for FDA authorization of artificial intelligence medical devices.” JAMA Health Forum. 2023;4(5):e230780.
- Kim DW, et al. “Regulatory frameworks for artificial intelligence in healthcare: a comparative analysis.” npj Digital Medicine. 2024;7:108.
- FDA. Digital Health Center of Excellence. fda.gov. Accessed 2026.07.28.
- blueBriX. The 2026 AI reset: a new era for healthcare policy. bluebrix.health. 2026.