요약: 이 글에서 다루는 핵심
2026년 1월, FDA는 신약개발 분야에 적용되는 Good AI Practice(GAIP) 가이드라인 원칙을 공식화했다. 표면적으로는 제약·바이오 R&D를 겨냥한 문서처럼 보이지만, 실질적으로는 AI 기반 임상결정지원(CDS), SaMD(Software as a Medical Device), 그리고 디지털 헬스 플랫폼 전반에 걸쳐 규제 기준의 방향을 예고하는 문서다. 응급실 현장에서 매일 AI 도구를 접하는 임상의 입장에서, 이 가이드라인이 실제 의료 AI 개발과 임상 도입에 어떤 의미를 갖는지 구체적으로 짚어볼 필요가 있다.
GAIP 가이드라인의 등장 배경
FDA는 2026년 1월 “Guiding Principles of Good AI Practice in Drug Development”를 통해 AI/ML 기반 신약개발 전 과정에 적용 가능한 원칙적 프레임워크를 제시했다. 이는 기존 GxP(Good Practice) 체계—GCP, GMP, GLP—에 AI를 통합하려는 시도로, AI 모델의 설계, 검증, 문서화, 모니터링 전반에 걸친 품질 기준을 명문화한 것이다.
배경을 이해하려면 현재 FDA의 AI 의료기기 승인 속도를 먼저 살펴볼 필요가 있다. 2026년 현재 FDA 승인 AI/ML 기반 SaMD는 이미 900개를 넘어섰고, 생성형 AI 기반 기기의 Breakthrough Device 지정도 급증하고 있다. 문제는 이 승인 건수가 실제 임상 검증의 깊이를 담보하지 않는다는 점이다. 이 상황에서 GAIP는 단순한 신약개발 내부 지침을 넘어, AI 기반 의료기술 전반에 대한 규제 기관의 철학적 선언으로 읽힌다.
GAIP의 핵심 원칙: 무엇이 달라지는가
GAIP가 제시하는 원칙은 크게 다섯 가지 축으로 요약된다.
- 투명성(Transparency): AI 모델의 설계, 학습 데이터, 알고리즘 구조를 규제 기관이 검토 가능한 수준으로 문서화할 것
- 재현성(Reproducibility): 동일 입력에 대해 동일 출력이 보장되어야 하며, 모델 버전 관리와 변경 이력이 추적 가능해야 함
- 검증(Validation): 내부 검증뿐 아니라 독립적인 외부 검증 데이터셋을 통한 성능 확인 요구
- 편향 평가(Bias Assessment): 훈련 데이터와 실제 적용 대상 집단 간 인구통계적 불일치 여부를 명시적으로 평가
- 지속적 모니터링(Post-deployment Monitoring): 배포 후 실제 사용 환경에서의 성능 변화를 추적하는 체계 의무화
이 원칙들이 신약개발에만 국한되지 않는 이유는, FDA가 동일 기간에 디지털 헬스 가이드라인 전반을 개편하면서 CDS 기능 해석 기준도 “투명성과 의사 개입 가능성”을 중심으로 정비했기 때문이다(FDA Digital Health Guidance, 2026). GAIP와 SaMD 규제 프레임워크는 사실상 같은 방향을 향하고 있다.
임상 AI 도구에 대한 실질적 함의
GAIP가 임상 현장에 던지는 핵심 질문은 단순하다. “지금 응급실에서 사용하는 AI 예측 모델, 그 학습 데이터와 검증 과정을 우리 병원이 실제로 알고 있는가?” 대부분의 경우 답은 ‘아니오’다.
예를 들어 응급실에서 흔히 접하는 패혈증 조기 경보 알고리즘이나 ECG 판독 보조 AI가 있다고 가정하자. 현재 이들 대부분은 배포 전 단계에서 내부 검증을 거쳤지만, 실제 사용 병원의 환자 구성, 시간대별 데이터 패턴, 전자의무기록 입력 방식의 차이가 모델 성능에 어떤 영향을 미치는지 지속적으로 모니터링되지 않는다. GAIP가 “post-deployment monitoring” 원칙을 명시한 것은 바로 이 공백을 겨냥한 것이다.
2026년 FDA가 AI 의료기기에 경고장을 발송하기 시작한 것도 이 맥락이다. 문제가 된 기기들의 공통점은 초기 승인 데이터와 실사용 환경 간의 괴리를 제조사가 감지하지 못했거나, 감지했더라도 보고하지 않았다는 점이었다. GAIP는 이 구조적 공백을 사전 설계 단계부터 막으려는 시도다.
국제 규제 조화와 한국 임상 현장의 위치
GAIP가 중요한 또 다른 이유는 국제 규제 조화의 기준점이 될 가능성이 높기 때문이다. FDA의 AI/ML SaMD 가이드라인 컴플라이언스 분석(IntuitionLabs, 2026)에 따르면, 2026년 발효된 QMSR(Quality Management System Regulation)은 ISO 13485:2016 기준과 FDA 요건을 정렬시켰고, 이는 EU MDR, 일본 PMDA, 한국 식약처의 디지털의료제품법과 점진적으로 수렴하는 방향이다.
한국은 2026년 5월 디지털의료제품법이 시행되면서 AI 의료기기의 소프트웨어 기반 판단 기준을 정비했지만, GAIP 수준의 편향 평가와 지속적 모니터링 의무화는 아직 명문화되지 않은 상태다. 6월 국회 공청회에서 논의된 디지털헬스케어법(보건의료데이터활용 지원법) 역시 AI 모델의 품질 기준보다 데이터 활용 근거를 우선 논의하는 구조로, GAIP가 제시하는 수준의 검증 의무와는 간극이 존재한다.
GAIP의 한계: 원칙 선언이 검증을 대체하지 않는다
GAIP는 구체적 수치 기준이나 검증 방법론을 제시하지 않는다. “투명성을 확보하라”고 요구하지만, 무엇이 투명한 문서화인지의 기준은 여전히 회사와 규제 기관의 협상 과정에 달려 있다. “편향을 평가하라”고 명시하지만, 어떤 통계적 방법론으로, 어느 수준의 불균형까지 허용 가능한지는 가이드라인 어디에도 정의되지 않는다.
더 근본적인 문제는 GAIP 자체가 강제력 있는 규정(regulation)이 아니라 원칙(guiding principles)이라는 점이다. FDA가 이를 실제 심사 과정에서 어떻게 적용할지는 향후 구체적인 지침 발전과 집행 사례가 축적되어야 명확해진다. 특히 신약개발 외 의료기기·CDS 분야에 대한 구체적 적용 기준은 아직 공백 상태다.
응급의학과 전문의의 한 마디
응급실에서 AI 도구를 사용할 때 내가 가장 먼저 묻는 것은 “이 알고리즘이 우리 병원 환자에게도 검증되었는가”다. GAIP는 바로 이 질문을 규제 언어로 번역한 문서다.
문제는 원칙이 아니라 실행이다. 현재 임상 현장에서 사용되는 AI 도구의 대부분은 개발사의 내부 검증 데이터만으로 도입되고, 실사용 이후 성능 추적은 사실상 이루어지지 않는다. 응급실처럼 데이터 분포가 빠르게 변하는 환경—계절별 감염병 패턴, 인구 구성 변화, 병원 운영 방식의 전환—에서 배포 전 검증 성능이 6개월 후에도 유효하다는 보장은 없다.
GAIP가 임상 현장에 주는 실용적 메시지는 이것이다: AI 도구를 도입할 때 “어디서 만들었느냐”보다 “우리 환경에서 어떻게 작동하는지 누가 지속적으로 감시하느냐”를 계약서에 명시하라. 규제가 이 질문을 강제하기 전에, 임상 현장이 먼저 이 질문을 표준 도입 절차로 만들어야 한다.
References
- FDA CDER/CBER. Guiding Principles of Good AI Practice in Drug Development. January 2026. https://www.fda.gov/about-fda/center-drug-evaluation-and-research-cder/artificial-intelligence-drug-development
- IntuitionLabs. FDA AI/ML SaMD Guidance: Complete 2026 Compliance Guide. July 2026. https://intuitionlabs.ai/articles/fda-ai-ml-samd-guidance-compliance
- IntuitionLabs. FDA Digital Health Guidance: 2026 Requirements Overview. June 18, 2026. https://intuitionlabs.ai/articles/fda-digital-health-technology-guidance-requirements
- IntuitionLabs. FDA AI Guidance 2026: Drug Manufacturing & Digital Health. July 2026. https://intuitionlabs.ai/articles/fda-ai-guidance-2026-drug-manufacturing-digital-health
- PHUSE US. Validation Strategies for Agentic AI Platforms in GxP‑Regulated Environments (PAP_ML04). 2026. https://www.lexjansen.com/phuse-us/2026/ML/PAP_ML04.pdf