AI가 신약 개발 파이프라인에 본격적으로 진입하고 있다
2026년 1월, FDA는 Guiding Principles of Good AI Practice (GAIP) in Drug Development를 공식 발표했다. CDER(의약품평가연구센터)와 CBER(생물의약품평가연구센터)가 공동으로 마련한 이 원칙은, AI가 신약 개발의 각 단계—후보물질 탐색, 임상시험 설계, 규제 제출 데이터 생성—에 사용될 때 어떤 기준을 충족해야 하는지를 처음으로 체계화한 문서다. 이 가이드라인이 등장한 배경에는 단순한 기술 수용이 아닌, AI 생성 근거가 규제 의사결정에 실제로 영향을 미치기 시작했다는 현실 인식이 깔려 있다.
신약 개발에서 AI의 역할은 이제 분자 구조 예측이나 환자 스크리닝 보조 수준을 넘어섰다. 임상시험 실패를 예측하는 모델, 합성 대조군(Synthetic Control Arm)을 구성하는 알고리즘, 실제 의무기록 데이터(RWD)를 처리하는 AI 파이프라인이 실제 규제 제출물에 포함되기 시작했다. FDA가 원칙을 발표한 것은, 이 흐름을 막겠다는 것이 아니라 최소한의 신뢰 기반을 확보하겠다는 의지다.
GAIP가 요구하는 것: 투명성, 검증, 거버넌스
FDA의 GAIP는 세 가지 핵심 축으로 구성된다. 첫째는 AI 모델의 투명성(Transparency)이다. 신약 개발에 사용된 AI 모델이 어떤 데이터로 학습되었는지, 어떤 방식으로 출력을 생성하는지, 그리고 어떤 상황에서 실패할 수 있는지를 규제 제출 문서에 명확히 기재해야 한다. 이것은 단순한 방법론 기술이 아니다. 블랙박스 모델로 생성된 안전성 신호를 규제 기관이 재현·검증할 수 없다면, 그 데이터는 신뢰 기반 의사결정의 근거로 받아들여질 수 없다는 선언이다.
둘째는 임상적 검증(Validation)이다. AI 모델은 실제 환자 집단에서, 그리고 사용 목적에 부합하는 맥락에서 검증되어야 한다. 예컨대 특정 민족 집단에서만 학습된 모델이 전 세계 환자를 대상으로 한 임상시험 설계에 사용된다면, 그 출력의 편향 가능성은 규제 수준의 문제가 된다. 이는 의료기기 AI의 SaMD(Software as a Medical Device) 검증 요건과 맥락을 같이한다.
셋째는 거버넌스(Governance)다. AI를 사용하는 제약사와 연구기관은 해당 AI의 수명주기 전반—개발, 배포, 모니터링, 업데이트—을 관리할 책임 구조를 갖추어야 한다. 모델이 업데이트되거나 재학습될 때 규제 기관에 어떻게 보고할 것인지도 명확하지 않으면, 한 번 승인된 AI 파이프라인이 사실상 통제 불가능한 블랙박스로 운용될 위험이 있다.
임상적 의미: 규제 가이드라인이 실제로 의미하는 것
GAIP가 신약 개발 AI에만 적용된다고 보는 것은 좁은 해석이다. 이 원칙이 SaMD와 임상 AI 전반으로 확장될 가능성은 이미 2026년 FDA 디지털헬스 전략 문서에서도 시사되고 있다. 실제로 FDA의 TEMPO 파일럿(CMS와의 협력 하에 일부 디지털 헬스 기기를 Medicare/Medicaid 환자에게 빠르게 도달시키는 경로)은 규제 승인과 급여 접근을 동시에 설계하는 방향으로 진행되고 있으며, 이 과정에서 GAIP와 같은 AI 신뢰성 원칙이 사실상 기준선으로 작동하고 있다.
임상 현장에서 이 변화가 의미하는 바는 구체적이다. AI가 환자 선정 기준을 제안하거나, 합성 대조군 데이터를 생성하거나, 바이오마커 기반 하위군 분석을 수행할 때, 그 출력이 규제 기관과 임상의 모두에게 설명 가능해야 한다는 것이다. “AI가 이렇게 예측했다”는 말은 충분한 근거가 될 수 없다. 어떤 피처(feature)가 결정에 기여했는지, 어떤 환자 집단에서 예측 정확도가 낮아지는지를 임상의가 이해하고 판단할 수 있어야 한다.
이것은 응급의학과 임상 현장과도 직결된다. 응급실에서 사용되는 AI 중증도 예측 모델, 패혈증 조기 경고 알고리즘, 영상 AI 판독 시스템이 모두 같은 원칙 하에 놓여야 한다. 모델이 ‘왜’ 그렇게 판단했는지 설명하지 못하면, 임상의는 그 출력에 의존하되 책임은 질 수 없는 구조에 갇힌다.
현재 적용 수준과 남아있는 간극
현실적으로 GAIP는 아직 법적 구속력이 있는 규정(Regulation)이 아닌 안내 원칙(Guiding Principles) 수준이다. 이것이 갖는 함의는 양면적이다. 제약사와 AI 개발사에게는 현재 유연성이 있다는 것이지만, 동시에 이 원칙을 따르지 않아도 당장 규제 장벽에 부딪히지 않을 수 있다는 의미이기도 하다. 가이드라인이 강제성을 갖기 전까지의 공백기에 허술하게 검증된 AI 파이프라인이 규제 제출에 포함될 위험은 실재한다.
또한 GAIP가 제안하는 검증 방법론—특히 다양한 환자 집단에서의 공정성 평가, 분포 이동(distribution shift)에 대한 강건성 검증—은 현재 많은 AI 개발 주체가 충분히 수행하지 않고 있는 항목들이다. 학습 데이터의 편향, 외부 검증 부재, 모델 업데이트에 따른 성능 변화 미추적 문제는 이미 여러 고소득국 데이터에서 반복적으로 보고된 바 있다(Obermeyer Z et al., Science, 2019; Finlayson SG et al., Science, 2019). 2026년 현재도 이 문제는 구조적으로 해소되지 않았다.
한국의 상황도 크게 다르지 않다. 2026년 6월 국회에서 열린 ‘디지털헬스케어 및 보건의료정보 활용 지원에 관한 법률’ 제정 공청회에서는 “현행 규제 가이드라인이 LLM 시대를 따라가지 못하고 있다”는 지적이 제기됐다. 한국의 디지털의료제품법이 2025년 시행되었지만, AI가 신약 개발 및 임상 근거 생성에 사용되는 맥락에서의 검증 기준은 여전히 미흡하다는 평가가 많다.
임상 현장에서의 시사점
응급실 현장에서 10여 년을 보내면서 가장 경계하는 것 중 하나가 ‘숫자가 판단을 대신하는 상황’이다. CURB-65 점수가 3점이라도 환자의 전반적인 상태를 보지 않으면 안 된다. AI 출력도 마찬가지다. 문제는 AI가 틀리는 것이 아니다—임상의가 AI 출력을 비판적으로 해석하지 않는 것이 문제다.
FDA의 GAIP는 그 맥락에서 올바른 방향을 가리키고 있다. 투명성, 검증, 거버넌스라는 세 축은 AI를 신뢰하는 조건이지, AI를 거부하는 논리가 아니다. AI가 신약 개발 데이터를 생성하고, 임상시험 설계에 개입하고, 응급실 의사결정을 보조하는 시대에, 우리에게 필요한 것은 그 출력을 읽는 능력과 그 출력에 의문을 제기하는 구조다. 가이드라인이 법적 구속력을 갖기 전에, 임상 현장이 먼저 이 질문을 던져야 한다: “이 AI가 왜 이렇게 말하는지, 나는 설명할 수 있는가?”
References
- FDA CDER/CBER. Guiding Principles of Good AI Practice in Drug Development. January 2026. https://www.fda.gov/about-fda/center-drug-evaluation-and-research-cder/artificial-intelligence-drug-development
- IntuitionLabs. FDA AI/ML SaMD Guidance: Complete 2026 Compliance Guide. July 2026. https://intuitionlabs.ai/articles/fda-ai-ml-samd-guidance-compliance
- IntuitionLabs. FDA Digital Health Guidance: 2026 Requirements Overview. June 2026. https://intuitionlabs.ai/articles/fda-digital-health-technology-guidance-requirements
- Obermeyer Z, Powers B, Vogeli C, Mullainathan S. Dissecting racial bias in an algorithm used to manage the health of populations. Science. 2019;366(6464):447-453.
- Finlayson SG, Bowers JD, Ito J, et al. Adversarial attacks on medical machine learning. Science. 2019;363(6433):1287-1289.
- 다음 뉴스. 디지털헬스케어법·의료AI 규제 허들… 국회 공청회 주요 논점. 2026년 6월 22일. https://v.daum.net/v/20260622160503108