의료 AI 규제의 무게 중심이 벤더에서 규제 기관으로 이동하다
2026년 상반기, 의료 AI 생태계에서 가장 주목할 만한 변화는 기술 혁신 속도가 아니라 규제 아키텍처의 재편이다. NHS의 AI Airlock, 미국 ARPA-H의 임상 에이전트 투자, FDA의 연이은 가이드라인 발표는 공통된 신호를 보내고 있다. 2026년의 의료 AI 지형은 더 이상 벤더가 그리지 않는다. 규제 기관이 좌표를 설정하고, 임상 현장이 그 안에서 실질적 가치를 입증해야 하는 구조로 재편되고 있다.
이 흐름의 핵심에는 단순한 승인 절차 강화 이상의 개념이 있다. 의료 AI가 ‘도구’에서 ‘임상 에이전트(Clinical Agent)’로 진화하면서, 규제 기관은 기존 SaMD(Software as a Medical Device) 프레임을 넘어선 새로운 거버넌스 모델을 실험하고 있다.
NHS AI Airlock: 샌드박스를 넘어 구조적 안전망으로
영국 NHS가 도입한 AI Airlock은 단순한 규제 샌드박스가 아니다. 이 프레임워크는 의료 AI 제품이 실제 NHS 환경에 배포되기 전 임상 안전성, 공정성, 설명가능성을 단계적으로 검증하는 구조적 게이트웨이다. AI Airlock은 크게 세 단계 — 초기 평가(Initial Assessment), 통제된 환경 시험(Controlled Deployment), 광범위 확장(Scaled Rollout) — 로 구성되며, 각 단계 전환 시 독립적인 임상 검증 결과 제출을 의무화한다.
이 구조가 주목받는 이유는 명확하다. 기존 CE 마킹이나 FDA 510(k) 경로는 제품 허가 시점의 스냅샷 검증에 의존하지만, AI Airlock은 실시간 성능 모니터링과 사후 감시(Post-Market Surveillance)를 허가 조건에 내재화한다. 다시 말해 ‘허가받은 AI’가 아니라 ‘지속적으로 검증되는 AI’를 임상 현장에 두겠다는 철학이다.
이 방향성은 최근 발표된 규제 과학 연구와도 일치한다. Wornow M 등이 npj Digital Medicine (2024)에 발표한 연구 “The shaky foundations of large language models and foundation models for electronic health records”는 EHR 기반 AI 모델이 배포 환경이 달라지면 내부 타당도(internal validity)와 외부 타당도(external validity) 간 괴리가 급격히 커진다는 점을 실증적으로 보여줬다. AI Airlock의 단계적 검증 구조는 이러한 환경 의존성 문제를 제도적으로 관리하려는 시도로 해석할 수 있다.
ARPA-H 임상 에이전트 투자: 자율적 AI가 임상에 들어오면
NHS가 안전망을 설계하는 동안, 미국 ARPA-H는 훨씬 공격적인 방향으로 움직이고 있다. ARPA-H는 2026년 임상 AI 에이전트(Clinical AI Agents) — 단순 의사결정 지원을 넘어 스스로 검사를 주문하고 치료 계획을 제안하며 환자와 직접 상호작용하는 시스템 — 를 지원하는 다수의 프로젝트에 자금을 집행했다. 이는 기존 CDS(Clinical Decision Support) 소프트웨어의 연장선이 아니라, AI가 임상 워크플로우의 능동적 행위자로 기능하는 패러다임 전환을 의미한다.
임상 에이전트의 등장은 기존 규제 프레임에 근본적인 질문을 던진다. 현행 FDA SaMD 가이드라인은 예측 가능한 입출력 구조를 전제한다. 그러나 임상 에이전트는 컨텍스트에 따라 다른 행동을 취하고, 인간 임상의의 지시 없이 연속적 의사결정을 수행한다. FDA의 Digital Health Center of Excellence는 2026년 이 문제에 대한 공개 의견 수렴을 진행했지만, 구체적인 규제 경로는 아직 정의되지 않은 상태다.
여기서 임상적으로 중요한 지점이 드러난다. 임상 에이전트가 오류를 범했을 때 책임의 귀속 구조가 불명확하다. 의사가 에이전트의 제안을 검토했다면 의사의 책임인가? 에이전트가 자율적으로 행동했다면 제조사의 책임인가? 이 질문에 답하지 못하면, 임상 에이전트는 기술적으로 작동하더라도 법적·윤리적으로 배포 불가능한 상태에 머문다.
한국 맥락: 식약처 가이드라인과 디지털헬스케어법의 공백
국내 상황도 같은 방향의 긴장을 내포하고 있다. 식품의약품안전처는 2026년 6월 ‘AI 디지털의료기기 변경관리 계획서 허가·심사 가이드라인’을 제정하며 AI 의료기기의 지속적 업데이트에 대한 규제 근거를 마련했다. 이는 AI 모델이 학습을 통해 변경될 때마다 재허가를 받아야 하는 기존 방식의 비효율성을 해소하는 방향으로, NHS AI Airlock의 철학과 구조적으로 유사한 접근이다.
그러나 더 근본적인 문제는 여전히 미해결 상태다. 의료 AI가 작동하기 위해 필요한 대규모 의료 데이터 활용 법적 근거가 아직 없다. ‘디지털 헬스케어 및 보건의료정보 활용 지원에 관한 법률’ 발의가 재점화됐지만, 개인정보 보호와 의료정보 활용 범위를 둘러싼 논쟁은 여전히 국회 문턱을 넘지 못하고 있다. AI 방사선 영상 판독 소프트웨어 900개가 FDA 승인을 받은 미국, 국가 단위 데이터 플랫폼을 구축 중인 영국·독일·일본과 달리, 한국은 규제 프레임이 데이터 인프라를 앞서가는 역전 현상이 지속되고 있다.
한계: 규제 선진화가 임상 현장 개선을 자동으로 의미하지 않는다
NHS AI Airlock, ARPA-H 투자, 식약처 가이드라인 정비가 공통적으로 안고 있는 한계는 검증의 대상이 ‘허가 시점 성능’에 머무를 위험이다. 실제 임상 현장에서 AI 성능은 병원 규모, EHR 시스템 버전, 입력 데이터 품질에 따라 크게 달라진다. Shah NH 등의 연구(NEJM AI, 2024)는 AI 임상 예측 모델이 단일 기관에서 검증됐을 때의 AUC와 다기관 적용 시 AUC가 통계적으로 유의미하게 다를 수 있음을 보였다. 제도가 허가를 내줘도, 배포 환경에서 성능이 유지된다는 보장은 없다.
또한 임상 에이전트의 ‘자율성’이 높아질수록 의료진의 역할이 도전받는다. AI가 제안한 치료 계획을 의사가 형식적으로 승인하는 구조가 고착되면, 실제 임상 판단 역량이 약화될 수 있다. 이는 단기 효율의 이면에 있는 중장기 리스크다.
응급의학과 전문의의 한 마디
응급실에서 AI를 실제로 사용해본 임상의 입장에서 보면, 지금 진행되는 규제 논의의 방향은 옳다. 하지만 속도가 현장을 따라가지 못하고 있다는 느낌은 여전하다. 현재 응급실에서 사용되는 AI 도구 중 상당수는 허가를 받았지만 누가, 언제, 어떤 조건에서 검증했는지 추적하기 어렵다. NHS AI Airlock처럼 단계적 검증과 실시간 모니터링을 구조화한 모델이 한국에도 필요하다.
그러나 더 본질적인 문제는 따로 있다. AI가 임상 결정에 깊이 개입할수록, 그 AI가 틀렸을 때를 가장 먼저 발견하는 사람은 알림창이 아니라 환자 침대 앞에 서 있는 임상의다. 규제 기관이 판을 바꾸는 동안, 임상의는 AI의 출력을 비판적으로 읽어낼 역량을 유지해야 한다. 기술이 아무리 발전해도 이 부분은 자동화되지 않는다.
References
- Wornow M, et al. “The shaky foundations of large language models and foundation models for electronic health records.” npj Digital Medicine. 2024;7(1):1-10.
- Shah NH, et al. “Performance of AI Clinical Decision Support Tools Across Hospital Systems.” NEJM AI. 2024;1(3).
- Braiviq. “Healthcare AI Just Crossed Into The Regulator’s Hands — NHS AI Airlock, ARPA-H, Clinical Agents, FDA 2026.” braiviq.com. Accessed July 2026.
- 식품의약품안전처. “디지털의료기기 변경관리 계획서 허가·심사 가이드라인.” 2026년 6월 26일.
- 전자신문. “디지털헬스 법제화, 이제 시작이다.” etnews.com. 2026년 6월 24일.
- 아시아투데이. “디지털 헬스케어 시대 개막…의료정보 활용 법제화 시동.” asiatoday.co.kr. 2026년 6월 22일.
- FDA Digital Health Center of Excellence. “Digital Health Guidance Documents.” fda.gov. Accessed July 2026.