핵심 요약: AI 챗봇이 진단하고 있는데, 규제는 아직 따라오지 못했다
2026년 1월, OpenAI는 ChatGPT Health를 공식 출시했다. 이 서비스는 사용자가 혈액 검사 결과를 해석하고, 의료 개념을 이해하며, 진료 전 증상을 정리하는 데 도움을 준다고 약속한다. 사실상 진단 전 단계의 의사 역할을 수행하는 셈이다. 문제는 이 제품이 현재 FDA로부터 의료기기로 규제받지 않고 있다는 점이다. Harvard Law School의 Petrie-Flom Center는 2026년 5월, “AI 건강 챗봇은 법적으로 의료기기”라는 분석을 발표하며 규제 공백의 위험성을 정면으로 지적했다. 이는 단순한 법률 논쟁이 아니다. 임상 현장에서 실제로 환자 행동을 바꾸고 있는 도구에 대한 안전 기준의 문제다.
AI 챗봇이 의료기기가 되는 조건: FDA 정의와의 충돌
FDA는 소프트웨어 의료기기(Software as a Medical Device, SaMD)를 “질병의 진단, 치료, 경감, 예방을 목적으로 하는 소프트웨어”로 정의한다. 2022년 FDA가 발표한 Clinical Decision Support Software Guidance에 따르면, 의료 전문가의 판단을 대체하거나 독립적으로 의사결정에 영향을 미치는 소프트웨어는 SaMD로 분류된다. ChatGPT Health가 혈액 검사 수치를 해석하고 감별 진단을 제시한다면, 이 기준에 정확히 해당한다.
그러나 현실은 다르다. OpenAI는 ChatGPT Health를 “의료 조언이 아닌 정보 제공 도구”로 포지셔닝하며 규제 경계선을 피해가고 있다. 이 논리는 새로운 것이 아니다. 2010년대 초반 각종 건강 앱들이 같은 방식으로 FDA 규제를 회피했고, 이후 그 중 일부는 환자에게 실질적 해를 끼쳤다. Harvard Petrie-Flom Center의 2026년 5월 분석은 이 구조적 패턴이 다시 반복되고 있음을 경고한다.
현재 적용 수준: 무엇이 규제되고 무엇이 회색지대인가
2026년 현재, FDA는 AI/ML 기반 SaMD에 대해 880건 이상의 사전 시장 승인(De Novo, 510(k))을 완료했다. 이 도구들은 영상 판독 보조, 부정맥 감지, 패혈증 조기 경보 등 구체적인 임상 기능을 명시하고, 성능 지표와 임상 근거를 제출한다. 반면 ChatGPT Health와 같은 범용 AI 건강 도구는 특정 질환을 대상으로 하지 않는다는 이유로 규제 사각지대에 놓여 있다.
2026년 1월, FDA와 EMA가 공동으로 발표한 Good AI Practice (GAIP) 10대 원칙은 AI 의료 도구의 데이터 품질, 투명성, 지속적 성능 모니터링 원칙을 제시했다. 그러나 이 원칙은 강제성이 없다. 범용 AI 챗봇은 이 원칙의 적용 대상으로 명시되지 않았으며, 자발적 준수 여부도 검증되지 않았다.
이 간극이 임상적으로 어떤 의미를 가지는지 구체적으로 생각해 볼 필요가 있다. 응급실에서 흉통을 경험하기 전날 밤, 환자가 AI 챗봇에게 증상을 입력하고 “위산 역류일 가능성이 높습니다”라는 답변을 받는다면? 규제 의료기기라면 그 오류에 대한 책임 구조와 시판 후 감시 체계가 존재한다. 현재의 AI 챗봇에는 그것이 없다.
의료적 의미: AI 챗봇이 실제로 환자 행동을 바꾼다
규제 논의를 단순히 법률 문제로만 볼 수 없는 이유는 AI 챗봇이 이미 실질적으로 의료 시스템에 개입하고 있기 때문이다. 2025년 JAMA Internal Medicine에 게재된 Ayers et al.의 연구에 따르면, GPT-4 기반 챗봇은 의사의 처방 권고 수준의 답변을 생성했고, 응답의 공감도는 오히려 의사보다 높게 평가되었다. 이는 환자가 챗봇의 답변을 의사의 소견과 유사한 수준으로 신뢰할 가능성을 시사한다.
이 신뢰가 위험한 이유는 환자 맥락 접근의 부재에 있다. AI 챗봇은 과거 병력, 복용 중인 약물 상호작용, 신기능과 같은 임상 변수를 실시간으로 통합하지 못한다. 혈청 칼륨 수치가 5.8 mEq/L라고 입력한 환자에게 챗봇이 “경계선 수준”이라고 답할 때, 그 환자가 eGFR 15 mL/min의 만성 신장 질환자라는 사실은 반영되지 않는다. 응급실에서 이 환자가 도착했을 때는 이미 심전도에 텐트형 T파가 찍혀 있을 수 있다.
또한 AI 챗봇은 환자의 증상 해석 프레이밍에 영향을 준다. 챗봇이 특정 방향의 답변을 제시하면, 이후 환자가 실제 의사를 만났을 때 확증 편향이 강화될 수 있다. 이는 감별 진단을 좁히는 효과를 만들어 오진 위험을 높인다.
한계와 규제 현실: 무엇이 바뀌어야 하는가
AI 챗봇에 대한 SaMD 규제 적용은 기술적으로 단순하지 않다. SaMD 규제 체계는 특정 임상 기능을 중심으로 설계되어 있는데, 범용 AI 챗봇은 그 기능이 불특정적이고 사용자 입력에 따라 동적으로 변한다. 기존의 510(k) 또는 De Novo 경로를 그대로 적용하기 어려운 구조다.
FDA는 2026년 들어 AI 의료 도구의 전 생애 주기 관리(Good Machine Learning Practice, GMLP)와 투명성 요건을 강화하는 방향으로 가이드라인을 정비하고 있다. 그러나 범용 AI 건강 플랫폼에 대한 명시적 규제 경로는 아직 제시되지 않았다. 새로운 Quality Management System Regulation(QMSR)이 2026년 2월 발효되었지만, 이 역시 기등록 의료기기 제조사를 대상으로 한다.
유럽의 EU AI Act는 고위험 AI 시스템으로 의료 분야 AI를 분류하여 적합성 평가와 투명성 의무를 부과한다. 범용 건강 챗봇도 이 범주에 포함될 수 있다는 해석이 제시되고 있어, 향후 미국 규제에도 영향을 줄 수 있다. 그러나 규제가 실제 시행 효력을 가지기까지의 시간 지연은 피할 수 없다.
응급의학과 전문의의 한 마디
응급실에서는 환자가 “AI 챗봇이 이건 별거 아닐 거라고 했어요”라는 말을 들을 날이 머지않았다. 어쩌면 이미 듣고 있을 수도 있다. 내가 우려하는 것은 AI 챗봇의 능력 자체가 아니다. 규제 없는 의료 도구가 임상 환경에 투명성과 책임 구조 없이 진입할 때 발생하는 오류 추적 불가능성이다.
규제된 의료기기는 오류가 발생하면 시판 후 감시 체계(Post-Market Surveillance)를 통해 패턴이 수집되고, 개선이 이루어진다. 규제되지 않은 AI 챗봇에서 발생한 진단 지연은 어디에도 기록되지 않는다. 피해는 환자에게 집중되고, 책임은 분산된다. 의료기기 규제의 핵심 목적은 “좋은 도구를 막는 것”이 아니라 “나쁜 결과가 반복되지 않도록 추적 가능하게 만드는 것”이다. AI 챗봇도 예외가 될 수 없다.
References
- Harvard Law School Petrie-Flom Center. “Health AI Chatbots are Legally Medical Devices; It’s Time the FDA Started Treating Them Like It.” Bill of Health, May 26, 2026. https://petrieflom.law.harvard.edu/2026/05/26/health-ai-chatbots-are-legally-medical-devices-its-time-the-fda-started-treating-them-like-it/
- Ayers JW, et al. “Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum.” JAMA Internal Medicine. 2023;183(6):589-596. doi:10.1001/jamainternmed.2023.1838
- FDA. “Clinical Decision Support Software: Guidance for Industry and FDA Staff.” 2022. https://www.fda.gov/media/133660/download
- EMA & FDA. “Ten Principles for Good AI Practice (GAIP) in Medicine Development.” January 2026. https://medicover-mics.com/emas-principles-for-good-ai-practice/
- IntuitionLabs. “FDA Digital Health Technology Guidance Requirements 2026.” June 2026. https://intuitionlabs.ai/articles/fda-digital-health-technology-guidance-requirements
- European Parliament. “EU Artificial Intelligence Act.” Regulation (EU) 2024/1689. Official Journal of the European Union, 2024.