---
id: rihp-research-report-2025-05-s02
title: "제3장. 제1절에서는 의료 인공지능의 기술적 한계로 인공지능의 편향성, 안전성, 정"
collection: research-report
publication_id: 2025-05
year: 2025
published_at: "2025-10-02"
category: "chapter"
authors: []
topics: ["regional-healthcare", "health-insurance", "ai-and-data"]
pdf_pages: 71-94
source_file: "rihp-research-report-2025-05.pdf"
source_sha256: d47b44f2a7b7fe01a8eabfb097c84af8325e33a5152130f2140c930d213dc0d5
source_url: "https://rihp.re.kr/bbs/board.php?bo_table=research_report&wr_id=380"
pdf_url: "https://rihp.re.kr/bbs/download.php?bo_table=research_report&wr_id=380&no=1"
extraction_status: machine-extracted-needs-review
ai_generated_metadata: true
---

# 제3장. 제1절에서는 의료 인공지능의 기술적 한계로 인공지능의 편향성, 안전성, 정

> [!CAUTION] 기계 추출 파일럿입니다. 표·그림·문서 경계를 원본 PDF와 대조해야 합니다.
> 원문의 필자 개인 견해 고지가 있는 경우 기관의 공식 견해로 해석하지 않습니다.

## 출처

- 발간물: 인공지능 시대 의료계 대응 방안
- PDF 물리 페이지: 71-94
- 원본 파일: `rihp-research-report-2025-05.pdf`
- RIHP 게시물: [https://rihp.re.kr/bbs/board.php?bo_table=research_report&wr_id=380](https://rihp.re.kr/bbs/board.php?bo_table=research_report&wr_id=380)
- RIHP PDF: [https://rihp.re.kr/bbs/download.php?bo_table=research_report&wr_id=380&no=1](https://rihp.re.kr/bbs/download.php?bo_table=research_report&wr_id=380&no=1)

## 정규화 본문

<a id="page-71"></a>

### PDF p.71

제3장 의료 인공지능
활용의 한계

<a id="page-73"></a>

### PDF p.73

제3장 의료 인공지능 활용의 한계
제1절 의료 인공지능의 한계
1. 편향성, 안전성, 정확성 문제
인공지능 기반 임상의사의 결정 지원을 위해서는 편향, 확장성, 배포 등의 문제가
해결되어야 한다. 인공지능의 편향성은 의료의 형평성과 환자 안전에 직접적인 영향을
미치기 때문에 더욱이 중요하다. 인공지능은 기존 사회의 구조적 불평등이나 편견을
반영한 편향된 결과를 생성할 수 있으며, 이는 단순한 기술적 오류가 아닌 사회적 편
견이 개입될 수 있는 사회적 맥락과 맞닿아 있는 문제이다.72)
최근 미국의 다수 주에서 발의되고, 일부 주에서 이미 제정된 의료 인공지능 관련
법안(SB 1120(Health Care Coverage: Medical Necessity)은 인공지능의 편향성과
그로 인한 책임 회피를 방지하는 데 초점을 두고 있다.
보험사가 인공지능 판단을 근거로 환자 치료를 거절하거나 지연시키는 사례는 의료
의 개별성과 다양성을 반영하지 못한 편향된 의사결정의 결과이며, 이는 인공지능이
어떤 데이터를 학습하고 어떤 기준으로 판단하는지에 대한 ‘설명 가능성’ 부족과 밀접
히 연결된다.
이러한 사례들은 인공지능의 편향성이 실제 임상･행정 의사결정에 미치는 부작용을
드러낸 것으로, 이에 따라 미국 각 주는 의료전문가의 최종 판단 권한 보장, 인공지능
알고리즘의 투명성 강화, 활용 정보의 공개･보고 의무화 등 제도적 장치를 통해 공정
하고 책임 있는 인공지능 활용 체계 마련에 나서고 있다.73) 이는 편향된 인공지능이
환자의 권리와 치료 기회를 침해하지 않도록 하기 위한 최소한의 윤리적 장치이자 정
책적 대응이라 할 수 있다. 이처럼 인공지능의 편향성 문제는 의료 인공지능 활용에
있어 핵심적인 해결 과제이며, 이를 위해 규범적 조치가 필수적으로 요구된다.74)75)
72) Norori N. et al., “Addressing bias in big data and AI for health care: A call for
open science”, 「Patterns」 2021;2(10):100347
73) 임지연, “미국 의료 AI 관련 사용 규제법 제정”, 「의료정책포럼」 Vol.23 No.1, 2025, 82~83면.
74) Kerstin N. Vokinger, Stefan Feuerriegel & Aaron S. Kesselheim, “Mitigating bias in
59

<a id="page-74"></a>

### PDF p.74

인공지능 시대 의료계 대응 방안
의료 인공지능은 진단과 치료 결정을 지원하는 유용한 도구로 주목받고 있지만, 안
전성과 보안성 측면에서 여전히 중요한 한계를 내포하고 있다. 먼저 안전성(safety)은
인공지능이 환자에게 위해를 가하지 않도록 설계･운영되어야 함을 의미하며, 실제 임
상에서는 현실 맥락을 반영하지 못한 판단으로 환자의 생명이 위협될 수 있다. 예를
들어 특정 알고리즘이 의료기관별 진료 특성을 오인해 잘못된 인과관계를 학습한 사례
는 인공지능의 맥락 인식 한계와 편향성 문제를 드러낸다.
보안성(security) 역시 중요한 이슈로, 외부 공격이나 시스템 오류로부터 인공지능
시스템을 보호하기 위한 사전 방어 체계 및 위협 대응 전략이 필수적이다. 안전성과
보안성을 확보하기 위해서는 설명 가능성, 투명성, 추적 가능성이 보장되어야 하며, 인
공지능 시스템 오류 발생 시 이를 식별하고 조치할 수 있는 거버넌스 및 규제 체계가
동반되어야 한다.
EU는 기술적 견고함을 넘어 윤리적･사회적 견고성(robustness)을 포함해, 평등성･
지속 가능성의 가치를 해치지 않는 방향으로 인공지능을 개발･운영할 것을 요구한
다.76) 이러한 논의는 의료 인공지능이 단순한 기술이 아닌, 사회적 신뢰와 인간 생명
에 직결되는 시스템임을 강조하는 흐름과 맞닿아 있다.77)
나아가 2024년 12월, 식품의약품안전처는 생성형 인공지능 기반 의료기기(Generat
ive AI SaMD)에 대한 허용을 전제로 한 가이드라인을 마련하였고, 이에 따라 인공지
능이 배포된 이후에도 학습･업데이트 과정에서 발생할 수 있는 성능 변화나 예측 오류
를 체계적으로 점검하고 관리할 수 있는 사후 안전성 확보 조치가 더욱 강조되고 있
다. 생성형 인공지능의 특성상 지속적 변경 가능성과 불확실성이 내재 되어 있는 만큼,
machine learning for medicine”, 「Communications Medicine」 volume 4, Article number:
25, 2021.
75) Jenny Yang et al., “An adversarial training framework for mitigating algorithmic biases
in clinical machine learning”, 「npj Digital Medicine」 volume 6, Article number: 55, 2023.
76) 문기업 외, “보건의료영역 인공지능 윤리 원칙과 고려사항”, 「한국의료윤리학회지」 제26권 제
2호, 한국의료윤리학회, 2023, 117면.
77) European Commission, High-Level Expert Group on AI. Ethics guidelines for trusworthy
AI, 2019. Access from: https://digital strategy.ec.europa.eu/en/library/ethicsguidelines-
trustworthy-ai
60

<a id="page-75"></a>

### PDF p.75

제3장 의료 인공지능 활용의 한계
이를 안전하게 통제하기 위한 추적･검증 체계의 중요성은 의료 인공지능 제도화 논의
에서 핵심 과제이다.
의료 인공지능 기술이 빠르게 발전하고 있지만, 분석과 판단 오류로 인해 정확성이
충분히 담보되지 못하고 있다. 이러한 오류는 질병 진단, 치료 방법 선택, 시기 결정
등에 직결되며, 환자의 생명과 건강에 심각한 영향을 미칠 수 있다. 특히 정확도가 낮
은 상태에서 상용화된 의료 인공지능의 도입은 환자에게 오진, 과잉 진료, 처치 지연
등의 부작용을 초래할 수 있다.
그럼에도 일부에서는 기술적 낙관론(technological optimism)에 기대어 충분한 임
상적 검증 없이 의료 인공지능을 조기 도입하려는 움직임이 나타나고 있으며, 이는 윤
리적･법적으로 큰 문제가 될 수 있다.78) 의료 현장은 환자의 안전을 최우선으로 고려
해야 하는 공간이다. 그러나 인공지능 오류로 오진 또는 판단 지연에 관한 책임 소재
의 불분명한 상황은 환자와 의료인 간 신뢰를 저하할 수 있다.
특히 의료 인공지능의 경우, 임상에서 안전하게 적용되기 위해서는 단순한 기술적
성능지표(예: 정확도, 정밀도, 민감도 등) 이상의 다층적 검증 체계가 필요하다. 이는
(1) 특정 질환군에 대한 인공지능의 예측 성능 외에도, (2) 다양한 인종, 연령, 병기 등
에 걸친 일관된 성능 유지, (3) 예외 상황 및 오류 발생 시의 리스크 대응 계획, (4)
인공지능 사용의 사전 고지 및 동의, (5) 임상의의 최종 판단 책임이 포함되어야 한다.
이에 의료 인공지능 기기의 임상 도입에 앞서, 성능의 정확성과 안정성을 보장하기
위한 사전 심의, 독립 평가, 성능 공개 및 사후 모니터링 체계를 제도적으로 마련해야
한다. 단지 ‘높은 정확도’라는 수치에 의존할 것이 아니라, 어떤 상황에서 어떤 환자에
게 어떻게 정확하게 작동하는지를 구체적으로 입증할 수 있어야 한다.
78) 이일학, “응급의학에서 의료인공지능 활용과 윤리: 현황과 과제”, 「대한응급의학회 춘계학술대회
자료집」, 2025, 124면.
61

<a id="page-76"></a>

### PDF p.76

인공지능 시대 의료계 대응 방안
2. 통제 가능성, 신뢰성 문제
인공지능 기술의 발전에도 불구하고, 의료 인공지능에 대한 기술적, 임상적, 윤리적,
사회적 위험에 대한 우려는 지속되고 있다.79) 이는 인공지능 기술을 활용한 실제 진단
과 치료에 대한 환자의 신뢰는 기술 수준에 비례하지 않음을 의미한다.
실제 환자 대상 조사에서도 인공지능의 독립적 사용보다는 의료인의 결정에 보조적
으로 활용되기를 바란다는 요구가 높게 나타났다.80) 이는 의료 인공지능이 단순히 정
밀한 기술이 아니라, 인간의 판단과 신뢰가 전제될 때 비로소 수용될 수 있는 도구임
을 의미한다. 특히 환자들은 인공지능이 오히려 인간의 통제력과 자율성을 약화시키는
방향으로 작동할 경우, 강한 심리적 거부감과 불안감을 느낄 수 있음을 지적한다.81)
이러한 조사 결과는 의료 인공지능의 독자적 활용을 포함한 인공지능 도입에 대한 사
회적 신뢰에 영향을 미칠 수 있음을 의미한다.82)
인공지능의 ‘설명 가능성’은 이러한 신뢰 구축의 핵심 요소이다. 의료진은 인공지능
이 도출한 진단이나 치료 권고가 어떤 근거와 추론 과정을 거쳐 나왔는지 이해할 수
있어야 한다. 단순히 ‘정확하다’는 수치만으로는 복잡한 임상 상황에서 인공지능의 판
단을 전적으로 신뢰하기 어렵다. 인공지능의 의사결정 과정이 불투명할수록, 의료 현장
에서의 수용도는 낮아지고, 이는 결국 환자 안전과 직결될 수 있다.
따라서 의료 인공지능은 인간의 통제와 자율성을 보장하는 ‘인간 중심(Human-in-
the-loop)’ 접근 방식이 필수적이다. 인공지능은 의료인의 역량을 보조하고 강화하는
79) Lekadir K. et al., 「Artificial intelligence in healthcare—Applications, risks, and ethical
and societal impacts」, 『European Parliament, Directorate-General for Parliamentary
Research Services』 2022.; Vollmer S. et al., “Machine learning and artificial intelligence
research for patient benefit: 20 critical questions on transparency, replicability,
ethics, and effectiveness”, 「BMJ」 2020;368:l6927. doi:10.1136/bmj.l6927pmid:32198138
80) 이일학, 양지현, “의료 인공지능 개발, 활용의 사회적 영향과 윤리”, 「보건산업정책연구」 Vol.3
No.1, 한국보건산업진흥원, 2023, 37면.
81) Juravle G. et al., “Trust in artificial intelligence for medical diagnoses. Prog Brain
Res”, 2020;253:263–282. doi: 10.1016/bs.pbr.2020.06.006.
82) Gisolfi, N., 「Model-Centric Verification of Artificial Intelligence」, 『Carnegie Mellon
University』, 2021.
62

<a id="page-77"></a>

### PDF p.77

제3장 의료 인공지능 활용의 한계
도구이지, 독립적으로 최종 결정을 내리는 주체가 아니다.
의료인은 인공지능의 권고를 비판적으로 검토하고, 환자의 개별적 특성, 가치관, 그
리고 복합적인 임상 상황을 종합적으로 고려하여 최종 판단을 내려야 한다. 이러한 협
력적 모델은 인공지능의 한계를 보완하고, 환자와 의료인 모두에게 심리적 안정감과
신뢰를 제공한다.
또한, 인공지능 시스템의 오류나 오작동 시 명확한 책임 소재를 규명하는 것은 신뢰
를 유지하는 데 필수적이다. 누가 인공지능 모델을 개발하고, 배포하며, 관리하는지에
대한 책임 주체를 명확히 하고, 문제가 발생했을 때 적절한 보상 및 개선 절차가 마련
되어야 한다. 더불어, 인공지능 모델은 배포 이후에도 실제 임상 데이터와 피드백을 통
해 지속적으로 학습하고 개선되어야 한다. 이는 단순히 기술적 업데이트를 넘어, 실사
용 환경에서 신뢰를 꾸준히 확보해 나가는 과정이다.83) 이러한 지속적인 검증과 개선
노력 없이는 인공지능에 대한 장기적인 신뢰를 구축하기 어렵다.84)
이러한 신뢰성 확보를 위한 노력은 단순한 기술적 문제를 넘어 윤리적, 사회적 합의
의 영역에 속한다. 의료 인공지능이 인간의 생명과 건강에 직접적인 영향을 미치는 만
큼, 기술적 견고함뿐만 아니라 윤리적 견고함이 동시에 요구된다. 이는 의료 인공지능
의 개발 및 활용에 있어 기술 수준에 상응하는 윤리적, 도덕적 기준과 가이드라인이
부재한 현 상황을 극복하고, 사회적 신뢰를 기반으로 한 건강한 의료 인공지능 생태계
를 조성하는 데 필수적 요소이다.
83) Andre Esteva et al., “Deep learning-enabled medical computer vision”, 「npj Digital
Medicine」 volume 4, Article number: 5, 2021.
84) Asan, O. et al., “Artificial intelligence and human trust in healthcare: focus on
clinicians”, 「Journal of Medical Internet Research」, Vol.22 No.6, 2020.
63

<a id="page-78"></a>

### PDF p.78

인공지능 시대 의료계 대응 방안
제2절 의료 인공지능 활용의 제한 요인
1. 의료 인공지능 사용과 법적 책임 문제
가. 의료 인공지능 법인격 인정 여부
인공지능 사용에 따른 잠재적인 실수와 과실에 대한 법적 책임 문제는 기존 법체계
로는 충분히 대응하기 어려운 측면이 있어, 이에 대한 새로운 규범 체계의 도입이 필
요하다. 특히 인공지능의 오작동이나 오류로 인해 환자에게 피해가 발생한 경우, 법적
책임 주체에 대한 명확화가 요청된다.
이는 기존 「민법」상의 불법행위 책임 요건과 인공지능의 법적 성격 간의 간극에서
비롯된 것이다. 법적 책임 즉, 인공지능의 책임능력에 관한 논의는 도구 또는 제품으로
분류되는 인공지능과 생성형 또는 자율적 판단이 가능한 고도의 인공지능으로 분류된
다. 고도의 자율적 판단이 가능한 생성형 인공지능은 책임능력에 있어 더욱 논란이 된
다. 현재 우리 법제 하에서는 인공지능 자체에 대한 법인격은 인정되지 않는다. 법적
책임 문제 해결 방안으로 인공지능에 법인격을 인정해야 한다는 의견이 제시되고 있지
만, 현재 전 세계 어느 나라에서도 인공지능에 법인격을 인정하지 않는다.85)
2017년 유럽의회는 「로봇공학에 대한 민법 규칙에 대한 권고 결의안(Civil Law
Rules on Robotics)」을 채택하며, 자율성을 갖춘 로봇의 행위에 대한 법적 책임 문제
를 해결 방안으로 ‘전자 인격(electronic personhood)’ 부여 가능성을 논의한 바 있
다. 이는 기존 법적 체계로는 자율 로봇의 행위에 따른 책임소재 규명이 어렵다는 우
려에서 비롯되었다.
그러나 이러한 제안은 사회적･윤리적 논란을 초래하였고, EU는 2020년 10월 발표
한 「AI 책임 규정안(Rules on AI Liability)」에서 전자 인격 도입 대신, 인공지능 고
85) Benny Chan, “Applying a Common Enterprise Theory of Liability to Clinical AI Systems”,
「American Journal of Law & Medicine」 Vol.47 2001, p.351, 369.; European
Commission, 「Expert Group on Liability and New Technologies, Liability for
Artificial Intelligence and Other Emerging Digital Technologies」, 2019, p.38.
64

<a id="page-79"></a>

### PDF p.79

제3장 의료 인공지능 활용의 한계
장 원인 추적 가능성 강화와 제조자 중심의 제품 책임(Product Liability) 체계 확립
에 초점을 맞추었다. 이에 따라 결함 있는 인공지능 시스템 사용으로 인한 피해 발생
시 ‘사용자의 무과실 책임 구조’가 주요 대안으로 채택되었다.
이후 유럽위원회와 유럽의회의 추가 논의를 거치며, 전자 인격 개념은 2021년 유럽
의회(안)에서 삭제되었고, 대신 위험 기반 분류 체계(risk-based classification)와 제
공자･사용자 책임 강화, 투명성 요건 도입 등이 중심 의제로 대체되었다. 이러한 입법
경과를 종합적으로 살펴볼 때, 인공지능에 법인격을 부여하는 논의는 중단된 상태로
향후 단기간 내에 다시 추진될 가능성도 현저히 낮아 보인다.
법인격이란 법률상 권리와 의무의 주체가 될 수 있는 자격 또는 지위를 의미하며,
이는 원칙적으로 도덕적･법적 자율성을 갖춘 존재에게 부여되는 것이다. 인간이 아닌
존재에게도 법인격이 부여될 수 있으나, 인공지능이 보유한 자율성은 어디까지나 기능
적･행위적 자율성에 불과하고, 도덕적 또는 법적 자율성으로 보기 어렵다.
따라서 현재의 인공지능은 책임능력을 갖춘 법적 주체로 보기 어렵기 때문에 법인격
을 부여할 수 없다. 더욱이, 현재 의료 현장에서의 인공지능은 여전히 보조적 수단에
머무르고 있으며, 의사의 판단을 대체하지 못하는 기술적 한계를 갖는다. 생성형 인공
지능은 질문마다 다른 응답을 보이며 일관성과 예측 가능성이 낮아, 독립적 판단 도구
로 신뢰하기 어려운 측면이 있다. 또한, 인공지능이 의료 현장에 광범위하게 도입될수
록, 오히려 인지 부하와 디지털 피로가 증가하며 의료인의 번 아웃 위험이 높아진다는
연구 결과도 있다.86)
이는 일반 진료환경에서 인공지능 결과를 확인하고 해석하는 과정 자체가 새로운 부
담 요인으로 작용하고 있음을 보여준다. 이러한 현실을 고려할 때, 인공지능이 법적 책
임을 질 수 있는 자율성과 책임능력을 갖춘 존재라고 보기 어려우며, 따라서 의료 인
공지능에 법인격을 부여하는 것은 부적절하다고 판단된다. 결국, 현재로서는 인공지능
의 법적 지위는 도구 또는 제품(product)으로 한정되어야 하며, 그 책임은 제조자와
사용자 등 인간 주체에게 귀속되는 방식으로 규율되어야 한다.
86) Liu H., et al., “Artificial Intelligence and Radiologist Burnout”, 「JAMA Network Open」
Vol.7 Issue.11, 2024;e2448714.
65

<a id="page-80"></a>

### PDF p.80

인공지능 시대 의료계 대응 방안
나. 인공지능 활용으로 발생한 사고에 대한 책임의 공동화와 명확화
현행 법제에 따르면 인공지능에 법인격을 인정할 수 없으므로, 인공지능 사용에 따
른 의료과실의 법적 책임은 궁극적으로 의사에게 귀속된다. 즉, 의료인의 선택이 과실
여부 판단의 핵심 기준이 되며, 이는 인공지능의 조언을 수용하였더라도 최종적인 임
상적 판단과 결정에 대한 책임은 의료인이 진다는 것을 의미한다.
현행 법리에서는 의료인의 판단이 표준 진료 기준에 부합하는지를 중심으로 과실 여
부가 결정되므로, 의료인은 진료 과정에서 인공지능을 활용할 경우 이에 상응하는 주
의의무를 이행해야 한다. 이러한 법적 구조는 의료인에게 과도한 책임 부담을 지울 수
있으며, 결과적으로 인공지능의 임상적 활용에 소극적인 태도를 유발할 가능성이 있
다.87) 이는 인공지능이 인간의 의사결정을 보완하여 진단과 치료의 정확성과 효율을
높일 수는 있으나, 실제 임상 적용 시 예기치 않은 결과가 발생할 가능성이 있음을 의
미한다. 특히 인공지능 기반의 진료가 아직 표준 치료로 정립되지 않은 상황에서 과실
여부 판단 기준이 명확하지 않기 때문이다. 이러한 법적 불확실성은 인공지능의 임상
도입과 활용을 저해할 수 있다.88)
현재까지 「민법」상 불법행위 법리에 근거한 의료 인공지능 관련 사고 책임 논의는
대부분 의료인의 과오 책임에 집중되었다. 그러나 실제 의료 인공지능은 의료인, 개발
자, 데이터 관리자, 환자, 의료기관 등 다양한 이해관계자들이 관여하므로, 책임 역시
단일 주체가 아닌 공동 또는 분산된 구조로 접근할 필요가 있다.89)
87) 이일학, 양지현, “의료 인공지능 개발, 활용의 사회적 영향과 윤리”, 「보건산업정책연구 PERSPECTIVE」
Vol.3 No.1, 2023, 15면.
88) Price WN et al., “Potential Liability for Physicians Using Artificial Intelligence”,
「Jama」 Vol.322 Issue.18, 2019, pp.1765–1766
89) 2020년 도요타의 자율주행 무인 셔틀 ‘e-Palette’ 충돌 사고에서 법원은 위험을 과소평가하여
기술 설계를 한 도요타에 책임이 있으며, 운전자인 인간에게도 감독 책임을 인정했다. 도요타
는 설계･운영 및 사고 후 대책 강화에 대하여 공개적으로 윤리적･법적 책임을 인정했다. 2018
년 우버의 자율주행차 보행자 사망 사건에서 차량은 자율주행 모드 작동 중이었고, 안전운전자
가 탑승한 상태였다. 인공지능 시스템이 보행자를 불확실한 객체로 분류하여 정지하지 않았다.
차량은 브레이크를 자동으로 작동시키지 않았고, 운전자도 반응하지 않았다. 기업 차원에서의
고의나 중대 과실은 인정되지 않아 우버에 대한 형사책임은 불기소되었고, 안전 운전자에 대하
여 유죄를 인정하여 3년 집행유예의 형사책임을 물었다. 민사 책임에 대해서는 우버와 유가족
66

<a id="page-81"></a>

### PDF p.81

제3장 의료 인공지능 활용의 한계
실제 환자 대상 조사에서도 설문 참여자 중 50% 이상의 환자들이 인공지능 오류
발생에 따른 책임 소재에 대해서는 의사와 인공지능 개발사 모두 책임을 져야 한다고
응답하였다.90) 다만 이처럼 다수가 책임지는 구조는 오히려 책임 소재의 규명과 법적
책임 귀속을 어렵게 만들 수 있다. 따라서 인공지능 사용에 따른 법적 공백을 최소화
하기 위해, 의료 인공지능에 특화된 명확한 규범과 책임 규제 체계의 수립이 필요하다.
다. 의사의 책임
의료 과오 책임의 판단 기준은 의료행위가 이루어진 당시, 의료기관 등 임상의학 분
야에서 실천되고 있는 의료행위 수준을 기준으로 한다. 의료 수준이란 의료행위 당시
통상의 의사에게 요구되는 정도의 지식과 주의 수준을 의미하는데,91) 대부분 의사에게
널리 알려지지 않은 의학적 전문 지식은 과실 판단에서 일반적으로 배제된다.92) 의사
는 현재 요구되는 의학적 기준과 수준에 부합하게 진료해야 할 의무가 있으며, 인공지
능은 이러한 의사의 의사(意思)결정을 보조하는 도구로서 활용되어야 한다. 현행 법률
체계에서 의료 인공지능은 여전히 보조적 참고 자료에 불과하며, 최종적인 의료 결정
과 그에 따른 책임은 의사와 의료기관에 귀속된다. 따라서, 인공지능이 제공한 잘못된
정보에 의존한 의사의 결정으로 환자에게 나쁜 결과가 발생한 경우 의사는 해당 판단
에 대해 법적 책임으로부터 자유로울 수 없다. 의료인은 인공지능의 권고가 당시의 의
료 수준에 부합하는지를 충분히 검토해야 하며, 이는 의사에게 요구되는 주의의무 범
이 합의를 진행하였다. 이 사건은 자율주행으로 인한 인공지능 기업의 공동 작업으로서 책임을
다층적으로 분산했음을 의미한다. 독일은 레벨 3~4 자율주행차에 제조사의 데이터 기록 장치
설치를 의무화해 사고 발생 시 책임 규명의 근거를 마련했으며, 일본은 사고 발생 시 피해자
우선 구제 후 구상권 청구 절차를 규정하는 등 법적 책임 관계를 명확히 했다. 현재 우리나라
는 운전자와 제조사의 책임 분담, 인공지능 판단 오류 등 세부 규정이 마련되지 않은 상태이다
(뉴시스, 테슬라 3380억 배상 판결...자율주행 책임 논의로 번질까, 2025. 8. 11. 자.).
90) B Bersu Ozcan, “Patient Perception of Artificial Intelligence Use in Interpretation
of Screening Mammograms: A Survey Study”, 「Radiol Imaging Cancer」 , 2025
May;7(3):e240290. doi: 10.1148/rycan.240290.
91) 이상돈･김나경, 「의료법 강의(제5파)」, 『법문사』, 2023, 130면.
92) 석희태, “의료과실 판단기준에 관한 학설･판례의 동향”, 「의료법학」 제1권 제1호, 대한의료법
학회, 2000, 336면.
67

<a id="page-82"></a>

### PDF p.82

인공지능 시대 의료계 대응 방안
위에 해당한다.
특히, 인공지능의 권고를 의사가 따른 경우에도, 해당 권고를 무비판적으로 수용했
는지, 혹은 의학적 근거에 기반한 독자적 판단을 병행했는지가 책임 판단의 주요 쟁점
이 된다. 나아가, 의료 인공지능의 오작동이나 오류 가능성은 항상 존재하기 때문에 인
공지능의 권고가 명백히 잘못되었다고 판단되는 경우에는 이를 따르지 않아야 할 주의
의무 범위에 해당할 수 있다. 이러한 논의는 결국, 기존의 의료과오 판단 법리를 넘어
서는 새로운 유형의 주의의무가 의사에게 요구된다는 점을 의미하며, 의료 인공지능
시대에는 이에 상응하는 새로운 의료과실 판단 기준의 정립이 필요함을 의미한다.
라. 의료기관의 책임
의료기관은 인공지능 의료기기를 도입할 때, 해당 기기의 안전성과 유효성이 확보되
었는지를 충분히 검토하고, 검증된 제품을 책임 있게 채택해야 할 의무가 있다. 또한
의료기관은 도입된 인공지능 시스템이 임상 현장에서 안전하게 활용될 수 있도록, 사
용자 교육, 정기적인 소프트웨어 업데이트, 시스템 유지보수, 기술 지원 등 전반적인
운영관리 체계를 갖추고 지속적으로 관리해야 한다. 이는 단지 의료진 개개인의 책임
으로 전가할 수 없는, 조직적 차원의 시스템을 운영해야 할 책임이 있다. 의료기관은
의료 인공지능의 사용이 의료인의 임상적 판단을 보조하는 수단에 국한되도록 명확한
내부 방침과 가이드라인을 수립해 운영할 필요가 있다. 더불어 의료기관은 의료 인공
지능의 책임 있는 활용을 위해 정기적인 직원 교육 프로그램 및 실습 체계를 구축해야
하며, 사용자들이 인공지능 시스템의 기능과 한계를 충분히 이해하고 판단할 수 있도
록 임상 윤리 및 법적 책임 교육도 병행해야 한다.
마. 인공지능 의료기기 개발사(제조사) 책임
인공지능 의료기기 개발사는 자사의 제품에서 발생할 수 있는 인공지능 알고리즘의
편향, 안전성 검증 부족, 사용자 안내서 미비 등으로 인한 손해에 대해 일정한 책임을
부담해야 한다. 인공지능 의료기기가 소프트웨어의 결함으로 환자에게 손해를 입힌 경
68

<a id="page-83"></a>

### PDF p.83

제3장 의료 인공지능 활용의 한계
우, 개발사 또는 제조업자에게 제조물책임을 적용할 수 있는지는 중요한 법적 쟁점이
된다. 제조물책임은 제조업자 또는 판매업자가 제공한 제품에 결함이 있고, 그로 인해
소비자에게 손해가 발생한 경우 과실 유무와 관계없이 손해배상 책임을 지도록 하는
제도이다. 인공지능 의료기기가 소프트웨어 형태일지라도 독립적으로 작동하거나 하드
웨어에 내장되어 있으며, 식품의약품안전처의 허가를 받았다면 「제조물책임법」 제2조
에서 정의하는 ‘제조물’에 해당할 수 있다. 다만 이러한 책임을 묻기 위해서는 설계 결
함, 제조 결함, 표시 결함 중 하나 이상이 존재해야 한다.
설계 결함이란 알고리즘 자체의 구조적 오류나 부적절한 학습 데이터셋의 사용을 의
미하고, 제조 결함은 제품의 구현 및 작동 과정에서 발생한 기술적 오류 및 오작동을
의미한다. 표시 결함은 개발자(제조업자)가 사용자에게 필요한 주의 사항이나 사용법,
경고 등을 충분히 고지하지 않은 경우를 의미한다. 표시 결함과 관련해, 의료기기 제조
사는 ‘지식을 가진 중간자 이론(Learned Intermediary Doctrine)’에 따라, 의료인을
최종 소비자로 간주하고 그들에게 충분한 지시와 경고를 제공함으로써 법적 의무를 이
행했다고 주장할 수 있다. 이 경우 환자가 제조사를 상대로 직접 손해배상을 청구하기
는 쉽지 않으며, 의료기관이나 의료진이 이미 충분한 설명을 받은 상태였다면 제조사
에 책임을 묻는 데 제약이 따른다. 문제는 설계 또는 제조 결함으로 인해 손해가 발생
했을 경우, 그 인과관계를 피해자 측에서 입증해야 한다는 점이다. 인공지능 시스템의
‘블랙박스’적 특성으로 인해, 알고리즘의 작동 원리나 오류 발생 원인을 입증하는 것이
매우 어려워 실무상 입증에 한계가 존재한다. 현재 국내에서는 의료 인공지능 개발사
에 제조물책임을 직접 인정한 판례가 없다. 이에 비해, 유럽 「인공지능법」은 고위험
(high-risk) AI 시스템 개발자에게 투명성 및 정보 제공 의무(Article 13), 품질 관리
시스템 구축 의무(Article 17), 사후 모니터링 및 시정 조치 의무(Article 72-73)를 부
과하여, 개발자가 AI 시스템의 전체 생애주기에 걸쳐 법적･기술적 책임을 지도록 하고
있다. 이는 인공지능 의료기기 개발자가 단순히 제품을 완성･출시하는 데 그치지 않고,
출시 이후에도 안전성과 신뢰성을 지속적으로 확보･관리해야 함을 명확히 한다.
의료 분야에서 블랙박스형 딥러닝 알고리즘이 널리 사용될 것으로 예상되는 만큼,
인공지능 의료기기에 대한 제조물책임법 적용 범위를 재검토하고, 책임 귀속 구조와
69

<a id="page-84"></a>

### PDF p.84

인공지능 시대 의료계 대응 방안
입증 기준을 보완하는 법제 정비가 필요하다. 특히 환자 보호와 기술 혁신 간 균형을
확보하기 위해서는 개발자 책임을 명확히 규정하는 새로운 법적 틀이 마련되어야 한다.
바. 정부 책임
정부는 신뢰할 수 있는 의료 인공지능 기기 허가 제도를 운영할 책임이 있다. 현재
식품의약품안전처는 혁신 의료기기 지정제도, 조건부 허가, 인공지능 의료기기에 대한
신속심사 가이드라인 등을 통해 시장 조기 진입을 지원하고 있다. 그러나 일부 사례에
서는 신속한 심사를 이유로, 전면적인 임상시험 대신 제한된 성능자료나 후향적 근거
를 활용하여 허가가 이루어지기도 한다. 인공지능 기술은 데이터 편향과 오판의 위험
을 내포하고 있으며, 일부 경우에는 전임상 수준의 성능 시험이나 후향적 자료만으로
허가가 이루어질 수 있다. 기술 발전과 세계 시장 선점을 위한 신속 도입 필요성은 인
정되지만, 현장 적합성 부족이나 판단 오류 가능성으로 인해 충분한 안전성이 확보되
지 않으면 환자에게 직접적인 피해가 발생할 수 있다. 이러한 상황에서는 충분한 검증
없이 허가된 제품으로 인한 피해의 책임 주체가 불분명해지는 문제가 발생할 수 있다.
따라서 정부 인증 의료 인공지능 기기 사용으로 사고 발생 시, 의료기관, 개발사, 정
부 간의 명확한 책임 분담 체계를 마련할 필요가 있다. 현재는 도입 전 검증 단계의
불충분, 성능 기준 및 평가 체계의 미비, 사후 관리 체계의 부족 등 제도적 공백이 존
재한다. 이를 해소하기 위해 실사용 기반 모니터링 체계 구축, 정기적인 성능 보고 의
무화, 버전 업데이트 시 재검증 기준의 명확화 등 제도적 보완이 요구된다.
2. 민간 데이터 공유 한계
가. 데이터 소유권 불명확
1) 진료데이터 생산자 권리 구조 마련 필요
보건의료데이터 중에서도 진료데이터는 의료 인공지능 발전을 위한 가장 핵심적이고
의미 있는 자산이다. 그러나 고부가가치를 창출할 수 있는 진료데이터 생산에 기여한
의사의 지적 재산 유사 권리에 상응하는 재산권은 법적･제도적으로 보장되지 않고 있
70

<a id="page-85"></a>

### PDF p.85

제3장 의료 인공지능 활용의 한계
으며, 이를 둘러싼 사회적 논의도 매우 부족한 실정이다.93) 지금까지 진료데이터 활용
에 대한 논의는 주로 산업적 관점에서 이루어져 왔다. 데이터 기반 산업 활성화를 목
표로 하다 보니, 병원이나 제3의 연구기관 등 데이터 가공･처리 기관에 대한 권리 규
정은 명확히 하면서도, 정작 데이터의 원 생산자인 의사에 대해서는 법적 권리를 명시
하지 않거나 배제했다. 그 결과, 국내 현행 법체계는 진료데이터 생산자의 권익 보호는
사실상 공백 상태이다. 현재 진료데이터 활용에 따른 권리는 대부분 병원급 의료기관
이나 이들과 계약을 맺은 외부 기관･연구기관 등에 귀속되는 구조이다. 이러한 권리
구조는 진료데이터 생산에 실질적으로 기여한 의사의 권리에 관한 실질적 보상을 어렵
게 한다. 의사의 의학적 전문지식에 기반한 의학적 판단이 포함된 데이터가 2차적으로
활용되어 인공지능 학습이나 임상 연구, 맞춤형 치료에 쓰이는 인공시대에, 데이터 생
산 주체로서 의료인의 권리와 기여를 정당하게 평가하는 법적 장치가 필요하다.
진료데이터의 2차 활용이 활발히 이루어지면 양질의 대규모 데이터가 확보되고, 이
는 의료 인공지능의 정확도와 활용 가능성을 높이는 핵심 동력이 된다. 이를 위해서는
환자, 의사, 의료기관이 모두 시장 참여 주체로서 인정받고, 그에 상응하는 역할과 권
리가 균형 있게 반영되어야 한다. 진료데이터 생산에 참여한 다양한 이해관계자들의
기여를 고려해, 제3자 권리 분산 모델과 같은 새로운 데이터 권리 구조가 필요하다.
특히 의사는 진료데이터의 1차 생산자이자 임상적 판단과 전문성을 제공한 자로서 그
에 부합하는 법적 지위에 따른 권리 실현이 이뤄져야 한다. 의사의 행위에 부합하는
법적 지위 인정으로 권리가 실현될 수 없는 구조는 의료인의 자율성과 동기를 저해하
고, 나아가 환자 맞춤의료, 임상 연구, 인공지능 기반 치료 기술의 발전을 가로막는 요
인이 될 수 있다.
미국과 우리나라 간 의료 인공지능 발전 속도 차이에는 복잡한 다수 요인이 존재하
지만, 그중에서도 행위에 상응하는 권리가 제대로 보장되지 않는 구조가 의료 인공지
능 발전의 핵심 동력을 저해하는 주된 원인이다. 앞으로는 진료데이터의 법적 권리 구
조를 재설계함으로써, 의사의 실질적인 권한과 책임을 균형 있게 반영하고, 의료데이터
93) 임지연, “보건의료데이터 활성화를 위한 주요 과제”, 「IP & Data q法1」 제2권 제2호, 인하대
학교 법학연구소, 2022, 141~142면 참조.
71

<a id="page-86"></a>

### PDF p.86

인공지능 시대 의료계 대응 방안
생태계 내에서 의료인의 지위를 재정립하는 노력이 필요하다. 이는 단지 보상의 문제
가 아니라, 의료 AI의 신뢰성과 윤리성, 그리고 지속 가능한 디지털 헬스 혁신의 기반
을 마련하는 중요한 과제가 될 것이다.
2) 의료기관 데이터 권리 구조 마련 필요
우리나라에서 진료데이터의 수집･공유･활용은 주로 공공 목적 중심으로 이루어지고
있다. 의료기관이 생산한 데이터는 공공적 책무 또는 국가 정책 협조 일환으로 간주되
어 별다른 경제적 보상 없이 공공기관에 전송되고 있으며, 수집된 데이터는 제한적으
로 공공 목적에만 활용되는 구조다. 이러한 방식은 의료기관의 자발적인 데이터 활용
유인을 떨어뜨리고, 진료데이터의 자산화와 민간 활용을 어렵게 만드는 요인으로 작용
하고 있다. 의료기관은 진료데이터를 생산하기 위해 의사에게 인건비를 지급하고, 시설
과 장비를 제공하며 시스템을 구축하는 등 실질적인 비용을 투입한다.
그럼에도 데이터 제공에 대한 보상 체계는 마련되어 있지 않으며, 데이터 유통 및
거래 역시 명확한 제도적 근거 없이 제한된 상태에 머무르고 있다. 이러한 공공 중심
구조는 민간 시장에서의 데이터 활용 가능성을 차단하고 있으며, 결과적으로 의료 인
공지능 등 고부가가치 산업의 발전을 저해하고 있다.
반면, 미국은 진료데이터를 가명처리하거나 비식별화한 뒤, 병원과 기업 또는 연구
기관 간의 계약을 통해 자유롭게 거래할 수 있는 구조를 갖추고 있다. 데이터에 대한
소유권은 병원 또는 처리 주체가 갖는다는 인식이 있으며, 환자로부터 활용 동의를 받
은 경우 연구 및 산업 목적으로 데이터 거래가 가능하다. 이러한 체계를 가능하게 하는
「HIPAA」, 「21st Century Cures Act」 등의 법적 기반이 마련되어 있고, Truveta,
HealthVerity, Tempus, Datavant와 같은 진료데이터 전문 거래 플랫폼이 활발하게
운영되고 있다. 미국에서는 이러한 거래를 통해 의료기관이 데이터 제공자로서의 통제
권과 계약상 권리를 보장받는 구조를 갖추고 있다. 거래 시에는 사용 목적, 활용 범위,
보안 요건, 재이용 금지, 수익 배분 방식 등의 사항이 계약서에 명시되며, 이는 “병원
과 기업 간 직접 계약 형태”로 이루어진다. 데이터에 대한 권리는 법적 소유권의 의미
보다는 계약에 따른 사용권과 통제권의 의미로 보장되는 것이 특징이다.
72

<a id="page-87"></a>

### PDF p.87

제3장 의료 인공지능 활용의 한계
반면 한국에서는 민간 데이터 거래 시장이 존재하긴 하지만 실질적인 거래는 활성화
되지 못하고 있다. 공공기관 주도의 제한적 데이터 매칭 방식만 존재할 뿐이며, 의료법
과 개인정보보호법의 상충, 제도적 미비, 사회적 인식 부족 등으로 인해 민간 거래는
활발히 이뤄지지 못하고 있다. 일부 중개 플랫폼에서는 자율적 거래를 시도하고 있으
나, 표준 계약서, 데이터 품질 인증, 가격 책정 기준 등 핵심 인프라가 부재한 상황이
다. 표면적으로는 자율 가격이 가능하지만, 실제로는 거래가 원활히 이뤄질 수 없는 구
조로 볼 수 있다. 의료기관이 데이터 거래의 실질적인 주체가 되기 위해서는, 공공 목
적에 한정하지 않고, 자율적으로 수집･가공한 데이터를 민간과 자유롭게 거래할 수 있
도록 하는 법적 명확성이 필요하다.
이를 바탕으로 민간 의료데이터 활용이 결국 의료의 발전과 환자 치료의 질 향상으
로 이어진다는 사회적 수용성이 확보되어야 하며, 이를 통해 의료기관이 ‘데이터 제공
자’로서의 권리를 인정받고 정당한 경제적 보상을 받을 수 있어야 한다. 나아가 진료데
이터의 2차 활용(최초 수집 목적과는 다른 연구･산업 목적으로 데이터를 재사용하여
경제적 가치를 창출하는 과정)이 본격화되기 위해서는, 데이터의 가치에 대한 체계적인
평가 기준이 필요하다. 이를 위해 데이터 보안 기술, 활용 가능성, 정확도, 임상적 유
의성 등을 반영한 다층적 가치 평가 체계가 마련되어야 하며, 진료데이터의 층위별 정
보 가치에 대한 분류도 함께 이루어져야 한다. 특히, 진료데이터의 실질적 생산자인 의
사의 권리와 그 법적 성격에 대한 명확한 입법적 논의가 병행되어야 하며, 데이터 생
태계 내에서 의사의 역할과 기여를 반영한 권리 구조 설계가 필수적이다.
나. 의료기관 간 데이터 연계의 어려움
1) 보건의료데이터 표준화 및 상호운용성
진료데이터 표준화는 의료 인공지능 전환과 환자 중심 의료정보 교류를 실현하기 위
한 핵심 정책 과제로 추진되고 있다. 의료기관 간 정보 연계와 효율적인 교류를 위해
서는 진료정보를 교류할 수 있는 표준화가 보장되어야 하는데, 이를 위해 국가 차원의
상호운용성 확보를 위한 정책이 추진되고 있다. 우리나라는 이러한 배경 속에서 2023년
8월, 보건의료 데이터 교류 시 준수해야 할 항목으로 한국형 핵심교류데이터(Korean
73

<a id="page-88"></a>

### PDF p.88

인공지능 시대 의료계 대응 방안
Core Data for Interoperability; KR-CDI)를 제정하고 77개 교류 항목을 고시하였
다. 진료데이터의 활용을 위해서는 진료데이터의 양적 수집만으로는 충분하지 않으며,
정확하고 일관된 의료 판단을 지원할 수 있는 양질의 데이터 확보가 전제되어야 한다.
이를 위해서는 코드체계, 데이터 구조, 용어표현 등이 상호 통합적으로 연동되어야
하며, 이러한 작업이 바로 데이터 표준화이며, 나아가 상호운용성 확보로 이어진다. 상
호운용성이란 서로 다른 정보시스템, 네트워크, 소프트웨어가 데이터의 의미와 맥락을
훼손하지 않고 정확하고 안전하게 교환할 수 있는 능력을 의미한다. 특히 영상의학검
사는 KR-CDI의 핵심 교류 항목으로 포함되어, 관련 학회 주도로 표준화 및 상호운용
성 시범사업이 진행 중에 있다.94)
의료 인공지능 도입을 위한 기반 조성 측면에서도 상호운용성은 필수적이다. 이를 위해
보건복지부와 한국보건의료정보원은 EMR 시스템 인증 제도를 운영하고 있다. 2020년
부터 2023년까지 운영된 제1주기 인증에서는 총 178개 EMR 제품 중 136개가 인증
을 획득하였고, 2025년부터 시행될 제2주기 인증 제도는 정보 표준항목의 관리 및 기
관 간 교류 체계 구축을 중점으로 개정되었다.95)
제2주기에서는 기존의 기능성 중심 평가에서 나아가, 상호운용성과 정보 공유 능력
까지 포함하여 의료정보가 실제로 연계･활용될 수 있는 구조로 인증 기준이 강화하고
있다. 그 이유는 보건의료 디지털 전환의 핵심 동력인 보건의료정보의 활용 확대를 통
한 의료인공지능, 디지털치료제 등 보건의료정보를 활용한 디지털 헬스케어 발전을 위
해서는 표준 진료정보 생성이 중요하기 때문이다.
하지만 우리나라는 의료정보 표준화와 상호운용성 확보를 위한 정책과 사업이 개별
적으로 운영되고 있는 한계가 있다. 이에 따라 제도 간 연계 부족, 추진 주체 간 역할
분담 미흡, 현장 확산 저조 등의 문제가 나타난다. 효과적인 확산을 위해서는 일관된
정책 체계와 동시에 인센티브 기반의 확산 전략이 필요하다.
94) Joon-Won Kang et al., “Standardization for Promoting Interoperability of Healthcare
Data: The Progression of the Korean Society of Radiology”, 「J Korean Soc Radiol.」
2024 Nov 26;85(6):1035–1043, doi: 10.3348/jksr.2024.0124
95) 보건복지부 보도자료, 2주기 전자의무기록(EMR) 시스템 인증 시범사업에 참여할 의료기관･의
료정보업체 모집, 2024. 2. 14. 자.
74

<a id="page-89"></a>

### PDF p.89

제3장 의료 인공지능 활용의 한계
미국, EU, 영국 등 주요 국가들은 보건의료데이터의 표준화와 상호운용성 정착을
위한 법적 근거 마련, 국제 표준 채택 의무화, 재정지원 및 기술지원 프로그램을 운영
하고 있다. 특히 미국은 국가 차원의 상호운용성 전략을 수립하고, 데이터 표준 및 프
로토콜 개발, 표준 준수 향상과 확산을 위한 보조금 지급, 민관 협력 촉진, 정책 연계
인센티브 등을 적극 활용하고 있다. 표준화 항목 선정(무엇을 교환할 것인가)과 기술
방식 결정(어떻게 교환할 것인가)을 정책적으로 설계하며, 의료 현장과 산업계의 실질
적 의견을 반영한 전략적 추진이 이루어지고 있다.
결국 데이터의 표준화와 상호운용성은 단지 기술적 작업이 아니라, 의료의 질 향상
과 인공지능 발전, 환자 참여 강화를 위한 핵심 인프라로 기능한다. 이를 효과적으로
확산시키기 위해서는 정책적 일관성과 강력한 인센티브 체계, 그리고 공공-민간 협력
을 기반으로 한 거버넌스 체계 마련이 요구된다.
2) 상호운용성 증진을 위한 인센티브제도 부재
보건복지부는 EMR 시스템의 품질을 보장하고 의료기관의 신뢰도를 제고하기 위해
2020년부터 EMR 인증제도를 시행해 왔다. 이 제도는 EMR 시스템이 일정 기준을 충
족하는지를 평가하여 제품 인증과 사용 인증을 부여함으로써, 의료기관이 보다 안전하
고 신뢰할 수 있는 시스템을 도입하도록 유도하기 위한 장치이다. 2025년부터는 인증
기준이 개정되어, 데이터 품질 관리와 의료정보 상호운용성을 더욱 강화하는 방향으로
제도가 개편될 예정이다.96)
그러나 현재의 인증제도는 의료기관에 실질적인 인센티브를 제공하지 못하고 있어,
상호운용성 구현에 대한 참여 동기를 부여하는 데 한계가 있다. 건강보험심사평가원이
EHR 시스템 도입과 운영을 위한 지원 프로그램을 일부 운영하고는 있지만, 상호운용
성 확보를 위한 추가 노력에 대해 건강보험 수가 인상이나 설치 비용 보조 등 실질적
보상 체계는 마련되어 있지 않다. 즉, 의료기관이 자발적으로 EMR을 설치하고, 표준
화된 시스템을 구축할 유인을 가질 수 있는 환경이 부족한 상황이다.
96) 정창욱, 최승혁, 「보건의료정보 상호운용성 제고 방안 연구」, 『한국보건의료정보원』, 2024, 56면.
75

<a id="page-90"></a>

### PDF p.90

인공지능 시대 의료계 대응 방안
반면, 미국은 2009년 ‘경제회복 및 재투자법(ARRA)’을 통해 EHR 시스템 도입을
본격적으로 추진하였으며, 이 과정에서 Meaningful Use(MU) 프로그램을 도입하여 의
료기관과 의료전문가에게 명확한 보상과 벌점 구조를 제공했다. 메디케어 참여 전문가
에게는 최대 44,000달러, 메디케이드 참여 전문가에게는 최대 63,750달러의 인센티브
가 제공되며, 의료인력 부족 지역(HPSA) 근무 시에는 추가 10% 보상도 가능하다.
단순한 도입만으로는 보상이 지급되지 않으며, 실제 진료에 의미 있게 활용(MU)한
경우에만 인센티브가 제공된다. 기준 미달 시에는 메디케어 보상금 삭감이라는 벌점이
부과된다. 병원의 경우에도 기본 지급액 200만 달러와 퇴원 건수에 기반한 추가 지급
을 합산하여 최대 637만 200달러까지 인센티브를 받을 수 있다. 이 같은 구조는 단순
한 기술 보급을 넘어서 실제 진료 성과와 데이터 활용 역량에 기반한 인센티브 체계로
설계되었으며, 2017년 이후에는 이를 통합한 성과 기반 보상 체계인 MIPS(Merit-
based Incentive Payment System)로 발전하였다.
MIPS는 품질, 비용, 임상 개선 활동, 상호운용성 활용(Promoting Interoperability)
등 4개 영역에서 의료인의 성과를 종합 평가하여, 평가 점수에 따라 메디케어 수가를
인상 또는 삭감하는 구조이다. 특히 상호운용성 영역에서는 환자와의 데이터 공유,
API(Application Programming Interface)를 통한 정보 연계, 환자 포털 사용 실적
등이 핵심 평가 항목으로 포함된다. 평가 점수는 상대평가 방식으로 적용되며, 연 9%
까지 수가 차이가 발생할 수 있다. 이 점수는 평가 대상 연도에서 2년 후의 메디케어
수가에 반영된다(예: 2023년 성과 → 2025년 수가 반영). 미국의 사례는 보건의료 디
지털화 초기에는 Meaningful Use 중심의 도입 장려금 형태로 출발했지만, 이후 진료
성과 중심의 가치 기반 보상 체계로 진화했다는 점에서 의미가 크다. 기술의 단순 도
입보다 실제 활용성과 진료 질 향상에 대한 기여도를 중시하는 방향으로 전환된 것이
다. 미국의 이와 같은 제도는 우리나라에 주는 시사점이 있다.
첫째, 미국은 시스템 보급 초기 단계에서 인센티브를 적극 지원하여 의료기관의 참
여를 유도하고, 이후에는 진료정보 연계성과 실적 중심의 평가로 전환해 성과 기반 보
상을 정착시켰다. 둘째, 보상뿐만 아니라 기준 점수(75점)에 미달하는 경우 메디케어
수가에서 일정 비율을 삭감한다. 의료기관의 자발적 참여를 유도하는 유인책을 마련하
76

<a id="page-91"></a>

### PDF p.91

제3장 의료 인공지능 활용의 한계
였다. 셋째, 환자가 자신의 의료정보에 접근하고 통제할 수 있도록 하는 환자 중심 정
보 생태계를 지향하며, 이를 의료기관의 정보 전송 책임으로 제도화하였다.
나아가 2025년부터 미국은 환자 중심 디지털 생태계로의 전환을 가속화하고 있다.
이를 위해 의료기관의 임상 정보뿐만 아니라 PGHD(Patient-Generated Health Data:
환자 생성 건강정보)를 연계･활용하는 방향으로 정책을 확장하고 있으며, Promoting
Interoperability 프로그램에서는 환자 정보 접근 권한 부여, API 기반 정보 공유, 환
자 포털의 활용도 등을 구체적인 성과 지표로 설정하고 있다.
궁극적으로 미국은 의료 인공지능과 정밀 의료 실현을 위한 핵심 기반으로 데이터
상호운용성과 활용 실적을 수가에 직접 반영하는 가치 기반 보상 체계를 정착시키고
있으며, 이는 지속 가능한 디지털 헬스 전환을 위한 강력한 제도적 토대가 되고 있
다.97) 한국 역시 이 같은 방향성과 정책 설계를 참고하여, 의료기관이 데이터 표준화
와 상호운용성 강화를 위한 실질적 동기를 가질 수 있는 구체적인 인센티브 구조 마련
이 상호운용성을 위한 정책과 함께 추진되어야 한다.
3. 진료데이터 개인 정보 보호･보안 문제
진료데이터는 환자의 질병, 진단, 치료 이력, 복약 정보 등 민감한 건강 정보를 포함
하고 있어, 일반 개인정보보다 훨씬 높은 수준의 보호가 요구된다. 최근 이러한 데이터
가 정보통신기술과 결합되어 디지털화되면서 활용이 가속화되고 있으며, 인공지능 기
반 의료 기술, 데이터 분석, 임상 연구 등에서 핵심 자원으로 기능하고 있다. 그러나
이와 동시에 진료데이터의 유출 위험성과 보안 위협도 함께 증대되고 있어, 보건의료
체계 전반에 걸쳐 민감정보 보호에 대한 법적･제도적 조치가 필요하다.
진료데이터는 ‘진료정보’라는 특수성을 지닌다. 이는 단순한 개인정보가 아니라 개인
의 신체･건강 상태에 대한 내밀하고도 사적인 정보이며, 사회적 낙인, 차별, 불이익을
초래할 수 있는 높은 기밀성을 갖는다. 이러한 성격 때문에 진료정보의 유출은 재식별
97) 임지연, “미국, 디지털 헬스 전환을 위한 성과 중심 상호운용성 강화”, 「의료정책포럼」 Vol.23
No.2, 2025.
77

<a id="page-92"></a>

### PDF p.92

인공지능 시대 의료계 대응 방안
가능성이나 파급 효과 측면에서 심각한 사회적 문제를 초래할 수 있다.
더욱이 생성형 인공지능과 결합 될 경우, 정보의 비의도적 학습 및 출력, 모델을 통
한 재구성 가능성 등 새로운 유형의 정보 유출 위험이 발생한다.98) 의료인 및 의료기
관은 오랜 기간 환자의 진료 정보를 윤리적, 직업적 책임에 의해 보호했다. 실제로
「의료법」 제21조, 「약사법」 제30조 등은 진료기록의 보존과 비공개 원칙을 명시하고
있으며, 환자 동의 없는 제3자 제공을 제한했다.
그러나 논의된 데이터 전송요구권은 이러한 원칙에 반하는 것으로, 데이터 주체인
환자가 자신의 진료정보를 제3자에게 전송하도록 요구할 수 있는 권리를 명문화하고,
이에 따라 의료기관은 해당 요구에 응해 민감한 데이터를 외부로 전송할 법적 의무를
부담하게 된다. 이는 정보 보호 의무와 정보 이동권 사이의 긴장 관계를 낳는다. 또한
진료정보 유출에 대한 책임은 의료기관에 집중된다.
설령 의료기관이 관련 법률과 기술적･관리적 보안 조치를 충분히 이행했다 하더라
도, 전송 과정에서 예기치 못한 침해나 외부 시스템에서의 유출이 발생하면 법적 책임
의 소재가 의료기관에 귀속될 수 있다는 점이 의료계의 큰 우려이다. 이로 인해 의료
기관은 민감정보 제공에 소극적 태도를 취하게 된다. 이는 결과적으로 의료데이터 활
용의 제약 요소로 작용한다. 따라서 정보 유출과 관련한 의료기관의 책임 구조에 대한
재검토와 정당한 면책 제도 도입이 필요하다. 안전조치를 충실히 이행한 의료기관이
비의도적인 유출 정보에 대해 과도하게 책임을 지게 된다면, 이는 정보 활용과 공유
활성화에 구조적인 장애가 될 수 있다. 즉, 일정 수준 이상의 기술적･관리적 보호조치
를 이행한 기관에 대해서는, 전송 이후 발생한 정보 유출에 대해 법적 면책 또는 책임
분산이 제도화되어야 한다. 또한 의료기관이 법적 의무만 부담하고 데이터 활용으로
인한 혜택은 참여하지 못하는 구조 역시 재검토되어야 한다. 진료데이터는 병원과 의
료인의 전문성에 기반한 정보 생성 결과물이다. 책임을 요구받는다면, 보상 및 권리 측
면에서도 균형 있는 제도 설계가 병행되어야 한다.
결론적으로, 진료데이터의 디지털 전환과 활용 확대는 의료서비스의 효율성과 질 향
상에 기여한다. 개인정보 보호 및 정보보안 측면에서 의료기관과 의료인이 감당해야
98) 삼정 KPMG, 「AI로 촉발된 헬스케어 산업의 대전환」, 통권 제89호, 2024, 17면.
78

<a id="page-93"></a>

### PDF p.93

제3장 의료 인공지능 활용의 한계
할 책임의 범위와 기준에 대한 명확한 정의와 제도적 정비가 필요하다. 동시에, 의료기
관이 안전하게 데이터를 전송･관리할 수 있도록 기술 지원, 책임 분산, 그리고 법적
면책 조건 등이 제도적으로 뒷받침되어야 하며, 데이터 활용과 보호 간 균형을 맞춘
체계적인 정책 마련이 필수적이다.
79
