---
id: rihp-research-report-2025-05-s03
title: "제4장. 제1절에서는 국내 인공지능 관련 법률과 식약처의 가이드라인을 분석했다."
collection: research-report
publication_id: 2025-05
year: 2025
published_at: "2025-10-02"
category: "chapter"
authors: []
topics: ["regional-healthcare", "health-insurance", "ai-and-data"]
pdf_pages: 95-122
source_file: "rihp-research-report-2025-05.pdf"
source_sha256: d47b44f2a7b7fe01a8eabfb097c84af8325e33a5152130f2140c930d213dc0d5
source_url: "https://rihp.re.kr/bbs/board.php?bo_table=research_report&wr_id=380"
pdf_url: "https://rihp.re.kr/bbs/download.php?bo_table=research_report&wr_id=380&no=1"
extraction_status: machine-extracted-needs-review
ai_generated_metadata: true
---

# 제4장. 제1절에서는 국내 인공지능 관련 법률과 식약처의 가이드라인을 분석했다.

> [!CAUTION] 기계 추출 파일럿입니다. 표·그림·문서 경계를 원본 PDF와 대조해야 합니다.
> 원문의 필자 개인 견해 고지가 있는 경우 기관의 공식 견해로 해석하지 않습니다.

## 출처

- 발간물: 인공지능 시대 의료계 대응 방안
- PDF 물리 페이지: 95-122
- 원본 파일: `rihp-research-report-2025-05.pdf`
- RIHP 게시물: [https://rihp.re.kr/bbs/board.php?bo_table=research_report&wr_id=380](https://rihp.re.kr/bbs/board.php?bo_table=research_report&wr_id=380)
- RIHP PDF: [https://rihp.re.kr/bbs/download.php?bo_table=research_report&wr_id=380&no=1](https://rihp.re.kr/bbs/download.php?bo_table=research_report&wr_id=380&no=1)

## 정규화 본문

<a id="page-95"></a>

### PDF p.95

제4장 의료 인공지능 관련
국내･외 입법 현황

<a id="page-97"></a>

### PDF p.97

제4장 의료 인공지능 관련 국내･외 입법 현황
제1절 국내 입법 현황 및 식약처 가이드라인 현황
1. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법
가. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 주요 내용
「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 “인공지능기본법”)」은 인공
지능, 고영향 인공지능, 생성형 인공지능, 인공지능 윤리 및 인공지능사업자 등을 정의
하고(제2조), 과학기술정보통신부장관(이하 장관)은 3년마다 인공지능기술 및 관련 산
업의 진흥과 국가경쟁력 강화를 위한 기본계획을 수립･시행하도록 하였으며, 기본계획
에는 정책의 기본 방향, 전문인력 양성, 신뢰 기반 조성 등에 관한 사항을 포함하도록
하였다(제6조). 또한 대통령 소속의 국가인공지능위원회를 규정하여 기본계획의 수립,
인공지능 활용 촉진, 고영향 인공지능 규율 등에 관한 사항을 심의･의결하도록 하였다
(제7조, 제8조). 과학기술정보통신부장관은 인공지능 관련 정책 개발, 국제 규범 정립
과 확산을 위해 인공지능정책센터를 지정할 수 있고, 인공지능 안전 확보를 위해 인공
지능안전연구소를 운영할 수 있도록 규정하였으며, 인공지능 기술 관련 표준화를 위해
표준 제정 등의 사업을 추진할 수 있도록 하였다(제11조, 제12조).
정부는 인공지능 윤리의 확산을 위해 안전성･신뢰성, 접근성, 사람의 삶과 번영에의
공헌 등의 사항을 포함하는 인공지능 윤리 원칙을 제정･공표할 수 있다(제27조). 한편
고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 인공지
능사업자는 해당 사실을 이용자에게 사전에 고지하여야 하고, 생성형 인공지능에 의한
제품 또는 서비스의 경우 그 사실을 표기하여야 하며, 인공지능시스템을 이용하여 실
제와 구분하기 어려운 가상의 결과물을 제공하는 경우 그 사실을 이용자가 명확하게
알 수 있도록 고지 또는 표시하여야 한다(제31조). 또한 고영향 인공지능 관련 사업자
는 이를 이용한 제품･서비스를 제공하는 경우 안전성･신뢰성 확보를 위한 조치를 이행
해야 한다(제34조). 「인공지능기본법」은 국내 인공지능의 새로운 기준을 마련한 기본법
인 만큼 전 분야에 걸친 내용을 규율하고 있으며, 보건의료 분야의 인공지능은 이전의
논의에서 사용하던 고위험 인공지능이 아닌 고영향 인공지능으로 규정하고 있다.
83

<a id="page-98"></a>

### PDF p.98

인공지능 시대 의료계 대응 방안
나. 인공지능기본법 검토
1) 기본법 성격으로 인한 실효성 한계
2024년 제정된 「인공지능기본법」은 기본법의 성격을 지닌다. 기본법은 국민이나 민
간에 대한 직접적인 의무 부과보다는, 국가의 정책 방향을 설정하고 이를 추진하기 위
한 국가의 책무를 규정하는 데 초점을 맞춘 법률이다. 이러한 구조적 특성 때문에,
「인공지능기본법」 역시 인공지능 개발 및 운영과 관련된 핵심 원칙의 강제적 준수보다
는, 자발적 이행에 크게 의존하는 경향이 있다. 실제로 동 법은 과학기술정보통신부장
관이 인공지능사업자에게 중지 명령이나 시정명령을 내릴 수 있도록 규정하고 있지만,
이를 이행하지 않을 경우 부과되는 제재는 3천만 원 이하의 과태료에 그치며, 위반에
따른 형사처벌 조항은 명시되어 있지 않다. 그 결과 법적 강제력이 상대적으로 낮아
실효성에 대한 우려가 제기되고 있다. 따라서 「인공지능기본법」은 엄격한 의무 이행을
요구하는 경성 규범(hard law)과 완전히 자율적 성격을 지닌 연성 규범(soft law)도
아닌, 그 중간 형태의 반연성규범(semi-soft law)으로 평가된다. 이는 민간의 규율 측
면에서 일정한 정책 신호와 기준을 제시하면서도, 법적 구속력과 제재 수단이 제한적
이라는 점에서 규제의 실효성 확보에는 한계가 존재함을 시사한다.
2) 인공지능기본법과 기존 법률 간 조율 부재(의료 인공지능 규제 체계 불일치)
「인공지능기본법」은 산업 전반에 걸쳐 인공지능의 윤리성, 안전성, 신뢰성 확보를
위한 원칙과 기준을 제시하며, 인공지능의 사회적 책임 이행을 제도화했다는 점에서
제도적으로 중요한 진전을 이룬 법률이다. 이 법은 위험 등급 평가, 설명 가능성, 비차
별, 투명성 등 윤리 중심의 규제 원칙을 도입하여, 인공지능 기술의 책임 있는 활용을
유도하고 있다. 「인공지능기본법」은 전 산업을 포괄하는 기본법이자 연성 규범 성격으
로 기술 변화에 유연하게 대응할 수 있다는 장점이 있지만, 법적 구속력과 제재 수단
이 제한적이라는 한계도 있다. 이러한 특성은 생명과 안전에 직결되는 의료인공지능과
같은 고위험 기술 분야에서는 제도의 실효성을 저해할 우려가 있다.
의료 인공지능은 이미 「의료기기법」 및 「디지털의료제품법」 등 강행규범 체계에 따
라, 안전성과 임상적 유효성에 대한 법적 검증 절차를 이행하고 있다. 이들 법률은 소
84

<a id="page-99"></a>

### PDF p.99

제4장 의료 인공지능 관련 국내･외 입법 현황
프트웨어 기반 의료기기를 의료기기로 정의하고, 식품의약품안전처를 중심으로 고도의
인허가 및 사후관리 체계를 구축하고 있다. 그러나 강행규범인 「의료기기법」과 연성규
범인 「인공지능기본법」이 동일한 의료 인공지능 제품에 병렬적으로 적용되면서, 상이
한 법적 목적･규제 절차･소관 부처에 따른 중복 심사, 절차 이원화, 적용 우선순위 불
명확성이 발생하고 있다. 이로 인해 기업과 의료기관은 이중 규제에 따른 비용 증가와
개발 지연을 겪으며, 의료 기술의 임상 적용이 지체되는 부작용이 나타난다. 정부는 식
품의약품안전처의 가이드라인 제정과 「디지털의료제품법」 시행 등 제도 정비를 통해
혼선을 완화하려 하고 있으나, 두 법체계 간 심사 연계와 우선순위 조정은 여전히 미
흡하다. 특히, 「인공지능기본법」 제정 이전부터 운영되던 의료기기 심사 가이드라인과
의 조율 부재로 인해 병렬 규제 문제가 해소되지 못하고 있다.
3) 의료의 특수성을 반영한 개별법 제정 필요
EU의 「AI Act」는 의료 인공지능을 고위험 인공지능(high-risk AI)으로 분류하고 있
으며, 이에 따라 임상적 근거, 설명 가능성, 공정성, 데이터 편향성 검증 등 엄격한 요
건을 충족할 것을 요구하고 있다. 해당 시스템은 정밀 심사, 기술문서 제출, 시판 후
감시 및 리콜 계획 수립 등 포괄적인 사후 관리 체계를 갖추어야 하며, 이는 개발 기
간과 비용의 증가로 이어져 기업과 의료기관에 상당한 부담을 주고 있다.
국내의 「인공지능기본법」도 의료 인공지능을 ‘고영향 인공지능’으로 분류하고 있으
며, 향후 더 높은 규제 등급으로 상향될 가능성도 있다. 이에 따라 신뢰 확보를 위한
규제 강화는 불가피하겠지만, 규제 간 충돌을 최소화하고 의료 현장의 과도한 부담을
완화할 수 있는 체계적 정비가 반드시 병행되어야 한다. 더불어, 「인공지능기본법」은
‘개발사업자’와 ‘이용사업자’를 포괄하여 ‘인공지능사업자’라는 단일 개념으로 규정하고
있다. 하지만 의료기관이나 의료인이 이 정의 내 어디에 속하는지 명확하지 않고, 본문
의 의무 조항 또한 단일 주체 중심으로 구성되어 있어, 법적 책임의 범위에 혼선을 초
래하고 있다. 이는 의료 현장의 실무자에게 법적 불확실성과 부담을 가중시키는 요인
으로 작용한다. 결과적으로 의료 인공지능은 기존의 제품 중심 규제(예: 의료기기법)와
신설된 윤리 중심 규제(예: 인공지능기본법) 사이에서 제도적으로 공백 상태에 놓여 있
85

<a id="page-100"></a>

### PDF p.100

인공지능 시대 의료계 대응 방안
으며, 진료데이터 활용, 임상 적용 기준, 사용자 책임 분담, 인증 절차 등과 같은 핵심
쟁점들이 체계적으로 정리되지 않은 상태에 머물러 있다. 이러한 상황을 개선하기 위
해서는 의료 인공지능의 특수성과 의료 현장의 복잡성을 반영한 「의료 인공지능 및 보
건의료데이터 활용에 관한 특별법(가칭)」 제정이 필요하다. 이 개별법은 기존 법률 간
의 충돌을 해소하고, 개발-임상-사후 관리에 이르는 전 주기를 포괄하는 정합적 규제
체계를 마련함으로써, 의료 인공지능의 안정적 활용을 촉진하고 국민의 신뢰를 확보하
는 제도적 기반이 될 수 있을 것이다.
2. 식약처 가이드라인
식품의약품안전처는 2025년 1월 24일, 전 세계 최초로 「생성형 인공지능 의료기기
허가･심사 가이드라인」을 제정하였다. 2025년에는 인공지능 기술이 적용된 디지털 의
료기기 전반에 대한 허가･심사 가이드라인을 마련함으로써, 인공지능 기반 의료기기의
안전성과 유효성을 보장하면서도 산업계의 기술 개발 활성화를 위한 제도적 기반을 마
련하였다.99) 해당 가이드라인의 적용을 받는 기기는 의료데이터를 분석하여 「디지털의
료제품법」 제2조(정의)에 부합하는 목적을 갖는 기계 학습 기반 의료기기, 독립형 디지
털 소프트웨어 의료기기, 기존 의료기기에 내장된 형태의 소프트웨어다.
특히 생성형 인공지능 의료기기에 대해서는, 적용 대상을 보다 구체화하고 ① 의료
용 파운데이션 모델(Foundation Model)을 포함한 어플리케이션, ② 파운데이션 모델
을 활용하지만 직접 포함하지 않은 어플리케이션으로 나누어 각기 다른 허가･심사 기
준을 마련하였다. 식약처는 이러한 제도적 정비를 통해 생성형 인공지능을 활용한 디
지털 의료기기의 등록 및 실용화를 촉진하고 있으며, 미래 의료산업에서의 인공지능
기술 활용 확산을 제도적으로 뒷받침하고 있다.
동 가이드라인은 생성형 인공지능 기술이 적용된 의료기기의 정의, 허가 요건, 적용
범위 및 사후관리 기준 등을 포괄하고 있다. 이는 산업의 기술 변화에 선제적으로 대
99) 식품의약품안전처, 「인공지능기술이 적용된 디지털의료기기의 허가･심사 가이드라인(민원인 안
내서)」, 2025. 5. 1~2면.
86

<a id="page-101"></a>

### PDF p.101

제4장 의료 인공지능 관련 국내･외 입법 현황
응함으로써 산업 경쟁력을 높이고자 한 것으로 보인다.
식약처의 「생성형 인공지능 의료기기 허가･심사 가이드라인」은 인공지능을 학습, 의
사결정 및 예측과 같은 행동을 구현하거나 작업을 수행하기 위한 알고리즘 또는 모델
을 사용하는 기술의 한 분야로 정의하고, 기계 학습 기술이 적용된 의료기기에 대하여
기계 학습 가능 의료기기(Machine Learning-enabled Medical Devices, MLMD)로
정의한다. 동 가이드라인은 ‘의료기기법’과 ‘의료기기 허가･신고･심사 등에 관한 규정’
을 기반으로 기계 학습 기술이 적용된 제품들에 대해 현시점에서 의료기기로 관리해야
할 필요성을 검토하고 구체적인 허가･심사 방안을 제시하고 있다.
현재 우리나라는 「인공지능기본법」이 제정된 초기 단계로, 고영향 인공지능에 대한
세부 규율은 향후 마련될 하위법령에서 마련될 예정이다. 이에 따라 식약처의 「생성형
인공지능 의료기기 허가･심사 가이드라인」 등 기존 규제 기준과의 정합성을 고려한 제
도적 정비가 필요하다.
또한 생성형 의료 인공지능 기기의 임상 현장 도입에 앞서 우선 해결되어야 할 문제
가 있다. 첫째, 생성형 인공지능은 비정형 대규모 데이터를 학습하는 구조이기 때문에
오류나 편향이 포함된 데이터를 그대로 흡수할 가능성이 높고 이는 잘못된 진단과 정
보 생성으로 이어질 수 있다. 둘째, 생성형 인공지능은 도출 과정을 추적･설명하기 어
렵고, 같은 입력에도 서로 다른 출력을 생성할 수 있어 의료기기로서의 재현성･신뢰성
확보가 문제 된다. 셋째, 생성형 인공지능은 지속적 업데이트가 전제되어야 하므로, 시
판 후 성능 변화에 대한 모니터링과 법적 책임 주체 설정이 중요하다.
하지만 현재 가이드라인은 사후관리 체계와 법적 의무를 명확히 규정하고 있지 않
다. 식약처의 가이드라인은 행정치침 수준의 연성 규범에 해당하며, 강제력이 제한적이
다. 생성형 인공지능처럼 위험도와 기술 변화 속도가 높은 분야에 대해서는 사전 심사
뿐 아니라 사후관리, 기술문서 제출, 사용자 의무 규정 등 전 주기적 관리체계가 법제
화되어야 한다. 따라서 향후에는 의료의 특수성과 생명･건강권 보호라는 공익을 반영
한 「의료 인공지능 및 보건의료데이터 활용에 관한 특별법」 제정을 통해, 생성형 인공
지능을 포함한 다양한 형태의 의료 인공지능에 대한 개발, 임상 적용, 사후관리, 책임
분담까지 아우르는 정합적 규율 체계를 마련해야 한다.
87

<a id="page-102"></a>

### PDF p.102

인공지능 시대 의료계 대응 방안
제2절 국외 입법 현황
1. 미국
가. 바이든 대통령의 인공지능 행정명령(Executive Order 14110, 2023.10.30.)
1) 주요 내용
2023년 10월 30일, 조 바이든 대통령은 “안전하고, 신뢰할 수 있는 인공지능의 개
발 및 사용에 관한 행정명령(Executive Order 14110)”을 발표했다.100) 행정명령은
인공지능의 책임 있는 개발과 사용을 위한 바이든 행정부의 비전을 제시하며,101) 연방
정부 차원에서 인공지능의 개발과 활용, 위험 관리, 국제 협력 확대, 정부와 민간의 역
할 구분 등 인공지능 규제 입법을 위한 종합적 정책 토대를 제시했다.
한편, 행정명령은 “국제적 리더십”의 중요성을 강조하면서, 미국이 단순한 협력 파트
너가 아니라 인공지능 산업･정책･표준을 선도하는 중심 국가가 되겠다는 전략적 의지
를 드러낸다. 행정명령은 미국이 인공지능 시대에 글로벌 규범과 거버넌스를 주도하고,
책임성과 가치 중심의 기술 발전을 선도하겠다는 의지를 반영하고 있다. 행정명령
14110호는 민간 기업에 직접적인 법적 구속력은 없지만, 연방기관을 대상으로 하는
정책적 지침으로서 인공지능 기술의 오용 위험을 통제하고, 공공성과 안전성을 기반으
로 한 책임 있는 활용을 촉진하려는 미국 연방정부의 명확한 정책 방향을 담고 있다.
100) The White House, “Safe, Secure, and Trustworthy Development and Use of Artificial
Intelligence”, October 30, 2023. Access from. https://bidenwhitehouse.archives.gov/
briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure
-and-trustworthy-development-and-use-of-artificial-intelligence/?utm_source=chat
gpt.com
101) The White House, “Remarks by President Biden and Vice President Harris on the
Administration’s Commitment to Advancing the Safe, Secure, and Trustworthy
Development and Use of Artificial Intelligence, October 30, 2023. Access
from.https://bidenwhitehouse.archives.gov/briefing-room/speeches-remarks/2023/1
0/30/remarks-by-president-biden-and-vice-president-harris-on-the-administration
s-commitment-to-advancing-the-safe-secure-and-trustworthy-development-and-us
e-of-artificial-intelligence/
88

<a id="page-103"></a>

### PDF p.103

제4장 의료 인공지능 관련 국내･외 입법 현황
행정명령은 연방정부의 영향력에 의해, 인공지능의 개발과 사용 단계에서 안전하고
책임 있는 활용을 위한 사회 전체의 협력 유도를 목표로 한다(Section 1).
이를 위해 인공지능 거버넌스를 위한 8가지 핵심 원칙을 제시했다.
구체적으로는 인공지능의 안전성과 보안(Section 2(a)), 책임 있는 혁신과 중소기업
및 혁신가 지원을 통한 공정한 경쟁 촉진(Section 2(b)), 노동자 권익 보호(Section
2(c)), 차별과 편향 방지를 위한 법적･기술적 평가와 시민사회 참여 기반 감시체계 마
련(Section 2(d)), 소비자 보호(Section 2(e)), 프라이버시 및 시민 자유 보호(Section
2(f)), 공공행정 체계 내 인공지능 위험 인식 및 책임 있는 사용 촉진(Section 2(g)),
국제 기준 및 협력 체계를 통한 미국의 글로벌리더십 강화(Section 2(h)) 등이 포함되
어 있다. 행정명령은 인공지능을 활용한 불공정하거나 기만적인 사업 관행, 사생활 침
해, 차별 행위 등에 대해 기존 법률을 강력히 집행할 것을 연방기관에 지시하고 있다.
이는 인공지능의 불공정한 적용에 대한 우려가 큰 보건의료와 건강보험 분야의 병원과
보험사들이 법 집행의 주요 대상이 될 수 있음을 시사한다.
행정명령의 상당 부분은 사이버 보안 및 비의료 분야에서의 인공지능 사용에 초점을
맞추고 있지만, 보건의료조직(health care organizations)에 영향을 미치는 다수 조
항을 통해 중요한 시사점을 담고 있다.
2) 의료인 및 의료기관의 책임 관련 내용
행정명령에는 연방정부가 보건복지부(HHS), 교통부(DOT), 미국 증권거래위원회
(SEC), 미국 환경보호청(EPA) 등의 독립규제기관(independent regulatory agencies)
에서 감독하는 산업(regulated entities) 기관이 인공지능 관련 책임 강화를 지시해야
할 의무를 명시하고 있다. 독립규제기관은 규제 대상 기관에게(은행, 병원 등) 외부 기
관 또는 제3자에 의해 개발･제공되는 인공지능 서비스 또는 시스템을 도입하여 사용할
경우 성능을 검증하고 위험을 모니터링해야 함을 규제하거나 권고해야 한다.
보건복지부장관은 외부 기관과 협력하여 인공지능 보증 정책을 개발해야 한다. 이는
실제 의료환경에서 인공지능 도구를 평가하고 문제를 해결할 수 있는 인프라를 구축하
고, 외부 전문기관과의 계약을 통해 의료기관이 사용하는 인공지능 도구의 안전성 및
89

<a id="page-104"></a>

### PDF p.104

인공지능 시대 의료계 대응 방안
공정성 평가를 직접 지원하는 센터를 설립해야 함을 의미한다.
은행, 병원 등 규제 대상 기관(regulated entities)이 제3자 제공 서비스(third‑party
AI services)를 사용할 경우 사전 실사(due diligence) 및 지속적 모니터링을 해야 하
며, 인공지능 모델의 투명성과 해당 기관이 인공지능을 어떤 목적으로 어떻게 사용했
는지에 대해 환자에게 설명할 수 있는 능력을 갖춰야 한다(Section 8(b)(ⅰ)). 이는 연
방정부와 계약을 체결한 의료기관이 외부 기관 또는 제3자로부터 의료 인공지능을 사
용할 경우 인공지능 성능 및 위험 관리를 책임져야 할 의무가 있음을 의미한다.102)
행정명령은 인공지능 사용 관련 의료인 및 의료기관의 책임 부담에 대해 다루고 있
으며 의료 분야에 관한 구체적인 조항이 다수 포함되어 있다.
Section 5.2는 책임 있는 인공지능 혁신 촉진을 주제로, 공공-민간 협력을 통해 인
공지능의 상용화와 함께 위험을 완화하는 정책적 방안을 제시하고 있다. Section
4.4(a)(ⅱ)(B)에서는 정부의 인공지능 기반 인프라 및 사이버 보안 관리 책임을 명시하
며, 병원체, 유전체 정보나 오믹스 데이터가 생성형 인공지능 모델 학습에 사용될 경우
생물학적 위협이 증대할 수 있음을 인지하고, 이에 대한 국가 안보 영향 평가와 위험
완화 방안을 마련할 것을 요구한다.
이러한 조치는 의료 분야에서 인공지능 기술이 환자와 근로자의 복지를 증진하는 방
향으로 발전할 수 있도록 정책적, 제도적 기반 마련을 의도한 것이다. 보건복지부 장관
은 관련 법률 및 Section 8의 조항에 명시된 구체적인 지시, 의무 권한을 파악해야
하고, 보조금 및 기타 인센티브를 활용해 책임 있는 인공지능 개발을 유도해야 한다.
또한, 보건복지부 장관은 환자 보호를 위한 전략 수립, 인공지능 안전 프로그램 운영,
사고 데이터 분석 체계 마련, 의료 기술 도입 시 차별금지 관련 교육과 기술적 지원을
통해 의료기관의 책임 있는 인공지능 활용을 감독해야 한다(Section 8(a)(ii)).
더불어 Section 10.1(b)(iv)는 연방기관이 인공지능 시스템을 사용할 때 최소한의
위험 관리 기준 준수를 요구하며, 이 기준에는 데이터 품질 평가, 알고리즘 편향 분석,
102) Michelle M. Mello, “President Biden’s Executive Order on Artificial Intelligence—
Implications for Health Care Organizations”, 「JAMA」 Vol.331 No.1, 2024,
doi:10.1001/jama.2023.25051
90

<a id="page-105"></a>

### PDF p.105

제4장 의료 인공지능 관련 국내･외 입법 현황
지속적 모니터링, 인공지능 사용 고지, 인간 판단 개입 및 피해 구제 절차 확보 등이
포함된다. 이는 공공의료기관뿐만 아니라 민간의료기관에도 동일한 책임 기준이 적용
될 수 있음을 시사한다. Section 10.1(b)(iv) 에는 “granting ‘human consideration’
and ‘remedies’ for adverse decisions made using AI”를 규정하고 있다. 여기에
서 인간의 판단(human consideration)은 인간이 직접 평가하거나 재검토하는 절차를
포함한 최종 결정을 의미한다. 이를 의료 분야에 적용하면 “의료인의 전문적 판단 개
입” 필요성을 의미한다.
이는 인공지능의 진단 결과나 치료 권고는 참고 자료일 뿐이며, 최종 판단은 반드시
의료인이 내려야 한다는 책임과 윤리적 요건으로 해석할 수 있다. 인공지능에 의한 불
리한 결정(adverse decision)으로 진단을 잘못하거나, 치료 필요 없으므로 오판하거나
특정 환자에 대한 차별적 처방을 제안하게 될 우려가 있으므로, 생명 관련 결정에 있
어 인공지능이 의사 판단을 대체할 경우 환자에게 직접적이고 심각한 영향을 미칠 수
있으므로, 의료 분야에서 인간의 판단은 더욱 중요한 의미를 지닌다.
Section 10.1(b)(vii)는 각 연방기관이 자체적인 인공지능 전략을 수립하고 고위험
인공지능 활용 사례를 선도적으로 개발할 것을 권고하며, 인공지능 도입 이후의 운영
과정 전반에 걸친 윤리적･제도적 책임 체계 마련을 요구하고 있다. 이는 의료기관이
단순히 기술 수용자에 머무르지 않고, 인공지능 시스템 도입 이후에도 데이터의 품질
을 유지하고, 오작동 시 대처할 수 있는 위험 관리 체계를 갖추어야 함을 강조하는 의
미이다. 의료기관, 데이터 관리자, 인공지능 공급자 모두가 인공지능 시스템의 오류나
데이터 오용으로 인한 환자 피해 발생 시 공동으로 법적 책임을 질 수 있음을 명시하
고 있다. 인공지능이 오진이나 부정확한 처방을 내렸고, 의료진이 이를 비판 없이 수용
하였다면, 해당 의료인과 기관 모두 책임에서 벗어날 수 없음을 의미한다.
이는 결국 의료기관이 인공지능 도입과 운영에 있어 위험 예방 조치를 충분히 하지
않는다면, 책임을 부담하게 될 수 있음을 의미한다. 이처럼 행정명령은 의료기관 및 의
료인들이 인공지능 기술을 도입할 때 단순히 효율성을 추구하는 수준을 넘어서, 해당
기술의 윤리적 영향과 법적 함의를 충분히 고려하고, 이를 바탕으로 검증과 책임 체계
를 수립해야 함을 강하게 요구하고 있다. 의료 인공지능 활용은 단순한 기술적 선택이
91

<a id="page-106"></a>

### PDF p.106

인공지능 시대 의료계 대응 방안
아니라, 기관의 정책적 판단과 제도적 역량이 반영된 고도의 책임 행위임을 강조하고
있다.
3) 인공지능의 안전하고 책임 있는 활용을 위한 의료기관의 역할
바이든 대통령의 행정명령은 병원과 의료기관이 환자의 생명과 직접적으로 연결된
인공지능 활용의 최전선에 있음을 강조하며, 인공지능의 안전하고 책임 있는 운영을
위한 체계 구축 등의 적극적 대응을 요구하고 있다. 행정명령은 의료기관이 인공지능
시스템을 구축할 때 갖추어야 할 세 가지 핵심 역량을 권고하고 있다.
첫째, 인공지능의 안전성, 공정성, 투명성을 사전에 평가하고 이를 확보할 수 있는
체계를 마련해야 한다. 둘째, 윤리적 판단 능력과 책임 있는 기술 활용 역량을 갖춘
전문인력을 확보하고 체계적으로 교육해야 한다. 셋째, 알고리즘이 인종, 성별, 나이
등 다양한 환자 집단에 대해 편향 없이 작동하는지를 모니터링 할 수 있는 내부 평가
시스템을 갖추어야 한다.
이는 의료 인공지능 도구가 임상 현장에 도입되기 전에 안전성･공정성･효율성을 내
부적으로 심의할 수 있는 체계를 갖춰야 하며, 이를 위해 책임 있는 의사결정 권한이
있는 공식 위원회를 둘 것을 권고하고 있다. 이러한 내용은 의료기관이 단순한 기술
수용자를 넘어, 인공지능을 윤리적이고 신뢰 가능하게 운영할 수 있는 역량과 체계를
갖춘 책임 주체로 거듭나야 함을 시사한다. 정부는 전반적인 정책 방향을 제시하지만,
이를 실제로 실행하고 체계화하는 것은 각 병원의 몫으로 두고 있다. 따라서 모든 의
료기관은 인공지능 시대의 요구에 부응하여 내부 시스템과 인적 기반을 조속히 구축할
필요성이 강조되고 있다.
한편, Stanford Health Care와 Duke Health와 같은 미국의 선도 병원들은 이러
한 연방정부의 행정명령과는 별도로, 이미 인공지능 기술이 환자 안전, 임상 의사결정,
윤리적 책임과 직결된다는 인식을 바탕으로, 선제적으로 자율적 인공지능 거버넌스 체
계를 구축해 왔다. 예를 들어, Stanford Health Care는 ‘FURM(Fair, Useful,
Reliable Model)’이라는 자체 평가 체계를 통해 공정성, 유용성, 신뢰성, 임상 적용
가능성 등을 종합적으로 검토하고 있으며, Duke Health는 ‘ABCDS(Algorithm-Based
92

<a id="page-107"></a>

### PDF p.107

제4장 의료 인공지능 관련 국내･외 입법 현황
Clinical Decision Support)’라는 구조를 마련하여 임상 결정을 지원하는 알고리즘의
적정성과 책임성을 내부적으로 관리하고 있다. 이들 체계는 모두 전문가 평가, 환자 참
여, 후속 검토 절차 등을 포함하고 있으며, 인공지능 시스템이 병원 내부에서 책임 있
게 운영될 수 있도록 하는 데 초점을 두고 있다.
이러한 사례들은 바이든 행정명령에서 요구한 바와 일치하는 방향으로 작동하고 있
지만, 그 출발점은 정부의 요구가 아닌 병원의 자율적 판단과 윤리적 책임 의식이었다
는 점에서 의미를 지닌다.103) 다시 말해, 이는 연방정부의 정책이 병원 운영을 규정한
것이 아니라, 이미 현장에서 나타난 실천적 흐름과 선도적 기준을 제도적으로 뒷받침
하는 셈이다. 바이든 행정명령은 정책적 방향과 기대 수준을 제시하고, Stanford
Health Care와 Duke Health는 이를 현장 차원에서 실현한 사례이다.
나. 트럼프 대통령의 인공지능 행정명령(Executive Order 14179, 2025.1.23.)
2025년 1월 23일, 도널드 트럼프 대통령은 취임 직후 바이든 행정부의 행정명령
14110호를 폐지하고, 새로운 행정명령인 “미국의 인공지능 리더십 강화를 위한 장벽
제거(Removing Barriers to American Leadership in Artificial Intelligence,
(Executive Order 14179)를 발표했다.104) 이 명령은 미국이 인공지능 글로벌 리더십
을 유지･강화할 수 있도록 정부 정책을 전환하고(Section 1), 인공지능 개발에 있어
미국의 세계적 우위를 지속･강화하여 미국의 글로벌 인공지능 리더십 강화를 목표로
한다(Section 2).
또한 대통령 과학기술보좌관(APST), 인공지능 및 암호화 특별고문, 국가안보보좌관
등이 180일 이내에 구체적인 인공지능 행동 계획을 수립할 것을 지시했다(Section 4).
103) Michelle M. Mello, “President Biden’s Executive Order on Artificial Intelligence—
Implications for Health Care Organizations”, 「JAMA」 Vol.331 No.1, 2024,
doi:10.1001/jama.2023.25051
104) The White House, “REMOVING BARRIERS TO AMERICAN LEADERSHIP IN ARTIFI
CIAL INTELLIGENCE”, January 23, 2025. Access from. https://www.whitehouse.go
v/presidential-actions/2025/01/removing-barriers-to-american-leadership-in-artific
ial-intelligence/
93

<a id="page-108"></a>

### PDF p.108

인공지능 시대 의료계 대응 방안
책임 관련 조항은 바이든 행정명령과 달리 명시적으로 규정되어 있지 않으며, AI 개
발･활용에서의 윤리, 공정성, 안전성 확보보다는 민간 자율성과 정부의 최소 개입 원칙
을 우선시한다. 다만, 인공지능 오용 방지 및 안전성 확보에 관한 일반적 언급을 포함
하며, 이는 각 부처가 자율적으로 판단･관리할 수 있도록 설계하였다. 이에 트럼프 행
정명령에서의 책임 개념은 의도적으로 배제되었거나 최소화되었다는 평가를 받는다.
그러하다 보니 의료 분야 인공지능 사용과 관련해 행정명령 전문에서 보건의료
(healthcare), 병원, 환자, 의료기관 등에 대한 직접적 언급이나 조항은 부재하다.
따라서 의료 현장에서 인공지능이 오작동하거나 오류 판단을 내렸을 때, 의료인･의
료기관･ 인공지능 제공업체･정부 간의 책임 분담 체계에 관한 규정이나 원칙은 명시되
어 있지 않다. 또한, 인공지능 시스템 개발 기업 또는 플랫폼이 인공지능 시스템의 안
전성, 신뢰성, 윤리성을 확보해야 한다는 내용은 포함되어 있지 않으며, 정부의 규제
책임이나 사후적 개입을 최소화하겠다는 기조를 명확히 하고 있다.
즉, 이는 바이든 정부에서 강조해 온 ‘누가 책임을 지는가’ 보다 ‘정부가 개입하지
않도록 하는 것’에 정책 우선순위가 있음을 알 수 있다. 바이든 행정부는 책임성과 윤
리성에 기반한 공공 주도형 인공지능 관리체계를 수립하려 했고, 트럼프 행정부는 민
간 중심의 기술 개발과 국제 경쟁력 확보에 초점을 맞춘 새로운 인공지능 전략을 세웠
다. 각 행정명령은 인공지능에 대한 미국 정부의 철학과 우선순위가 반영되어 있다. 양
측의 접근 방식은 상반되는 듯하지만, 인공지능을 미국 국가전략의 핵심 분야임은 인
식하고 미국의 글로벌 인공지능 리더십 강화를 유지 강화 목표는 동일하다.
다. 미국 인공지능 규제 관련 주정부 차원 입법 논의
현재까지 미국 연방 차원에서 포괄적인 인공지능 규제법은 마련되지 않았다. 연방정
부의 규제 공백을 메우기 위해 캘리포니아, 유타, 텍사스 등 주 차원에서 인공지능 관
련 법안을 도입하고 있다. 책임 분배에 관한 논의를 구체화한 유타주는 2024년 3월
「인공지능 정책법(Artificial Intelligence Policy Act)」을 제정하였고, 이 법은 2024
년 5월 1일부터 시행된다. 해당 법은 「Utah Senate Bill 149(Artificial Intelligence
Amendments)」로 명명되며, 생성형 인공지능(Generative AI)의 사용에 있어 책임성
94

<a id="page-109"></a>

### PDF p.109

제4장 의료 인공지능 관련 국내･외 입법 현황
과 투명성 강화를 주요 내용으로 한다.
이 법은 인공지능이 잘못된 진술이나 행위를 했더라도 그 책임은 인간 주체에게 있
음을 명확히 규정하고 있다. 인공지능이 위법한 정보를 제공했다 하더라도, 그것을 활
용하거나 해당 결과를 유도한 사람 또는 조직이 법적 책임을 져야 함을 명확히 했다
(§13-2-12(2)). 이는 기술이 아무리 자율성을 갖고 작동하더라도, 최종적인 책임 주체
는 인간이라는 법적 기준을 분명히 한 것이다. 또한 생성형 인공지능을 사용하는 경우,
사용자와 상호작용을 시작하기 전 해당 시스템이 인공지능임을 명확하게 고지 해야 함
을 명시했다. 의료, 법률, 금융 등과 같이 공공성과 전문성이 높은 규제 대상 직종에서
는 이러한 공개 의무가 더욱 엄격하게 적용되며, 구두 상호작용의 경우 시작 시점에서,
서면 상호작용의 경우 본격적인 정보 제공에 앞서 인공지능 사용 여부를 밝혀야 한다
(§13-2-12(3), (4)).
또한, 이 법은 인공지능 배포자가 인공지능이 독립적으로 행동했기 때문에 자신은 책임이
없다는 식으로 면책을 주장할 수 없음을 명확히 하고 있다. 인공지능의 법적 행위 결
과에 대한 책임은 여전히 배포자에게 있으며, 이는 기술 개발자와의 계약을 통해 일부
책임을 이전했더라도 마찬가지다. 소비자 보호법상 1차 책임은 배포자에게 있다는 원
칙을 명문화했다(§13-2-12(2)).
공개 의무 또는 기타 규정을 위반한 경우, 유타 소비자 보호국은 위반 건당 최대
2,500달러의 행정 벌금을 부과할 수 있고, 유타주 법무장관은 건당 최대 5,000달러의
민사 처벌을 청구할 수 있도록 하고 있다(§13-2-12(7), (8)). 이처럼 해당 법은 인공지
능 기술 관련 책임 회피 가능성을 사전에 봉쇄하며, 인공지능 설계자, 개발자, 배포자,
사용자 모두에게 책임을 분산하여 부과할 수 있도록 하는 제도적 장치를 마련했다.
이 법은 단순한 기술 공지 이상의 공개 의무를 요구한다. 생성형 인공지능을 사용하
는 조직이나 개인은 서비스 약관이나 이용 안내에 인공지능 사용 사실을 포함하는 것
만으로는 충분하지 않으며, 실제 상호작용 전에 명확하게 사용자에게 해당 사실을 전
달하도록 하고 있다(§13-2-308(1)). 만약 이러한 공개 의무를 위반할 경우, 이는 소비
자 보호법 위반으로 간주되며, 유타주 법무장관은 건당 최대 5,000달러의 민사 처벌을
청구할 수 있다(§13-2-308(2)).
95

<a id="page-110"></a>

### PDF p.110

인공지능 시대 의료계 대응 방안
더 나아가 인공지능 배포자는 생성형 인공지능이 위법한 표현이나 조언을 했다는 사
실만으로는 면책을 주장할 수 없으며, 법적으로 책임을 회피할 수 없다. 이는 인공지능
시스템이 법적 독립 주체로 인정되지 않음을 분명히 한 것이다(§13-2-308(3)). 나아가
이 책임은 단순히 위반 행위를 직접 수행한 경우뿐 아니라, 위반을 조장하거나 촉진하
는 데 사용된 경우에도 동일하게 적용된다(§13-2-308(4)).
이와 같은 조항들은 “우리는 단순한 플랫폼일 뿐”이라는 기업의 주장으로는 더 이상
책임을 회피할 수 없도록 법적 근거를 마련했으며, 인공지능이 책임을 떠넘기기 위한
‘중간자’가 될 수 없음을 명확히 한다. 이 법은 인간 주체, 즉 인공지능을 설계하고 배
포하고 사용하는 이들이 모두 책임 연대 체계 안에 있어야 함을 전제로 한다.
물론, 배포자는 계약상 개발자에게 일부 책임을 전가하거나, 내부적으로 위험 할당
구조를 조정할 수는 있지만, 소비자 보호법상 1차 법적 책임은 여전히 배포자에게 있
다. 이는 인공지능이 법인격이나 전자 인격과 같은 주체로 인정되지 않는 이상, 그 결
과에 대한 책임은 언제나 책임능력을 가진 인간에게 귀속된다는 원리에 따른 것이다.
이러한 책임 구조는 의료 분야에도 동일하게 적용될 수 있다. 예를 들어, 생성형 의
료 인공지능을 사용하는 경우, 해당 기술을 활용한 의료인과 이를 제공한 의료기관이
법적 책임을 질 수 있다. 즉, 인공지능이 환자의 진단이나 치료 과정에 관여했다고 하
더라도, 그 판단을 비판 없이 수용하거나 검증 없이 적용한 의사나 의료기관이 책임에
서 벗어날 수 없음을 이 법에서 분명히 강조하고 있다. 이는 생성형 의료 인공지능의
활용에 관한 책임 문제를 법률로 처음 명문화한 사례로, 인공지능 기술 사용에 따른
법적 책임을 제도적으로 명확히 한 중요한 입법적 진전이라 할 수 있다.
향후 미국의 다른 주나 연방 차원에서도 유사한 입법이 추진될 가능성이 크며, 각
주의 인공지능 관련 법에서도 책임 소재를 명확히 규정하는 방향으로 법적 기준이 정
립될 것으로 예상된다. 특히 생성형 인공지능의 사용은 개발자, 배포자(플랫폼), 사용자
(예: 의사 등) 간에 복잡한 책임 사슬을 형성하게 한다. 의료분야는 그 결과가 생명에
직접적인 영향을 미치는 영역이기 때문에, “의사만 책임진다”는 접근은 환자 보호의 관
점에서 불완전하다.
인공지능 공급･운영 체계 전체가 책임 구조 안에 포섭되어야 안전성과 책임 이행력
96

<a id="page-111"></a>

### PDF p.111

제4장 의료 인공지능 관련 국내･외 입법 현황
이 확보될 수 있다. 따라서 유타주는 이 법에서 소비자 보호법을 근거로 1차 책임 주
체를 인공지능 배포자로 명시하는 동시에, 설계자, 개발자, 사용자 모두가 위반 행위에
관여한 경우 공동 책임을 질 수 있도록 규정함으로써, 생성형 인공지능 기술 사용에
따른 책임 구조를 보다 탄탄하고 명료하게 제도화하고 있다.
2. EU
가. 보건의료 분야 규제 현황105)
유럽연합은 2010년 이후 거시적인 디지털 전략을 근간으로 미래에 대비하기 위한
구체적 정책을 수립하면서 이를 뒷받침할 다양한 법･ 제도를 마련했다. EU는 2020년
이후 「디지털서비스법((Digital Services Act)」, 「디지털시장법(Digital Markets Act)」,
「데이터법(Data Act)」, 「인공지능법(Artificial Intelligence Act)」을 순차적으로 제정
했으며, 인공지능 관련 법제도 확립에서 국제 사회의 주도적 지위를 선점하기 위해 다
양한 지침을 발표했다. 그러한 가운데 회원국이 자국의 법으로 전환할 필요 없이, 회원
국 전체에 구속력을 가지는 「인공지능법」이 제정되었다.
「인공지능법」 제정으로 EU 차원에서 인공지능 관련 산업을 규제할 수 있게 되었으
며, 민간 기업도 이 법의 적용을 받는다. 2024년 8월 발효된 「인공지능법」의 제정 목
적은 고위험 인공지능으로부터 인간의 기본권과 민주주의, 법과 환경의 지속 가능성을
보호하는 동시에 혁신을 촉진하고, 인공지능의 윤리적이고 안전한 개발 및 사용을 보
장하고, 유럽이 선도적인 역할을 하도록 하는 것이다.
EU의 「인공지능법」은 잠재적 위험과 영향 수준에 따라 관련 의무를 다르게 규정하
고 있다. 보건의료 분야를 별도로 규정하여 규제하지는 않으나, 위험 기초 분류에서 고
위험 범주에 포함하여 완전하고 포괄적인 요건을 갖추도록 했으며, 의료기기의 경우
해당 범주에 포함되어 적용받는다. 세부적으로 고위험 인공지능 시스템의 의무는 제공
자나 배포자 등과 같은 행위자의 역할에 따라 다른 책임을 규정하고, 위험이 클수록
105) 김계현, 이기호, “주요국 보건의료분야 인공지능 관련 규제 동향과 입법적 함의”, 「법학연구」
재35권 제2호, 충북대학교 법학연구소, 2024, 444-446면.
97

<a id="page-112"></a>

### PDF p.112

인공지능 시대 의료계 대응 방안
규제를 엄격하게 하는 것이다.
먼저 유상 또는 무상으로 시장에 출시하거나 서비스할 계획으로 고위험 인공지능 체
계를 개발했거나 개발 중인 자는 위험 관리 체계 구축, 데이터 품질 보장, 기술문서
유지와 관리, 인간에 의한 감독 및 관리체계 구축, 정확성과 사이버 보완에 대한 표준
충족, 제품의 출시 후 모니터링 체계를 확보해야 한다. 또한 자신의 권한 하에 인공지
능 시스템을 사용하는 고위험 인공지능 배포자의 경우 적절한 사용 및 감독에 관한 의
무가 규정되어 있다.
위험 관리 체계의 경우 고위험 인공지능체계 전 주기에 걸쳐 정기적인 체계적 검토
및 갱신을 반복적으로 진행해야 하는데 여기에는 위험의 식별과 분석, 합리적으로 예
측할 수 있는 오용 조건에 따른 위험의 추정, 시판 후 모니터링 체계를 통해 수집된
데이터 분석에서 모든 위험에 대한 평가, 식별된 위험의 완화나 제거를 위한 적절한
조치의 채택 등이 포함된다(제9조).
고위험 인공지능의 개인데이터 오용을 방지하기 위해 엄격한 접근통제 및 문서화를
포함한 안전장치, 제한된 접근권 등도 규정하고 있고(제10조), 인간에 의한 감독에 있
어서는 자연인이 고위험 인공지능 체계의 효과적인 감독을 할 수 있는 방식의 설계와
개발을 규정하고, 해당 능력은 물론 훈련 및 권한을 갖춘 자연인을 규정하고 있다(제
14조). 고위험 인공지능 제고자 및 배포자, 그 밖의 당사자들에게는 더 엄격한 의무를
부과하는데 품질관리시스템 시행, 관련 문서의 보관, 시장 출시나 서비스 제공 전 적합
성 평가 절차 및 선언서 작성, 규정 준수를 표시하는 마크의 부착, 등록 의무 준수, 접
근성 요건 준수 등의 의무가 있다(제16조).
고위험 인공지능 시스템의 수입업체와 유통업체 역시 이 법에서 정하는 적합성평가
절차 수행 여부 확인 및 EU의 관련 법률을 준수함을 표현하는 필수 마크 등을 확인해
야 하는 의무가 규정되었다(제24조). 이처럼 EU의 「인공지능법」은 특별히 보건의료 분
야를 구분하여 규정하지 않고, 고위험 범주에 포함하여 이에 해당하는 의무를 부과하
고 있다. EU의 이러한 법체계는 많은 국가가 고민하게 될 인공지능 규제를 각 산업이
나 분야별로 적용할 것이지, 전체 산업이나 분야에 적용할 것인지에 대한 고민에서 여
러 산업이나 분야를 한꺼번에 규제할 수 있는 방식을 보여준 것이라 할 수 있다.
98

<a id="page-113"></a>

### PDF p.113

제4장 의료 인공지능 관련 국내･외 입법 현황
나. 보건의료 분야 인공지능 책임 관련
1) 투명성과 정보 제공 의무
EU의 「인공지능법」 제13조(Article 13)는 “투명성과 정보 제공 의무(Transparency
and provision of information to deployers)”에 관한 조항에 의거 고위험 인공지
능 시스템은 제공업자(배포자) 시스템의 출력을 해석하고 적절히 사용할 수 있도록 충
분히 투명하게 설계되고 개발되어야 함을 규정하고 있다.
이 조항은 고위험 인공지능 시스템의 제공자(제조업자)가 시스템을 투명하게 설계･
개발하고, 배포자(사용자)가 시스템의 출력을 적절히 해석하고 사용할 수 있도록 사용
자에게 충분한 설명 의무를 규정하고 있다. 설명 내용에는 시스템의 목적 및 작동 방
식, 성능의 범위와 한계, 인간의 감독 가능성, 고장 또는 오용 시 대응 방안이 설명 내
용으로 포함되어야 한다. 이러한 규정은 고위험 인공지능 시스템의 안전성과 신뢰성을
확보하고, 사용자와 감독 기관이 시스템의 작동 방식을 이해하며 적절히 사용할 수 있
도록 보장하기 위한 것이다.
2) 제조업자 책임
EU의 「인공지능법」은 인공지능 기술의 안전성과 신뢰성 확보를 위해, 고위험(High-Risk)
인공지능 시스템의 제조업자에게 법적 책임을 명확히 부과한다. 인공지능 시스템이 사
회적, 경제적으로 큰 영향을 미칠 수 있다는 점을 고려해, 인공지능 개발자(또는 제조
업자)를 중심으로 시스템의 전 생애주기에 걸쳐 관리와 책임을 지도록 설계했다. 이러
한 규정은 제품 책임법(Product Liability), 의료기기 규제법, 사이버보안 관련 법체계
와 유사한 규범 구조를 취한다.
EU의 「인공지능법」 Article 16–29는 고위험 인공지능 시스템 사용 시 준수해야 할
필수 요건을 규정하고 있다. 고위험 인공지능 시스템을 제조하려는 자는 위험 관리 시
스템 구축, 데이터 거버넌스 및 품질 확보, 기술문서 작성 및 갱신, 자동 로깅 시스템
구축, 사용자에게 충분한 정보 제공, 인간 감독이 가능한 구조 설계, 시스템의 견고성,
정확성, 사이버 보안을 확보해야 한다. 이는 설계 단계부터 규제 요건을 충족할 수 있
99

<a id="page-114"></a>

### PDF p.114

인공지능 시대 의료계 대응 방안
도록 사전 예방적 책임을 지는 구조 방식이다.
EU 「인공지능법」 Article 17은 품질 관리 시스템(QMS) 구축 의무 사항을 규정하고
있다. 제조업자는 전체 제품 수명주기 동안의 설계, 생산, 검증, 유지보수를 포괄하는
품질관리시스템을 구축해야 한다. 품질 시스템은 제품사양, 기술 매뉴얼, 리스크 평가
기준, 오류 관리 및 수정 절차, 성능 기준에 대한 지속적 모니터링 체계 등의 절차를
문서화해야 한다. 이는 국제 표준을 준수하는 산업과 유사하게, 인공지능 제품에 대한
책임성과 신뢰성을 제도적으로 확보한다는 데 의미가 있다.
EU의 「인공지능법」 Article 72–73는 사후 모니터링 및 시정 조치 의무 사항을 규
정하고 있다. 제조업자는 인공지능 시스템이 출시된 이후에도 성능을 감시(Post-market
Monitoring)받아야 하고, 사후 모니터링에는 사용자 피드백 수집, 시스템 고장 사례
추적, 업데이트 및 리콜 절차 등에 관한 사항이 포함되어야 한다. 문제가 발견되면 시
정 조치를 즉시 수행해야 한다.
또한 심각한 사고 발생 시 규제 당국에 의무적으로 보고해야 한다. 이는 제조업자가
단지 시스템을 ‘출시하는 것’만을 의미하는 것이 아니라 시장에서 ‘책임을 수행하는
것’으로 역할이 확장되는 것을 의미한다.
EU의 「인공지능법」은 인공지능 시스템의 공급자, 제조업자, 수입업자, 배포자, 사용
자 등 관련 주체들이 법령상 의무를 위반한 경우, 위반의 유형과 그 심각성에 따라 차
등적인 과징금과 행정처분을 받도록 규정하고 있다.
주요 과징금 항목은 다음 세 가지 범주로 나눌 수 있다. 허용되지 않는 금지된 의료
인공지능을 사용한 경우(예: 무차별 감시, 신체･심리적 조작, 사회적 점수화)에는 금지
된 인공지능을 개발･배포･사용한 기업 또는 개인은 최대 3천5백만 유로 또는 전 세계
연 매출의 7% 중 더 큰 금액의 과징금이 부여된다(Article 5).
이는 인공지능 기술의 오남용으로부터 개인의 권리와 사회질서를 보호하기 위한 최
상위 규제를 위한 조치이다. 시스템 제조업자가 데이터 거버넌스, 위험 관리, 기술문서
작성, 사용자 정보 제공, 인간 감독 구조 등의 필수 요건을 준수하지 않은 경우에는,
인공지능 시스템 공급자, 제조업자, 수입업자, 배포자, 사용자는 최대 1천5백만 유로
또는 전 세계 연 매출의 3% 중 더 큰 금액의 과징금이 부여된다(Article 16, 22~34
100

<a id="page-115"></a>

### PDF p.115

제4장 의료 인공지능 관련 국내･외 입법 현황
등). 이는 시스템의 개발･유통･사용 전반에 걸친 책임 있는 설계 및 관리를 위한 조치
이다.
시스템 제조업자는 인공지능 시스템 관련 정보, 기술문서, 감사 자료 등을 성실하게
제공해야 하며, 허위 또는 정보를 누락하여 제공하는 때에는 모든 관련 책임 주체는
최대 750만 유로 또는 전 세계 연 매출의 1% 중 더 큰 금액의 과징금이 부여된다.
이는 투명성과 신뢰성 확보를 위한 주요 규제 장치로 작동하며, 규제기관의 감시체계
역할을 뒷받침하려는 조치이다.
EU의 「인공지능법」은 책임의 주체, 범위, 위반 유형, 과징금 수준을 구체적으로 명
시함으로써, 인공지능 기술 관련 규제 회피를 원천적으로 차단한다. 글로벌 빅테크 기
업도 회피할 수 없는 수준의 매출 기반 과징금 부과 기준을 통해, 실효성 있는 법 집
행이 가능하도록 설계되었다. 이러한 법적 책임 귀속 구조는 인공지능 기술이 단지 ‘혁
신’의 대상이 아니라, 공공성과 사회적 책임을 수반하는 기술이라는 점을 분명히 하기
위한 조치로 보인다. EU의 「인공지능법」은 단순한 기술규제가 아닌, 책임 윤리 기반의
인공지능 생태계 형성을 목표로 하며, 특히 제조업자 중심의 전 생애주기 책임 구조를
제도화한 대표적인 사례로 평가된다.
EU는 「인공지능법」이 직접적으로 다루지 않는 책임 문제를 보완하기 위해 ‘인공지
능 책임 지침(AI Liability Directive)’이 준비 중이다. 이 지침에서는 인공지능 시스템
관련 피해에 대한 책임 문제와 손해배상 소송에서의 입증책임, 관련 증거에 대한 접근
과 절차 등에 관한 내용이 제안된 상태이다. 이 책임 지침이 최종적으로 확정되어 발
효되면 「인공지능법」과 함께 인공지능 시스템의 안전과 책임을 다루는 규제 체계를 완
성하게 될 것으로 예상된다.
3) 사용자(의료인, 의료기관)의 법적 지위와 책임
EU의 「인공지능법」은 사용자(User) 개념을 통해 의료인과 의료기관이 의료 인공지
능을 사용할 때 부담해야 하는 일정한 책임과 의무 사항을 규정하고 있다(Article 29).
전체적인 법적 책임 구조는 제조업자에게 중심이 맞춰져 있다.
사용자의 의무 수준은 낮게 규정하고 있지만, 실제 의료 현장에서의 안전성과 책임
101

<a id="page-116"></a>

### PDF p.116

인공지능 시대 의료계 대응 방안
성 확보를 위해 사용자에게도 중요한 의무가 부과된다. 특히 인간 감독 가능성 확보와
같은 요구사항은 사용자의 법적 책임에 포함된다.
사용자가 부담해야 할 주요 의무는 다음과 같다. 우선, 제공자가 제공한 사용 설명
서와 작동 지침을 준수하여 시스템을 사용해야 하고, 인공지능의 판단에 맹목적으로
의존하지 않고 반드시 인간의 개입 가능한 구조 즉, 인간 감독 가능성(Human oversight)
을 확보해야 한다. 인간 감독 가능성은 단순히 시스템을 사용하는 것을 넘어, 인공지능
이 자율적으로 잘못된 판단을 하지 않도록 인간이 실질적으로 개입하고 통제할 수 있
는 구조를 확보하고 유지해야 하는 것을 의미한다(Article 14).
이는 의료 인공지능이 의료인의 최종 임상적 판단을 보조하는 수단으로 사용되어야
하며, 의료 인공지능의 판단이 독립적으로 통제 불가능한 방식으로 작동해서는 안 된
다는 것을 의미한다. 따라서 의료인은 인공지능의 작동을 사람이 설명 가능하고 개입
할 수 있는 방식으로 감시할 수 있어야 한다.106)
의료인은 시스템 사용 로그와 작동 이력 등 시스템 기록을 보존해야 하고, 사고나
이상 발생 시 관계 기관에 보고 해야 한다. 의료기관 내 해당 의료 인공지능이 안전하
게 사용할 수 있는 적합한 환경인지에 관해 확인해야 한다.
또한 입력 데이터의 적절성과 품질을 확보해야 하며, 환자의 권리, 개인정보 보호,
비 차별성 등과 같은 윤리적･법적 기준을 충족하는 방식으로 시스템을 사용해야 한다.
이러한 사용자의 의무는, 의료기관이 고위험 인공지능 시스템을 안전하고 책임 있게
운용하기 위한 법적 최소 요건이다. 이는 TRAIN-Europe(Trustworthy and Responsible
AI Network)107)이 제시하는 인공지능 성숙도(self-assessment)와 책임 있는 인공지
능 도입 기반 요건과도 긴밀하게 연결된다.108)
106) Claudia Giorgetti et al., “Healthcare AI, explainability, and the human-machine
relationship: a (not so) novel practical challenge”, 「Frontiers in Medicine」, 2025.
doi: 10.3389/fmed.2025.1545409
107) TRAIN-Europe 은 유럽 전역 의료기관과 인공지능 전문가, 기술 기업이 협력하여 인공지능
에 대한 신뢰를 구축하고, 환자 치료와 데이터 프라이버시를 보호하면서 안전하고 책임감있
게 활용할 수 있는 실천 가이드라인 마련을 위해 연구하는 컨소시엄이다.
108) Michel E. van Genderen, “Moving Toward Implementation of Responsible Artificial
Intelligence in Health Care The European TRAIN Initiative”, 「Jama Network」
102

<a id="page-117"></a>

### PDF p.117

제4장 의료 인공지능 관련 국내･외 입법 현황
결론적으로, EU의 「인공지능법」은 사용자를 기술적･설계적 책임 주체로 보지는 않
지만, 의료 인공지능의 권고를 의료인이 무 비판적으로 수용한 결과로 치료에 오류가
발생하거나 잘못된 경우가 발생하는 경우, 의료인과 제조사 모두에게 책임이 병존할
수 있는 구조로 규정하고 있다.
Vol.333 No.17, 2025, pp.1483-1484. doi: 10.1001/jama.2025.1335
103

<a id="page-118"></a>

### PDF p.118

인공지능 시대 의료계 대응 방안
제3절 국내･외 비교 시사점
1. 개발자, 배포자, 사용자 책임 명확화
인공지능은 보건의료 분야에서도 진단과 치료 결정 및 예후 예측을 위한 보조 도구
로 활용되고 있으며 사용 범위와 영향력은 점차 확대되고 있다. 그러나 인공지능의 발
전 속도에 비해 그에 상응하는 법적･윤리적 책임 체계는 미비하다. 바이든 행정부의
제14110호 행정명령은 인공지능의 안전하고 책임 있는 활용을 위한 국가 차원의 정책
방향을 제시했다. 이 명령은 연방정부뿐만 아니라 병원, 금융기관 등 다양한 규제 대상
기관(regulated entities)에도 적용되며, 의료기관이 더 이상 인공지능 기술의 단순한
수용자나 소비자에 머무르지 않고, 사용 주체로서 책임과 의무를 질 것을 강조한다.
의료기관은 인공지능 시스템 도입 시 그 기능과 위험성을 충분히 사전 검토하고, 실
제 사용 이후에는 성능과 부작용에 관한 모니터링 체계를 마련하고, 발생할 수 있는
오류나 문제에 대비해야 한다. 의료인이 진단과 치료 판단에서 인공지능을 그대로 수
용하여 환자에게 피해가 발생한 경우에는 단지 인공지능 개발자뿐만 아니라 이를 사용
한 의료기관과 의료인 역시 공동 책임을 질 수 있기 때문이다. 또한, 의료 인공지능
활용으로 인한 오진 가능성과 생성형 인공지능 활용에 따른 오류 정보, 알고리즘 편향,
안전성 등의 문제는 해결되지 못하고 있다. 이에 의료 인공지능 사용에 따른 책임 구
조 명확화는 더욱 중요한 과제이다.
이는 EU 「인공지능법」에서도 구현된다. EU는 인공지능 시스템을 위험도에 따라 허
용 불가, 고위험, 제한적 위험, 저위험의 네 가지 범주로 분류하고 있으며, 의료기기나
진단지원시스템과 같은 보건의료용 인공지능은 고위험 범주로 분류되어 가장 엄격한
규제를 적용받는다. EU의 「인공지능법」은 개발자, 배포자, 사용자 각각의 법적 지위를
명확히 구분하고 있다. 개발자(또는 제조업자)는 설계 단계부터 데이터의 품질과 공정
성, 시스템의 안전성, 보안성, 인간의 개입 가능성 등을 확보할 책임을 지며, 출시 이
후에도 성능을 모니터링하고 문제가 발생한 경우 신속한 시정 조치를 취해야 한다.
104

<a id="page-119"></a>

### PDF p.119

제4장 의료 인공지능 관련 국내･외 입법 현황
배포자는 제품의 적합성 평가, 법적 요건의 충족 여부, 사용자(의료기관 및 의료인)
에게 제공되는 정보의 적절성 등을 확인하고, 시스템 운영 과정에서 발생할 수 있는
위험에 대한 정보를 전달할 의무가 있다. 사용자(의료기관 및 의료인)는 인공지능이 내
리는 판단을 맹목적으로 수용해서는 안 되며, 인간의 전문성을 바탕으로 비판적 검토
와 판단 개입(human oversight)을 병행해야 한다.
또한 시스템 사용 기록의 관리, 이상 발생 시 보고, 안전한 사용 환경 유지 등의 운
영적 책임도 수행해야 한다. 특히 고위험 인공지능 시스템의 경우, 기술의 단순한 도입
에 그치지 않고 시스템의 전 생애주기에 걸친 책임 이행과 사후 대응 체계 마련이 요
구된다. 이는 인공지능 활용이 단지 혁신을 추구하는 기술적 선택이 아니라, 사회적 책
임이 동반되는 고도의 판단 행위임을 의미한다. 따라서 의료 현장에 인공지능이 보조
도구로서 안정적으로 정착하기 위해서는 개발자, 배포자, 사용자 간의 역할과 책임을
명확히 정의하고 법적 기반이 마련되어야 한다. 이는 앞으로 인공지능 관련 거버넌스
를 구축하고 윤리적 기준을 설계하는 데 있어 핵심 원칙으로 작용해야 한다.
2. 의료인 및 의료기관 의료 인공지능 사용을 위한 가이드라인 마련
의료 현장에서 의료 인공지능의 활용 사례가 증가하는 것에 반해 법적･윤리적 통제
체계는 미비하다. 의료기관에서의 기술 활용에 따른 실질적 역할과 책임에 대한 구체
적인 가이드라인과 절차 기준이 명확히 마련되어 있지 않다. 이러한 공백을 보완하기
위해, 미국의 주요 의료기관들은 자체적으로 의료 인공지능 활용에 관한 윤리 검토 체
계와 거버넌스 모델을 구축하고 있다.
대표적인 예로, Stanford Health Care는 ‘FURM(Fair, Useful, Reliable Model)’
이라는 평가 체계를 운영하고 있다. 이 평가 체계는 “Data Science Executive Committee”
위원회가 운영하고 있다, 이 위원회는 인공지능 도입의 공정성, 유용성, 신뢰성, 임상
적용 가능성 등을 다각도로 평가하며, 의료진, 데이터 과학자, 윤리학자, 병원 행정가
등으로 구성된 다분야 전문가팀이 인공지능 사용 제안에 대해 사전 심사를 진행하여
FURM 평가 결과를 검토해 해당 인공지능 모델 도입 여부를 결정한다. 이들은 단지
105

<a id="page-120"></a>

### PDF p.120

인공지능 시대 의료계 대응 방안
도입 여부를 결정하는 데 그치지 않고, 도입 이후에도 윤리적･임상적 우려가 어떻게
해결되고 있는지를 후속 모니터링한다.109)
특히 FURM 체계는 세 가지 점에서 주목할 만하다. 첫째, 환자 하위 집단 간 예측
성능 차이를 정량적으로 분석하는 공정성 평가, 둘째, 의료진, 개발자, 병원 관리자, 환
자 대표 등 이해관계자와의 정성적 인터뷰, 셋째, 외부 전문가 협의를 포함한 다층적
윤리 검토 절차를 통해, 알고리즘이 실제 임상 현장에서 공정하고 안전하게 작동할 수
있는지를 면밀히 검토한다. 유용성 평가에 있어서는 단순한 성능 지표 외에도, 의료 현
장의 업무 부담 및 업무 시스템과의 통합 가능성을 고려한 시뮬레이션 기반 분석도 수
행하는 것이 특징이다.
한편, Duke Health는 ‘ABCDS(Algorithm-Based Clinical Decision Support)’
시스템을 통해 병원 내 인공지능 기반 임상 의사결정지원 도구의 안전하고 책임 있는
도입을 체계적으로 관리하기 위해 설립된 거버넌스 조직이다.110) 이 시스템의 핵심은
‘제안자’라는 역할로, 인공지능 기술 도입을 처음 요청하는 임상의, 연구자, 병원 내 기
술팀, 협력 기업 등 책임 주체를 명확히 규정하는 것이다.
제안자는 알고리즘의 임상적 유용성, 공정성 평가 계획서를 작성해 제출해야 하며,
이는 단순한 기술 제안이 아닌 책임과 설명 의무를 명확히 하기 위한 중요한 절차이
다.111) 이 과정에서 Duke Health는 ABCDS 거버넌스 위원회(Oversight Committee)를
설립하여 인공지능 도구를 관리한다. 이 위원회는 알고리즘의 등록, 평가, 승인, 그리
고 모니터링의 전 과정을 총괄하며, 임상 효과성, 공정성, 안전성, 투명성 등을 종합적
으로 검토한다.112) 위원회는 세 개의 하위 위원회를(평가, 구현 및 모니터링, 규제 자
109) Hanae Armitage, 「Researchers create guide for fair and equitable AI in health ca
re」, 『Standford Medicine』, 2022. Access from. https://med.stanford.edu/news/insig
hts/2022/10/researchers-create-guide-for-fair-and-equitable-ai-in-health-care.html
110) Armando D Bedoya, “A framework for the oversight and local deployment of safe
and high-quality prediction models”, 「Journal America Medical Information Assoc
iation」. 2022 Aug 16;29(9):1631-1636. doi: 10.1093/jamia/ocac078.
111) Emilia Chiscop-Head, “Designing algorithm-based clinical care tools with quality
and ethics in mind, the path to the finish line”, 2022.12.16. Access from.Designing
algorithm-based clinical care tools with quality and ethics in mind, the path to
the finish line | Duke Research & Innovation
106

<a id="page-121"></a>

### PDF p.121

제4장 의료 인공지능 관련 국내･외 입법 현황
문) 통해 체계적으로 운영된다.
알고리즘은 G0~Gm 단계의 확인 항목을 거쳐 도입되며, 실제 임상 적용 전에는 반
드시 사일런트 모드(silent mode)113) 에서 환자 진료에 영향을 주지 않는 방식으로
검증을 받는다.
ABCDS Oversight Committee는 윤리･임상･법률 전문가가 참여하여 도구의 품질,
안정성, 공정성, 투명성을 심층 검토하고, 도입 후에도 지속적인 성능 추적 및 재평가
를 통해 AI의 책임 있는 사용을 유도한다. 이 체계는 FDA SaMD 평가 체계와 보완적
관계를 갖는 내부 거버넌스 모델로서, 임상 안전성 확보와 책임성 강화를 위해 설계된
의료기관 내 자율적 인공지능 도입 심의 체계로서, 국내외 의료 거버넌스의 모범 사례
로 평가받고 있다.
이 두 기관의 공통점은 다음과 같다. 인공지능 도구의 사전 심사 → 시험 운영 →
도입 후 모니터링에 이르는 전 주기적 검토 체계를 운영하여, 공정성, 유용성, 안전성,
환자 보호 등 다분야 기준에 따른 다층적 평가 절차 적용한 점이다. 이외에도 인공지
능 기술 도입을 주도하는 내부 책임자(제안자)의 명확한 지정과 역할을 규정하고, 단일
의사결정이 아닌 전문가 집단을 중심으로 한 집단적 거버넌스 모델을 구축한다는 점이
다. 이러한 거버넌스 체계는 아직 의료 인공지능에 대한 연방 차원의 전국적인 통일
기준이 부재한 미국에서, 의료기관 자체가 책임성과 안전성을 입증하기 위한 실천적
해법으로 기능하고 있음을 알 수 있다. 동시에, 이는 중앙정부 차원의 정책 혹은 관련
법이 마련되기 전에 의사 전문직의 자율 책임을 위해 의료기관이 독자적으로 구축할
수 있는 윤리적 검토 체계의 필요성과 가능성을 보여준다.
112) What Is ABCDS Oversight? Access from. https://healthaigovernance.duke.edu/abc
ds-oversight
113) 사일런트 모드란 인공지능이 실제로 환자 진단과 치료 결정에 직접적으로 개입하거나 영향을
미치지 않는 상태를 말한다. 인공지능 없이 의사가 기존 방식대로 진료하고, 그동안 인공지능
의 예측 결과는 조용히 기록한 후 실제 환자의 경과와 비교하면서 인공지능의 안전성과 정확
성을 검증하기 위한 과정으로 활용된다.
107
