Trách nhiệm dân sự trong ứng dụng trí tuệ nhân tạo trong y tế theo pháp luật của đức và pháp kinh nghiệm cho việt nam

Luận văn về trách nhiệm dân sự khi ứng dụng trí tuệ nhân tạo (AI) trong y tế. Nghiên cứu kinh nghiệm từ Đức, Pháp và gợi ý cho Việt Nam.

• Tác giả: Huỳnh Thị Yến Nguyệt
• Người hướng dẫn: PGS.TS Trần Việt Dũng
• Trường học: Trường Đại Học Luật TP. Hồ Chí Minh
• Chuyên ngành: Luật Quốc Tế
• Đề tài: Trách Nhiệm Dân Sự Trong Ứng Dụng Trí Tuệ Nhân Tạo Trong Y Tế Theo Pháp Luật Của Đức Và Pháp - Kinh Nghiệm Cho Việt Nam
• Loại tài liệu: Luận văn thạc sĩ
• Năm xuất bản: 2023
• Địa điểm: Tp. Hồ Chí Minh

Mục lục chi tiết

• LỜI CAM ĐOAN
• DANH MỤC CÁC TỪ VIẾT TẮT
• 1. PHẦN MỞ ĐẦU
• 1.1. TỔNG QUAN VỀ VIỆC ỨNG DỤNG TRÍ TUỆ NHÂN TẠO TRONG Y TẾ VÀ SỰ CẦN THIẾT XÁC ĐỊNH TRÁCH NHIỆM DÂN SỰ KHI ỨNG DỤNG TRONG Y TẾ
• 1.1.1. Định nghĩa và vai trò của công nghệ AI trong y tế
• 1.1.2. Định nghĩa, phân loại công nghệ AI
• 1.1.3. Vai trò của công nghệ AI trong y tế
• 1.1.4. Thực tiễn việc ứng dụng công nghệ AI trong y tế tại một số quốc gia và Việt Nam
• 1.1.4.1. Thực tiễn việc ứng dụng công nghệ AI trong y tế tại một số quốc gia
• 1.1.4.2. Thực tiễn việc ứng dụng công nghệ AI trong y tế tại Việt Nam
• 1.1.5. Rủi ro khi ứng dụng AI trong y tế
• 1.1.5.1. Lỗi dữ liệu và thuật toán. Lỗi phần cứng
• 1.1.5.2. Lỗi trong tương tác với hệ thống AI
• 1.1.6. Sự cần thiết xác lập trách nhiệm dân sự đối với những hoạt động ứng dụng AI trong y tế
• 1.1.7. Đối tượng chịu trách nhiệm dân sự khi ứng dụng công nghệ AI gây thiệt hại
• 1.1.8. Quan điểm trái chiều về trách nhiệm dân sự khi ứng dụng AI trong y tế gây thiệt hại cho người bệnh
• 1.2. KẾT LUẬN CHƯƠNG 1
• 2. THỰC TIỄN PHÁP LUẬT CỦA ĐỨC VÀ PHÁP KHI XÁC ĐỊNH TRÁCH NHIỆM DÂN SỰ TRONG ỨNG DỤNG TRÍ TUỆ NHÂN TẠO TRONG Y TẾ - MỘT SỐ ĐỀ XUẤT CHO VIỆT NAM
• 2.1. Trách nhiệm dân sự của bác sĩ trong trường hợp ứng dụng AI trong y tế gây thiệt hại
• 2.1.1. Nghĩa vụ của bác sĩ khi ứng dụng AI trong khám, chữa bệnh
• 2.1.2. Xác định lỗi của bác sĩ khi ứng dụng AI gây thiệt hại cho bệnh nhân. Nghĩa vụ chứng minh mối quan hệ nhân quả của lỗi của bác sĩ và thiệt hại phát sinh
• 2.2. Trách nhiệm dân sự của nhà sản xuất khi ứng dụng AI trong y tế gây thiệt hại cho bệnh nhân
• 2.2.1. Cơ chế xác định trách nhiệm dân sự của nhà sản xuất khi có thiệt hại xảy ra cho bệnh nhân
• 2.2.2. Nghĩa vụ chứng minh "lỗi" của sản phẩm/nhà sản xuất khi có thiệt hại xảy ra cho bệnh nhân
• 2.2.3. Miễn trừ trách nhiệm đối với nhà sản xuất khi hệ thống AI gây thiệt hại do hạn chế về khoa học và kĩ thuật
• 2.3. Trách nhiệm dân sự của người vận hành khi ứng dụng AI trong y tế gây thiệt hại cho bệnh nhân
• 2.3.1. Khái niệm người vận hành các hệ thống AI ứng dụng trong y tế
• 2.3.2. Định hướng xác định trách nhiệm dân sự của người vận hành trong trường hợp hệ thống AI ứng dụng vào y tế gây thiệt hại cho bệnh nhân
• 2.4. Một số giải pháp pháp lý cho pháp luật Việt Nam
• 2.5. KẾT LUẬN CHƯƠNG 2
• DANH MỤC TÀI LIỆU THAM KHẢO

Tóm tắt

I. Trách Nhiệm Dân Sự AI Y Tế Tổng Quan Tầm Quan Trọng

Trí tuệ nhân tạo (AI) đang ngày càng thâm nhập sâu rộng vào lĩnh vực y tế, mang đến những tiềm năng to lớn trong chẩn đoán, điều trị và quản lý bệnh viện. Tuy nhiên, sự phát triển nhanh chóng này cũng đặt ra nhiều câu hỏi về trách nhiệm pháp lý AI y tế khi có sai sót xảy ra. Theo Jonh McCarthy, AI là khoa học và kỹ thuật chế tạo máy móc thông minh. Việc xác định rõ trách nhiệm dân sự trong y tế khi ứng dụng AI là vô cùng quan trọng để bảo vệ quyền lợi của bệnh nhân, thúc đẩy sự phát triển an toàn và bền vững của công nghệ AI trong chăm sóc sức khỏe. Bài viết này sẽ đi sâu vào vấn đề này, đặc biệt là dưới góc độ so sánh với kinh nghiệm từ Đức và Pháp.

1.1. Định Nghĩa và Phân Loại Công Nghệ AI trong Y Tế

AI trong y tế bao gồm một loạt các công nghệ, từ các hệ thống hỗ trợ ra quyết định đến robot phẫu thuật. Các hệ thống này có thể được phân loại theo chức năng (máy phản ứng, AI với bộ nhớ giới hạn, AI gắn với lý thuyết về tâm trí, AI có khả năng tự nhận thức) và theo khả năng tư duy (Narrow AI, General AI, Strong AI). Việc phân loại này giúp xác định mức độ tự chủ của AI và từ đó có thể liên quan đến việc xác định trách nhiệm sản phẩm AI y tế khi có sự cố xảy ra. Charles Kerrigan định nghĩa AI là một lĩnh vực khoa học trong đó cho phép máy tính thực hiện những nhiệm vụ mà trước đây đòi hỏi phải được thực hiện bởi con người.

1.2. Vai Trò Ứng Dụng Thực Tế AI Y Tế Chẩn Đoán Điều Trị

AI đang được ứng dụng rộng rãi trong nhiều lĩnh vực của y tế, bao gồm chẩn đoán hình ảnh (phát hiện ung thư, đột quỵ), hỗ trợ phẫu thuật (robot phẫu thuật), quản lý bệnh viện (tối ưu hóa quy trình, kê đơn thuốc). Ứng dụng AI giúp tăng cường độ chính xác, hiệu quả và giảm thiểu sai sót trong công tác khám chữa bệnh. Tuy nhiên, rủi ro AI trong y tế vẫn tồn tại, đặc biệt là khi hệ thống đưa ra quyết định sai lầm hoặc bị lỗi kỹ thuật. Theo một nghiên cứu, AI được dùng để hỗ trợ phẫu thuật giúp giảm bớt thời gian nằm viện của bệnh nhân.

II. Thách Thức Pháp Lý Xác Định Trách Nhiệm AI Gây Thiệt Hại

Một trong những thách thức lớn nhất khi ứng dụng AI trong y tế là xác định đối tượng chịu trách nhiệm dân sự khi có thiệt hại xảy ra. AI không phải là một chủ thể pháp lý, vì vậy không thể trực tiếp chịu trách nhiệm. Câu hỏi đặt ra là ai sẽ chịu trách nhiệm: bác sĩ, nhà sản xuất, người vận hành hay bệnh viện? Vấn đề này trở nên phức tạp hơn khi AI đưa ra quyết định dựa trên các thuật toán phức tạp và dữ liệu lớn, khiến việc truy tìm nguyên nhân sai sót trở nên khó khăn. Hiện nay, BLDS 2015 chỉ thừa nhận chủ thể trong quan hệ dân sự là cá nhân hay pháp nhân mà chưa thừa nhận AI hay robot mang AI là một chủ thể có thể chịu trách nhiệm trước pháp luật. Vì vậy cần phải có một khung pháp lý rõ ràng để giải quyết vấn đề này.

2.1. Các Quan Điểm Trái Chiều về Trách Nhiệm Bồi Thường AI Y Tế

Có nhiều quan điểm khác nhau về việc ai nên chịu trách nhiệm khi AI gây ra thiệt hại. Một số người cho rằng bác sĩ nên chịu trách nhiệm vì họ là người đưa ra quyết định cuối cùng dựa trên thông tin do AI cung cấp. Số khác lại cho rằng nhà sản xuất nên chịu trách nhiệm vì họ là người tạo ra và kiểm soát AI. Quan điểm khác nữa lại cho rằng bệnh viện hoặc người vận hành nên chịu trách nhiệm vì họ là người sử dụng và quản lý AI trong môi trường y tế. Việc xác định đúng trách nhiệm pháp lý AI y tế là cần thiết để đảm bảo công bằng và khuyến khích các bên liên quan đầu tư vào an toàn AI y tế.

2.2. Các Loại Lỗi AI Y Tế Dữ Liệu Sai Thuật Toán Tương Tác

Các sai sót do AI gây ra có thể xuất phát từ nhiều nguyên nhân khác nhau, bao gồm lỗi dữ liệu (dữ liệu không chính xác hoặc không đầy đủ), lỗi thuật toán (thuật toán bị lỗi hoặc không phù hợp) và lỗi tương tác (người dùng không hiểu hoặc sử dụng AI sai cách). Mỗi loại lỗi này đòi hỏi một cách tiếp cận khác nhau trong việc xác định trách nhiệm. Sai sót do AI trong y tế có thể dẫn đến những hậu quả nghiêm trọng, ảnh hưởng đến sức khỏe và tính mạng của bệnh nhân. Cần có các quy trình kiểm tra và đánh giá nghiêm ngặt để giảm thiểu rủi ro này.

III. Kinh Nghiệm Đức Pháp Giải Pháp Trách Nhiệm Dân Sự AI Y Tế

Đức và Pháp là hai quốc gia tiên phong trong việc xây dựng khung pháp lý cho AI, bao gồm cả lĩnh vực y tế. Kinh nghiệm của hai quốc gia này có thể cung cấp những bài học quý giá cho Việt Nam trong việc giải quyết vấn đề trách nhiệm dân sự AI y tế. Pháp điều chỉnh vấn đề này dựa trên Bộ Luật sức khỏe công cộng và Bộ Luật Dân sự Pháp. Tại Đức, trách nhiệm dân sự xoay quanh việc ứng dụng AI được xác định dựa trên Bộ luật Dân sự và Đạo luật Trách nhiệm sản phẩm của Đức. Việc nghiên cứu kinh nghiệm của Đức và Pháp giúp Việt Nam xây dựng một hệ thống pháp luật phù hợp với điều kiện thực tế của đất nước.

3.1. Trách Nhiệm Bác Sĩ Nghĩa Vụ Khi Dùng AI Chẩn Đoán Điều Trị

Tại Đức và Pháp, bác sĩ vẫn phải chịu trách nhiệm về quyết định y tế cuối cùng, ngay cả khi sử dụng AI. Bác sĩ có nghĩa vụ kiểm tra và đánh giá thông tin do AI cung cấp, đảm bảo rằng nó phù hợp với tình trạng bệnh nhân và tuân thủ các tiêu chuẩn y tế. Việc xác định lỗi của bác sĩ khi ứng dụng AI gây thiệt hại là một vấn đề phức tạp, đòi hỏi phải xem xét nhiều yếu tố, bao gồm kiến thức chuyên môn, kỹ năng sử dụng AI và mức độ cẩn trọng trong việc ra quyết định. Cần phải có nghĩa vụ chứng minh mối quan hệ nhân quả của lỗi của bác sĩ và thiệt hại phát sinh.

3.2. Trách Nhiệm Nhà Sản Xuất Cơ Chế Xác Định Lỗi Sản Phẩm AI

Nhà sản xuất AI cũng có thể phải chịu trách nhiệm nếu sản phẩm của họ bị lỗi hoặc không đáp ứng các tiêu chuẩn an toàn. Cơ chế xác định trách nhiệm sản phẩm AI y tế thường dựa trên các quy định về trách nhiệm sản phẩm, yêu cầu nhà sản xuất chứng minh rằng sản phẩm của họ không có lỗi thiết kế, lỗi sản xuất hoặc lỗi hướng dẫn sử dụng. Tuy nhiên, có những trường hợp nhà sản xuất có thể được miễn trừ trách nhiệm do hạn chế về khoa học và kỹ thuật tại thời điểm sản xuất.

IV. Giải Pháp Pháp Lý Chính Sách Cho Trách Nhiệm AI Y Tế Việt Nam

Việt Nam cần xây dựng một khung pháp lý toàn diện để điều chỉnh vấn đề trách nhiệm dân sự AI y tế. Khung pháp lý này cần phải xác định rõ các chủ thể chịu trách nhiệm, các loại lỗi có thể xảy ra và các biện pháp bồi thường thiệt hại. Bên cạnh đó, cần có các chính sách khuyến khích phát triển AI an toàn và có trách nhiệm, đồng thời bảo vệ quyền lợi của bệnh nhân. Thủ tướng Chính phủ đã ban hành Quyết định số 127/QĐ-TTg ban hành Chiến lược quốc gia về nghiên cứu, phát triển và ứng dụng trí tuệ nhân tạo đến năm 2030, đây là một bước tiến quan trọng.

4.1. Xây Dựng Luật AI Việt Nam Quy Định Trách Nhiệm Rõ Ràng

Việt Nam cần sớm ban hành Luật về Trí tuệ Nhân tạo, trong đó có các quy định cụ thể về trách nhiệm pháp lý AI y tế. Luật này cần phải xác định rõ các nghĩa vụ của bác sĩ, nhà sản xuất, người vận hành và bệnh viện khi sử dụng AI. Ngoài ra, cần có các quy định về bảo hiểm trách nhiệm AI y tế để bảo vệ các bên liên quan trong trường hợp xảy ra sai sót. Cần tham khảo kinh nghiệm của EU về Luật AI để xây dựng luật phù hợp với điều kiện Việt Nam.

4.2. Tiêu Chuẩn An Toàn AI Y Tế Đánh Giá Kiểm Định Chất Lượng

Để đảm bảo an toàn cho bệnh nhân, cần có các tiêu chuẩn AI y tế rõ ràng và các quy trình đánh giá AI trong y tế, kiểm định AI trong y tế nghiêm ngặt. Các tiêu chuẩn này cần phải được cập nhật thường xuyên để phù hợp với sự phát triển của công nghệ AI. Cần có một cơ quan độc lập để thực hiện việc đánh giá và kiểm định, đảm bảo tính khách quan và minh bạch. Cần chú trọng đến việc an toàn AI trong y tế để bảo vệ quyền lợi người bệnh.

V. Quyền Lợi Bệnh Nhân Đạo Đức trong Ứng Dụng AI Y Tế

Việc ứng dụng AI trong y tế cần phải tuân thủ các nguyên tắc đạo đức AI trong y tế và tôn trọng quyền lợi của bệnh nhân khi sử dụng AI. Bệnh nhân cần được cung cấp đầy đủ thông tin về việc sử dụng AI trong quá trình khám chữa bệnh và có quyền từ chối sử dụng AI nếu họ không muốn. Cần có các biện pháp bảo vệ dữ liệu cá nhân của bệnh nhân và đảm bảo rằng AI không được sử dụng để phân biệt đối xử hoặc xâm phạm quyền riêng tư.

5.1. Bảo Vệ Quyền Lợi Bệnh Nhân Thông Tin Đồng Ý Từ Chối AI

Bệnh nhân có quyền được biết về việc sử dụng AI trong quá trình điều trị của mình. Bác sĩ cần giải thích rõ ràng về mục đích, lợi ích và rủi ro của việc sử dụng AI, cũng như các lựa chọn thay thế khác. Bệnh nhân có quyền đồng ý hoặc từ chối sử dụng AI mà không bị phân biệt đối xử. Quyền lợi của bệnh nhân khi sử dụng AI phải được đảm bảo và tôn trọng.

5.2. Đạo Đức AI Bảo Mật Dữ Liệu Ngăn Ngừa Phân Biệt Đối Xử

AI có thể vô tình gây ra phân biệt đối xử nếu dữ liệu được sử dụng để huấn luyện AI bị thiên vị. Cần có các biện pháp để đảm bảo rằng AI được sử dụng một cách công bằng và không phân biệt đối xử với bất kỳ ai. Việc bảo mật dữ liệu cá nhân của bệnh nhân là vô cùng quan trọng. Cần có các biện pháp bảo vệ dữ liệu khỏi bị truy cập trái phép hoặc sử dụng sai mục đích. Vấn đề đạo đức AI trong y tế cần được quan tâm hàng đầu để tránh các hệ lụy tiêu cực.

VI. Tương Lai Trách Nhiệm Dân Sự AI Y Tế Hướng Nghiên Cứu Phát Triển

Vấn đề trách nhiệm dân sự AI y tế sẽ tiếp tục là một chủ đề được quan tâm trong tương lai. Cần có thêm nhiều nghiên cứu về các vấn đề pháp lý, đạo đức và xã hội liên quan đến AI trong y tế. Đồng thời, cần có sự hợp tác giữa các nhà khoa học, luật sư, bác sĩ và các nhà hoạch định chính sách để xây dựng một hệ thống pháp luật và chính sách phù hợp, đảm bảo sự phát triển an toàn và bền vững của AI trong lĩnh vực y tế.

6.1. Nghiên Cứu Mối Quan Hệ Nhân Quả Giữa AI Thiệt Hại Y Tế

Việc xác định mối quan hệ nhân quả giữa AI và thiệt hại y tế là một thách thức lớn. Cần có các phương pháp và công cụ mới để phân tích dữ liệu và xác định xem liệu AI có phải là nguyên nhân trực tiếp gây ra thiệt hại hay không. Các nghiên cứu cần tập trung vào việc xác định các yếu tố gây ra hành vi vi phạm AI y tế.

6.2. Hợp Tác Quốc Tế Chia Sẻ Kinh Nghiệm Xây Dựng Tiêu Chuẩn Chung

Vấn đề trách nhiệm dân sự AI y tế là một vấn đề toàn cầu. Cần có sự hợp tác quốc tế để chia sẻ kinh nghiệm và xây dựng các tiêu chuẩn chung về an toàn và đạo đức AI. Việc hợp tác với các quốc gia như Đức và Pháp sẽ giúp Việt Nam học hỏi được nhiều kinh nghiệm quý báu. Cần phải xem xét kinh nghiệm quốc tế về AI y tế để áp dụng phù hợp.

Nội dung chính

## Tổng quan nghiên cứu

Trong bối cảnh Cách mạng Công nghệ 4.0, trí tuệ nhân tạo (AI) đã trở thành một công nghệ trọng yếu, đặc biệt trong lĩnh vực y tế với tiềm năng cải thiện chất lượng chăm sóc sức khỏe và giảm thiểu sai sót trong chẩn đoán, điều trị. Tại Việt Nam, AI đã được ứng dụng trong nhiều bệnh viện lớn như Bệnh viện K, Bệnh viện Bạch Mai, Vinmec với các hệ thống hỗ trợ chẩn đoán hình ảnh, phân tích dữ liệu y tế và robot phẫu thuật. Tuy nhiên, việc ứng dụng AI trong y tế cũng đặt ra nhiều thách thức pháp lý, đặc biệt là vấn đề xác định trách nhiệm dân sự khi AI gây ra thiệt hại cho bệnh nhân. 

Mục tiêu nghiên cứu tập trung vào việc phân tích và so sánh quy định pháp luật về trách nhiệm dân sự trong ứng dụng AI trong y tế tại Đức và Pháp, từ đó rút ra kinh nghiệm và đề xuất khung pháp lý phù hợp cho Việt Nam. Phạm vi nghiên cứu bao gồm các quy định pháp luật hiện hành của hai quốc gia này, tập trung vào ba chủ thể chính: bác sĩ, nhà sản xuất hệ thống AI và người vận hành hệ thống AI trong lĩnh vực y tế. Nghiên cứu có ý nghĩa quan trọng trong việc hoàn thiện khung pháp lý, bảo vệ quyền lợi người bệnh và thúc đẩy ứng dụng AI an toàn, hiệu quả tại Việt Nam.

## Cơ sở lý thuyết và phương pháp nghiên cứu

### Khung lý thuyết áp dụng

- **Lý thuyết trách nhiệm dân sự**: Phân tích các nguyên tắc trách nhiệm dân sự theo Bộ luật Dân sự của Đức và Pháp, bao gồm trách nhiệm theo hợp đồng và ngoài hợp đồng, với trọng tâm là trách nhiệm do sơ suất y tế.
- **Mô hình quản trị rủi ro AI trong y tế**: Áp dụng mô hình đánh giá rủi ro dựa trên mức độ tự chủ và khả năng gây thiệt hại của hệ thống AI, từ đó xác định chủ thể chịu trách nhiệm.
- **Khái niệm về chủ thể pháp lý trong công nghệ AI**: Phân tích quan điểm về việc AI có thể hoặc không thể được coi là chủ thể pháp lý, từ đó xác định trách nhiệm của các bên liên quan.
- **Khung pháp lý về thiết bị y tế và bảo vệ dữ liệu**: Áp dụng các quy định của MDR (Medical Device Regulation) và GDPR (General Data Protection Regulation) trong việc quản lý an toàn và bảo mật dữ liệu y tế liên quan đến AI.

### Phương pháp nghiên cứu

- **Phân tích tài liệu pháp luật**: Thu thập và phân tích các văn bản pháp luật, nghị quyết, án lệ liên quan đến trách nhiệm dân sự trong ứng dụng AI tại Đức và Pháp.
- **So sánh pháp luật**: So sánh các quy định pháp luật của hai quốc gia để nhận diện điểm tương đồng, khác biệt và hiệu quả trong việc xác định trách nhiệm dân sự.
- **Phân tích trường hợp thực tiễn**: Nghiên cứu các ví dụ, sự cố liên quan đến AI trong y tế để minh họa cho các vấn đề pháp lý phát sinh.
- **Tổng hợp và đánh giá**: Kết hợp các kết quả phân tích để đề xuất giải pháp pháp lý phù hợp cho Việt Nam.
- **Timeline nghiên cứu**: Nghiên cứu được thực hiện trong năm 2023, tập trung vào các quy định pháp luật hiện hành và các chiến lược quốc gia về AI của Đức và Pháp.

## Kết quả nghiên cứu và thảo luận

### Những phát hiện chính

- **Phân định trách nhiệm rõ ràng cho bác sĩ**: Tại Đức, bác sĩ chịu trách nhiệm dân sự khi có lỗi sơ suất y tế trong việc sử dụng AI, bao gồm việc kiểm tra độ chính xác và hiệu suất của hệ thống AI, đảm bảo an toàn cho bệnh nhân. Tại Pháp, bác sĩ chịu trách nhiệm theo nghĩa vụ nỗ lực, chỉ bị truy cứu khi không thực hiện đầy đủ nghĩa vụ chăm sóc bệnh nhân.
- **Nhà sản xuất chịu trách nhiệm về lỗi sản phẩm**: Cả hai quốc gia đều quy định nhà sản xuất hệ thống AI phải chịu trách nhiệm dân sự nếu sản phẩm có lỗi gây thiệt hại cho bệnh nhân, theo luật trách nhiệm sản phẩm.
- **Người vận hành hệ thống AI có trách nhiệm giám sát**: Người vận hành (bệnh viện, phòng khám) phải đảm bảo hệ thống AI được vận hành đúng cách, an toàn và phù hợp với quy định pháp luật.
- **Rủi ro pháp lý do tính phức tạp của AI**: AI có khả năng tự học và hoạt động độc lập, gây khó khăn trong việc xác định lỗi và trách nhiệm, tạo ra "lỗ hổng" pháp lý nếu không có quy định cụ thể.
- **Khung pháp lý dựa trên rủi ro**: Đạo luật AI của EU đề xuất cách tiếp cận dựa trên mức độ rủi ro của hệ thống AI để xác định trách nhiệm dân sự, trong đó các nhà vận hành hệ thống AI có rủi ro cao phải chịu trách nhiệm trừ khi chứng minh được sự kiện bất khả kháng.

### Thảo luận kết quả

Việc phân định trách nhiệm dân sự trong ứng dụng AI trong y tế tại Đức và Pháp dựa trên các quy định pháp luật hiện hành, không ban hành luật riêng biệt cho AI, giúp tận dụng khung pháp lý đã có và đảm bảo tính linh hoạt trong ứng dụng công nghệ mới. Sự khác biệt về quan điểm trách nhiệm của bác sĩ phản ánh sự khác biệt trong hệ thống pháp luật và văn hóa pháp lý của hai quốc gia. 

Các quy định về trách nhiệm của nhà sản xuất và người vận hành hệ thống AI góp phần tạo ra sự cân bằng giữa đổi mới công nghệ và bảo vệ quyền lợi người bệnh. Tuy nhiên, tính phức tạp và khả năng tự học của AI đặt ra thách thức lớn trong việc kiểm soát và xác định trách nhiệm, đòi hỏi sự phát triển khung pháp lý phù hợp hơn trong tương lai.

Kết quả nghiên cứu cho thấy việc áp dụng mô hình trách nhiệm dựa trên rủi ro và sự minh bạch trong hoạt động của hệ thống AI là cần thiết để tăng cường niềm tin của người dùng và bảo vệ quyền lợi các bên liên quan. Các dữ liệu có thể được trình bày qua bảng so sánh quy định pháp luật giữa Đức và Pháp, biểu đồ mô tả các chủ thể chịu trách nhiệm và sơ đồ quy trình xác định trách nhiệm khi có thiệt hại xảy ra.

## Đề xuất và khuyến nghị

- **Xây dựng khung pháp lý rõ ràng về trách nhiệm dân sự trong ứng dụng AI y tế**: Ban hành luật hoặc nghị định hướng dẫn cụ thể về trách nhiệm của bác sĩ, nhà sản xuất và người vận hành hệ thống AI, nhằm giảm thiểu "lỗ hổng" pháp lý. (Chủ thể thực hiện: Bộ Y tế, Bộ Tư pháp; Timeline: 2 năm)
- **Áp dụng mô hình trách nhiệm dựa trên rủi ro**: Xác định mức độ rủi ro của từng loại hệ thống AI để phân định trách nhiệm phù hợp, bảo đảm an toàn cho bệnh nhân và thúc đẩy đổi mới công nghệ. (Chủ thể thực hiện: Cơ quan quản lý y tế; Timeline: 1 năm)
- **Tăng cường minh bạch và khả năng giải thích của hệ thống AI**: Yêu cầu các nhà sản xuất cung cấp thông tin chi tiết về thuật toán, quy trình hoạt động và khả năng truy xuất nguồn gốc để tăng cường niềm tin và trách nhiệm pháp lý. (Chủ thể thực hiện: Bộ Khoa học và Công nghệ, Bộ Y tế; Timeline: 1-2 năm)
- **Đào tạo và nâng cao nhận thức cho bác sĩ và người vận hành**: Tổ chức các khóa đào tạo về sử dụng AI an toàn, hiệu quả và trách nhiệm pháp lý liên quan, giúp giảm thiểu sai sót trong quá trình vận hành. (Chủ thể thực hiện: Bộ Y tế, các trường đại học y; Timeline: liên tục)
- **Thiết lập cơ chế giám sát và xử lý sự cố**: Xây dựng hệ thống giám sát, báo cáo và xử lý các sự cố liên quan đến AI trong y tế, đảm bảo phản ứng kịp thời và minh bạch. (Chủ thể thực hiện: Bộ Y tế, Cơ quan quản lý thiết bị y tế; Timeline: 1 năm)

## Đối tượng nên tham khảo luận văn

- **Cơ quan quản lý nhà nước về y tế và công nghệ**: Hỗ trợ xây dựng chính sách, khung pháp lý và quản lý rủi ro liên quan đến AI trong y tế.
- **Các bệnh viện, phòng khám và nhà cung cấp dịch vụ y tế**: Nâng cao nhận thức về trách nhiệm pháp lý khi ứng dụng AI, đảm bảo an toàn cho bệnh nhân.
- **Nhà sản xuất và phát triển công nghệ AI y tế**: Hiểu rõ các yêu cầu pháp lý, trách nhiệm và chuẩn mực đạo đức trong phát triển và cung cấp sản phẩm.
- **Học giả, nghiên cứu sinh và sinh viên ngành luật, y tế và công nghệ**: Tài liệu tham khảo chuyên sâu về pháp luật AI trong y tế, phục vụ nghiên cứu và giảng dạy.

## Câu hỏi thường gặp

1. **AI trong y tế có thể chịu trách nhiệm pháp lý không?**  
Hiện nay, AI không được coi là chủ thể pháp lý, do đó trách nhiệm thuộc về các chủ thể liên quan như bác sĩ, nhà sản xuất và người vận hành hệ thống AI.

2. **Ai chịu trách nhiệm khi AI gây thiệt hại cho bệnh nhân?**  
Trách nhiệm có thể thuộc về bác sĩ sử dụng AI, nhà sản xuất hệ thống AI nếu có lỗi sản phẩm, hoặc người vận hành hệ thống nếu không đảm bảo an toàn vận hành.

3. **Pháp luật Việt Nam đã có quy định về trách nhiệm dân sự khi ứng dụng AI trong y tế chưa?**  
Hiện tại Việt Nam chưa có quy định cụ thể, nhưng đang tham khảo kinh nghiệm từ Đức, Pháp và EU để xây dựng khung pháp lý phù hợp.

4. **Làm thế nào để giảm thiểu rủi ro khi sử dụng AI trong y tế?**  
Cần đảm bảo dữ liệu đầu vào chính xác, minh bạch thuật toán, đào tạo người sử dụng và giám sát chặt chẽ quá trình vận hành.

5. **Bác sĩ có phải chịu trách nhiệm nếu tuân theo gợi ý của AI nhưng vẫn gây thiệt hại?**  
Bác sĩ vẫn phải chịu trách nhiệm nếu không kiểm tra, đánh giá kỹ lưỡng kết quả AI và không tuân thủ quy trình y tế chuẩn.

## Kết luận

- AI là công nghệ quan trọng, góp phần nâng cao chất lượng chăm sóc sức khỏe nhưng cũng đặt ra thách thức pháp lý về trách nhiệm dân sự.  
- Đức và Pháp đã xây dựng khung pháp lý dựa trên các quy định hiện hành, phân định rõ trách nhiệm của bác sĩ, nhà sản xuất và người vận hành hệ thống AI.  
- Việt Nam cần học hỏi kinh nghiệm để xây dựng khung pháp lý phù hợp, đảm bảo an toàn và phát triển bền vững ứng dụng AI trong y tế.  
- Việc minh bạch, đào tạo và giám sát là yếu tố then chốt để giảm thiểu rủi ro và tăng cường niềm tin vào AI y tế.  
- Đề xuất các giải pháp pháp lý và quản lý cụ thể nhằm hoàn thiện hệ thống trách nhiệm dân sự trong ứng dụng AI y tế tại Việt Nam trong 2-3 năm tới.

Các cơ quan chức năng cần khẩn trương xây dựng và hoàn thiện khung pháp lý, đồng thời tổ chức các chương trình đào tạo, nâng cao nhận thức cho các bên liên quan nhằm thúc đẩy ứng dụng AI an toàn, hiệu quả trong y tế Việt Nam.

Trích đoạn nội dung tài liệu

Chương 1. Tổng quan về việc ứng dụng AI trong y tế và sự cần thiết xác định trách nhiệm dân sự khi ứng dụng AI trong y tế gây thiệt hại. Thực tiễn pháp luật của Đức và Pháp khi xác định trách nhiệm dân sự trong ứng dụng trí tuệ nhân tạo trong y tế - Một số đề xuất cho Việt Nam. TỔNG QUAN VỀ VIỆC ỨNG DỤNG TRÍ TUỆ NHÂN TẠO TRONG Y TẾ VÀ SỰ CẦN THIẾT XÁC ĐỊNH TRÁCH NHIỆM DÂN SỰ KHI ỨNG DỤNG TRONG Y TẾ Ngày nay, nhu cầu về chăm sóc sức khỏe ngày càng tăng trong khi nguồn nhân lực có hạn đã gây sức ép không nhỏ lên hệ thống y tế.

Việc ứng dụng công nghệ y tế kĩ thuật số và nhất là trí tuệ nhân tạo (Artificial Intelligence- AI)15 mang lại những đóng góp to lớn, không chỉ hỗ trợ bác sĩ mà còn được dự đoán sẽ phần nào giải quyết tình trạng thiếu hụt bác sĩ. Những dữ liệu y tế khổng lồ như hồ sơ sức khoẻ điện tử (EHR), dữ liệu về di truyền học (genomics), dữ liệu về chuyển hóa (metabolomics) hay dữ liệu về protein (proteomics)16. được tiếp cận và khai thác đúng cách thông qua hệ thống AI không chỉ giúp bác sĩ chăm sóc sức khỏe có thể tập trung vào nguyên nhân gây bệnh, theo dõi sự phát triển bệnh cũng như dự đoán và có các biện pháp phòng ngừa hợp lý17. Điểm khác biệt của AI so với các công nghệ truyền thống trong chăm sóc sức khỏe là khả năng thu thập thông tin, xử lý thông tin và đưa ra kết quả rõ ràng cho người dùng.

Vậy AI đóng vai trò cụ thể như thế nào trong y tế và việc ứng dụng AI vào hệ thống y tế đặt ra những vấn đề đạo đức và pháp lý gì ? 1. Định nghĩa và vai trò của công nghệ AI trong y tế 1. Định nghĩa, phân loại công nghệ AI Trước khi tìm hiểu về một số vai trò cụ thể của công nghệ AI trong ngành y tế, ta cần hiểu về công nghệ AI hay chính xác hơn là hệ thống thiết bị y tế sử dụng công nghệ AI (hệ thống AI) là gì và nó được vận hành như thế nào. Trong khoa học máy tính, thuật ngữ "trí tuệ nhân tạo" thường được sử dụng để mô tả các máy móc (hoặc máy tính) có khả năng bắt chước các chức năng "nhận thức" mà con người thường phải liên kết với tâm trí, như "học tập" và "giải quyết vấn đề".18 Có thể nói AI là một công nghệ mô phỏng các quá trình suy nghĩ và học tập của con người cho máy móc, đặc biệt là các hệ thống máy tính.

Các quá trình 15 Thuật ngữ “công nghệ AI” lần đầu tiên được giới thiệu bởi một nhóm nghiên cứu đứng đầu bởi John McCarthy (một nhà khoa học máy tính Mỹ) tại Hội nghị Dartmouth vào năm 1956; (Xem thêm Nils J. Nilsson (2010), The Quest for Artificial Intelligence, Cambridge University Press, tr. 16 WHO (2016), " Hệ sinh thái dữ liệu sức khỏe đang phát triển" (Evolving health data ecosystem) (xem thêm: https://www.int/ehealth/resources/ecosystem.pdf?ua=1, truy cập ngày 08/03/2023). 17 WHO guidance (2021), " Đạo đức và quản trị trí tuệ nhân tạo vì sức khỏe" (Ethics and governance of artificial intelligence for health), tr36.

18 Kaplan, Andreas (2022), “Trí tuệ nhân tạo, kinh doanh và nền văn minh - Số phận của chúng ta được tạo ra từ máy móc" (Artificial Intelligence, Buiness and Civilization - Our Fate Made in Machines), Routledge, tr. 12 này bao gồm việc học tập (thu thập thông tin và các quy tắc sử dụng thông tin), lập luận (sử dụng các quy tắc để đạt được kết luận gần đúng hoặc xác định), và tự sửa lỗi để từ đó đưa ra các giải pháp hiệu quả. Hệ thống phải thể hiện bốn khả năng cốt lõi là nhận thức, hiểu biết, hành động và học tập19. Hệ thống AI sẽ nhận thức môi trường dựa trên và thông qua các cảm biến như máy ảnh, micrô, cảm biến xúc giác.; thu thập, phân tích và diễn giải dữ liệu mà nó cảm nhận được, rút ra kết luận từ chúng và cuối cùng là thực hiện chúng20.

Theo định nghĩa về AI trong khuyến nghị của Hội đồng Trí tuệ nhân tạo (Council on Artificial Intelligence- OECD), "Công nghệ AI là một hệ thống hoạt động dựa trên máy với một tập hợp nhất định những mục tiêu do con người thiết lập. Từ đó, hệ thống có thể đưa ra những dự đoán, khuyến nghị hoặc những quyết định ảnh hưởng đến môi trường thực tế cũng như môi trường ảo với các mức độ tự chủ khác nhau được con người thiết kế.21 Như vậy, hệ thống AI được hiểu là hệ thống thiết bị sử dụng các công nghệ có thể tự suy luận, đưa ra các hành động hoặc quyết định khi gặp các tình huống mới khác nhau như cách con người hay thậm chí động vật có thể hành động22. Cơ sở của các hệ thống AI dựa trên một thuật toán, được dịch thành mã máy tính mang các hướng dẫn để nhanh chóng phân tích và chuyển đổi dữ liệu thành kết luận, thông tin hoặc các kết quả đầu ra23. Trong đó, học máy được xem là một tập hợp con của công nghệ AI.

Công nghệ học máy cho phép các hệ thống máy “học” tự động từ dữ liệu để giải quyết những vấn đề cụ thể. Các thuật toán của học máy là các chương trình máy tính có khả năng học hỏi về cách hoàn thành các nhiệm vụ và cách cải thiện hiệu suất theo thời gian. Chúng tạo cơ sở cho mọi thứ mà máy tính có thể làm và là khía cạnh cơ bản của tất cả các hệ thống AI24. 19 Bitkom (2017): Trí tuệ nhân tạo - Tầm quan trọng về kinh tế, Những thách thức xã hội, Trách nhiệm của con người", DFKI, tr.29 20 Heg-ki- Nhóm chuyên gia cao cấp (2019), "Định nghĩa AI: kỹ năng chính và lĩnh vực khoa học" (Eine definition der ki: wichtigste fähigkeiten und wissenschaftsgebiete), Ủy ban Châu Âu, tr.1 (xem tại: https://elektro.at/wp-content/uploads/2019/10/EU_Definition-KI.

22 Hao K (2018), " AI là gì? Chúng tôi đã vẽ cho bạn một sơ đồ để giải quyết" (What is AI? We drew you a flowchart to work it out), MIT Technology Revies, (xemtại:https://www.com/2018/11/10/139137/is-this-ai-we-drew-you-a-flowchart-to- work-it-out//, truy cập ngày 13/2/2023). 23 WHO guidance, tlđd (17). 24 House of Lords Select Committee on Artificial Intelligence (2017), "AI ở Anh: Sẵn sàng, Sẵn sàng và có khả năng? (AI in the UK: Ready,Willing and Able?), Report of Session, số 19, tr. 13 Học máy sẽ dựa trên việc sử dụng các kỹ thuật của mô hình thống kê và toán học để tìm ra mẫu trong một lượng dữ liệu khổng lồ; xác định và phân tích dữ liệu.

Các mẫu đã học sau đó được áp dụng để thực hiện hoặc hướng dẫn các nhiệm vụ nhất định cũng như thực hiện phỏng đoán25. Học máy có thể được phân loại theo cách nó học từ dữ liệu được nạp vào là: (i) học có giám sát, (ii) học không giám sát và (iii) học tăng cường. Trong phương pháp học có giám sát, phương pháp phổ biến nhất, tập dữ liệu sẽ được gắn nhãn đầu vào và đầu ra như mong muốn (có câu trả lời) để " huấn luyện" cho thuật toán. Quá trình thuật toán học từ các dữ liệu đầu vào cũng có thể được xem là một "giáo viên" giám sát quá trình học.

Sau đó, từ dữ liệu được nạp từ các đầu vào khác nhau, mô hình sẽ suy ra một chức năng (với những dữ liệu có thể được sử dụng) để dự đoán đầu ra. Phương pháp này phù hợp để giải quyết những vấn đề như dự đoán và phân loại. Trong phương pháp học không giám sát, dữ liệu nạp vào sẽ không được dán nhãn (đây được xem là một tập hợp "biến ngẫu nhiên") và máy sẽ tìm kiếm bất cứ mẫu nào phù hợp với các quan sát mà nó được thiết lập. Điểm khác biệt ở đây là ở việc đầu ra đúng tương ứng với mỗi đầu vào sẽ không được biết trước như học máy có giám sát (mẫu bị ẩn)26.

Phương pháp này phù hợp để phân cụm và tìm mối liên hệ giữa các mẫu. Trong phương pháp học tăng cường, máy sẽ được học bằng cách "thử" và "sai" để đạt được mục tiêu. Theo đó máy sẽ được “thưởng” hoặc bị “phạt”, tùy thuộc vào việc suy luận của nó giúp đạt được hoặc cản trở việc đạt được một mục tiêu27. Với phương pháp này, hệ thống AI có thể tự phát triển để tìm được mục tiêu ví dụ như tìm nốt sần trên những hình ảnh y tế như phim chụp X-quang, CT hay hình ảnh siêu âm.

Học sâu (Deep Learning) có thể được coi là một tập hợp con của học máy. Đây là một lĩnh vực dựa trên việc học hỏi và tự cải thiện bằng cách kiểm tra các thuật toán máy tính. Trong khi học máy sử dụng các khái niệm, dữ liệu đơn giản hơn, thì học sâu hoạt động với các mạng thần kinh nhân tạo (Artificial neuron 25 WHO guidance, tlđd (17), tr. 26 Hinton, Geoffrey; Sejnowski, Terrence (1999), " Học tập không giám sát: Nền tảng của tính toán thần kinh" (Unsupervised Learning: Foundations of Neural Computation), MIT Press (xem tại: https://mitpress.edu/9780262581684/unsupervised-learning/, truy cập ngày 24/05/2023).

27 Hao K (2017)," Học máy là gì? Các thuật toán học máy tìm và áp dụng các mẫu trong dữ liệu. Và họ gần như điều hành thế giới" (What is machine learning? Machine-learning algorithms find and apply patterns in data), MIT Technology Revies. (xem tại: https://www.com/2018/11/17/103781/what-is-machine-learning-we-drew-you- anotherflowchart/, truy cập ngày 13/2/2023). 14 netwwork)- được thiết kế tương tự mạng thần kinh trong bộ não con người để "bắt chước" và học hỏi cách suy nghĩ của con người.

Học sâu nổi bật với khả năng xử lý một lượng dữ liệu lớn (Big Data) với các mạng thần kinh lớn và phức tạp hơn, cho phép máy tính quan sát, học hỏi và phản ứng với các tình huống phức tạp nhanh hơn con người. Học sâu đã hỗ trợ phân loại hình ảnh, dịch ngôn ngữ, nhận dạng giọng nói. Nó có thể được sử dụng để giải quyết bất kỳ vấn đề nhận dạng mẫu nào mà không cần sự can thiệp của con người28. Vai trò của công nghệ AI trong y tế Ứng dụng công nghệ AI trong ngành y tế đã trở nên phổ biến trong những năm gần đây ở nhiều nơi trên thế giới.

Việc ứng dụng công nghệ AI vào chăm sóc sức khỏe về cơ bản là việc sử dụng các thuật toán và phần mềm công nghệ cũng như nguồn dữ liệu lớn (Big data) để mô phỏng nhận thức của con người đối với một ca lâm sàng trong việc phân tích, giải thích, hiểu các dữ liệu y tế và đưa ra các liệu trình chăm sóc sức khỏe cho người bệnh tốt hơn29.