Với khía cạnh đạo đức, việc ứng dụng AI đang đặt ra những thách thức sau:

Thứ nhất, quyền riêng tư và bảo mật dữ liệu. Ứng dụng AI trong phát triển thuốc thường dựa vào dữ liệu bệnh nhân bao gồm: hồ sơ sức khỏe điện tử, dữ liệu lâm sàng, gen, các dữ liệu về sinh học phân tử... Những rủi ro lớn liên quan đến rò rỉ dữ liệu cá nhân, tái nhận dạng cá nhân, lạm dụng thông tin y tế cho mục đích thương mại... Vì vậy, cần hết sức tuân thủ nguyên tắc cần ẩn danh hóa, mã hóa, xin sự đồng thuận rõ ràng khi sử dụng dữ liệu bệnh nhân.

Thứ hai là công bằng và không phân biệt đối xử. Nếu dữ liệu huấn luyện AI thiếu tính đại diện và thiên lệch, định kiến (bias), kết quả nghiên cứu thuốc hay dự đoán hiệu quả điều trị có thể sai lệch, gây bất lợi cho một số quần thể dân cư. Đạo đức yêu cầu: đảm bảo tính công bằng, đa dạng và minh bạch trong dữ liệu và mô hình AI.

Thứ ba, trách nhiệm và minh bạch. Khi AI đưa ra gợi ý về thiết kế thuốc mới, dự báo tác dụng phụ, hoặc lựa chọn phác đồ, ai sẽ chịu trách nhiệm khi sai sót xảy ra? Nhà khoa học, bác sĩ, hay công ty phát triển AI? Vì vậy, mô hình AI cần có giải thích (explainable AI) để thầy thuốc, dược sĩ và nhà quản lý hiểu cơ chế ra quyết định.

Hạn chế về tính minh bạch của thuật toán là mối quan tâm chi phối hầu hết các cuộc thảo luận pháp lý về trí tuệ nhân tạo. Sự gia tăng của AI trong các tình huống rủi ro cao đã làm tăng yêu cầu về thiết kế và quản trị AI có trách nhiệm, công bằng và minh bạch. Khả năng tiếp cận và tính dễ hiểu của thông tin là hai khía cạnh quan trọng nhất của tính minh bạch. Trong một số trường hợp, thông tin về chức năng của thuật toán thường bị người sử dụng AI cố tình làm cho khó tiếp cận.

Thứ tư, thử nghiệm lâm sàng và an toàn bệnh nhân. Sử dụng AI để rút ngắn thử nghiệm lâm sàng có thể tiềm ẩn rủi ro nếu bỏ qua các bước đánh giá an toàn. Cần bảo đảm rằng bệnh nhân tham gia thử nghiệm được thông tin đầy đủ và tự nguyện.

Cuối cùng là ảnh hưởng xã hội. AI có thể làm thay đổi cấu trúc ngành Dược phẩm, dẫn tới mất việc làm ở một số lĩnh vực như nghiên cứu - phát triển thuốc theo các phương pháp truyền thống, ứng dụng các phương pháp thống kê truyền thống... Cần chính sách tái đào tạo và tái bố trí nhân lực để thích ứng với kỷ nguyên chuyển đổi số.

Các cơ quan quản lý dược trên thế giới và người tiêu dùng nói riêng, công chúng nói chung quan ngại về các khía cạnh pháp lý khi áp dụng AI trong lĩnh vực Dược, nói riêng và lĩnh vực chăm sóc sức khỏe, nói chung. Việc sử dụng AI có thể khiến chúng ta không còn ai để quy trách nhiệm cho bất kỳ thiệt hại nào đã gây ra. Mức độ nguy hiểm vẫn chưa được biết rõ, và việc sử dụng máy móc sẽ hạn chế nghiêm trọng khả năng quy trách nhiệm và chịu trách nhiệm về việc ra quyết định của chúng ta.

Thách thức về quy định về dữ liệu được coi là thách thức đầu tiên về khía cạnh pháp lý. Theo đó, phải tuân thủ các luật bảo vệ dữ liệu cá nhân như Quy định chung về bảo mật dữ liệu (GDPR: General Data Protection Regulation – EU, 2018), Đạo Luật về trách nhiệm giải trình và cung cấp thông tin y tế (HIPAA: Health Insurance Portability and Accountability, USA, 1996), Luật An ninh mạng và bảo vệ dữ liệu cá nhân (Việt Nam, 2023). Các công ty cần có hệ thống lưu trữ và xử lý dữ liệu đáp ứng chuẩn pháp lý quốc gia và quốc tế.

Thách thức thứ hai là quy định về nghiên cứu và phê duyệt thuốc. Các cơ quan như US FDA (Mỹ), EMA (Châu Âu), Bộ Y tế Việt Nam chưa có khung pháp lý đầy đủ cho việc sử dụng AI trong nghiên cứu - phát triển, đánh giá hồ sơ đăng ký và phê duyệt thuốc. Vấn đề quan trọng là cần xác định AI là công cụ hỗ trợ hay là một phần của bằng chứng khoa học trong hồ sơ đăng ký thuốc.

Gần đây, Cơ quan quản lý dược Châu Âu (EMA) mới ban hành Dự thảo Quy chế liên quan đến ứng dụng AI trong sản xuất dược phẩm để lấy ý kiến công chúng và công nghiệp dược (GMP EU Annex 22, Artificial Intelligence, Draft , 2025)

Thách thức thứ ba là quyền sở hữu trí tuệ (Intelectual Property). Khi AI “sáng chế” phân tử thuốc mới, câu hỏi đặt ra là bằng sáng chế thuộc về ai: Công ty lập trình AI, người vận hành, hay chính thuật toán (algorithm). Hiện nay, nhiều quốc gia chưa công nhận AI là chủ thể pháp lý có quyền sáng chế vì vậy cần khung pháp lý mới.

Thách thức thứ tư là trách nhiệm pháp lý khi xảy ra sai sót. Nếu AI đề xuất một thuốc mới nhưng gây ra tác dụng phụ nghiêm trọng, trách nhiệm pháp lý sẽ thuộc về: Nhà phát triển phần mềm, Công ty Dược sử dụng AI hay cơ quan quản lý đã phê duyệt thuốc? Vấn đề này còn bỏ ngỏ, cần cơ chế và quy định pháp lý về chia sẻ trách nhiệm.

Cuối cùng là thách thức chuẩn mực quốc tế và hài hòa hóa luật pháp. Trong quá trình quản lý sử dụng AI trong ngành Dược, mỗi quốc gia có thể có những khuôn khổ pháp lý và quy định khác nhau, thậm chí có quốc gia chưa có khung pháp lý. Vì vậy, cần hướng tới ban hành và hài hòa chuẩn mực toàn cầu về ứng dụng AI trong ngành Dược để hạn chế các rào cản pháp lý giữa các quốc gia và khu vực.

Để đảm bảo việc ứng dụng và triển khai rộng rãi AI trong công nghiệp dược phẩm, cần phải quan tâm tới các khía cạnh sau:

Thứ nhất: Xây dựng khung pháp lý linh hoạt nhưng chặt chẽ cho ứng dụng AI trong ngành Dược.

Thứ hai: Tăng cường đạo đức nghiên cứu và củng cố hoặc thành lập Hội đồng thẩm định đối với các dự án AI liên quan đến dược phẩm nói riêng và ngành Dược nói chung

Thứ ba: Khuyến khích minh bạch thuật toán, nguồn dữ liệu

Thứ tư: Thúc đẩy hợp tác quốc tế để hình thành hoặc hài hòa tiêu chuẩn quản lý và khung pháp lý chung.

Hoặc là:

Thứ nhất là tính đạo đức, có nghĩa là bảo mật dữ liệu, công bằng, trách nhiệm, an toàn bệnh nhân, tác động xã hội.

Thứ hai là tính pháp lý. Quản lý dữ liệu cá nhân, quy trình phê duyệt thuốc, quyền sở hữu trí tuệ, trách nhiệm khi xẩy ra sai sót, tuân thủ các chuẩn mực quốc tế.

Thứ ba là tính định hướng. Minh bạch, xây dựng khung pháp lý, tăng cường thẩm định, hợp tác quốc tế, đào tạo nhân lực.

Như vậy, ứng dụng AI trong ngành Dược nói riêng và ngành y tế nới chung vừa mở ra triển vọng lớn, vừa đặt ra thách thức về quyền riêng tư của người bệnh, công bằng, trách nhiệm và pháp lý của các đối tác (stakeholders) liên quan.