Bạo lực thuật toán: Một vấn đề của AI trong lĩnh vực sức khỏe

Khái niệm "bạo lực thuật toán" phản ánh việc công nghệ thiếu đi sự thấu cảm

Nạn nhân của thuật toán

Thai lưu ở tuần thứ 9, một tháng sau, người phụ nữ vẫn được phòng khám nhắc đi khám thai qua một tin nhắn tự động. Câu chuyện đáng buồn này được chia sẻ trên mạng xã hội và nhanh chóng chạm đến nỗi đau chung của nhiều người. Thậm chí, có trường hợp người mẹ đã sảy thai, nhưng đến đúng 9 tháng 10 ngày, vẫn nhận được lời hỏi thăm em bé đã chào đời khỏe mạnh hay chưa.

Có thể nhận thấy các vụ việc trên là lỗi của một quy trình máy móc, theo nghĩa đen, tức là có sự tham gia của một công cụ không phải là con người. Các thuật toán được lập trình tuyến tính. Ví dụ, khi một sản phụ đăng ký khám thai, hệ thống sẽ tự động kích hoạt một "lộ trình chăm sóc" cố định dài 40 tuần (ví dụ: Tuần 12 khám sàng lọc, tuần 22 siêu âm hình thái...).  

Trí tuệ nhân tạo (AI) đang tham gia ngày càng sâu rộng vào nhiều khâu trong quy trình y tế và chăm sóc sức khỏe. Trong đó, AI có thể tự động hóa việc ghi chép hồ sơ lâm sàng, tham gia vào việc phân loại bệnh nhân, đặt lịch hẹn, nhắc lịch tái khám. Điều này giảm tải khối lượng công việc cho con người, nhưng cũng vô tình xóa đi tính người cần có trong lĩnh vực nhạy cảm như chăm sóc sức khỏe.

Hiện tượng này không chỉ giới hạn trong ngành y, mà còn xảy ra ở mọi nơi có sự hiện diện của internet. Nghiên cứu do TS. Fatemeh Golpayegani từ Đại học Dublin (Ireland) thực hiện đã chỉ ra một khoảng trống đạo đức nghiêm trọng trong các hệ thống trí tuệ nhân tạo (AI) và dữ liệu lớn (Big Data) thương mại.

phụ nữ mang thai có xu hướng sử dụng ứng dụng theo dõi thai kỳ và tìm kiếm thông tin y tế trên mạng từ sớm. Các thuật toán quảng cáo dựa trên học máy (machine learning) có khả năng phát hiện điều này ngay tức khắc. Khi đó, hệ thống tự động phân phối quảng cáo cập nhật liên tục theo tuần tuổi thai: Từ quần áo bầu, lớp yoga thai kỳ, dầu chống rạn da, cho đến đồ dùng em bé.

Mặc dù thuật toán cực kỳ nhạy bén trong việc nhận diện thời điểm một người bắt đầu mang thai, những cỗ máy này lại hoàn toàn thất bại trong việc điều chỉnh hành vi khi biến cố (ví dụ như người mẹ không may sảy thai) xảy ra. Thuật toán học máy vẫn tiếp tục “dội” quảng cáo về nôi em bé, tã lót và hình ảnh các mẹ bầu rạng rỡ.

Nghiên cứu nhấn mạnh rằng, việc liên tục phải nhìn thấy các quảng cáo em bé sau khi vừa mất con có thể liên tục đào sâu tổn thương tâm lý của người mẹ.

Đáng nói, về mặt kỹ thuật, việc phát hiện sự cố sảy thai thông qua lịch sử tìm kiếm và phân tích cảm xúc trên mạng xã hội là hoàn toàn khả thi với trình độ AI hiện nay. Do đó, việc quảng cáo vẫn tiếp diễn không phải do hạn chế kỹ thuật, mà là sự thiếu vắng chuẩn mực đạo đức trong khâu thiết kế.

Ứng dụng AI cần tính người

Khái niệm “bạo lực thuật toán” thực tế được gọi tên trước cả khi những mô hình trí tuệ nhân tạo phổ biến hiện nay ra mắt. Năm 2014, nhà thiết kế web Eric Meyer đã phê phán “sự tàn nhẫn vô ý của thuật toán” khi Facebook ra mắt tính năng tự động "Year in Review" (Nhìn lại năm cũ).

Thuật toán tự động ghép bức ảnh cáo phó của con gái Meyer với các biểu tượng vui nhộn, pháo hoa và dòng chữ ăn mừng một năm tuyệt vời. Điều này gây tổn thương sâu sắc cho người cha vừa mất con. Thuật toán mặc định coi "tương tác cao" (high engagement) đồng nghĩa với "cảm xúc tích cực", hoàn toàn thiếu đi sự thấu cảm.

Khi AI ngày càng thông minh, tại sao không cho chúng một nút dừng?

Nghiên cứu của TS. Fatemeh Golpayegani nhấn mạnh rằng các thuật toán hiện nay thiếu cơ chế tự điều chỉnh hoặc "luồng thoát" khi người dùng gặp biến cố. Từ các phản hồi trực tiếp hoặc gián tiếp (như lịch sử tìm kiếm biến cố) thuật toán phải lập tức dừng quảng cáo và chuyển sang đề xuất các dịch vụ hỗ trợ phục hồi.

AI phải nhận diện được các từ khóa nhạy cảm như “sảy thai” để ngay lập tức dừng hệ thống tự động và chuyển hướng cuộc hội thoại cho nhân viên y tế (người thật) xử lý với sự đồng cảm cao nhất. Đây chính là quy trình chuyển giao người - máy (Human-in-the-loop) cần có trong chatbot y tế.

Sau cùng, con người có quyền dừng chia sẻ dữ liệu cho AI. Theo chia sẻ của nghiên cứu sinh Abeer Malik, Trung tâm Petrie-Flom về Luật Y tế và Chính sách Sinh học thuộc Trường Luật Harvard, Đạo luật Bảo mật Y tế (HIPAA) của Mỹ chỉ bảo vệ hồ sơ tại cơ sở y tế truyền thống, hoàn toàn bỏ ngỏ dữ liệu do người dùng tự nhập trên các ứng dụng di động hoặc thiết bị đeo.

Khoảng trống trên khiến dữ liệu thai kỳ cá nhân liên tục bị các ứng dụng bán hoặc chia sẻ cho bên thứ ba. Ngược lại, Quy định Bảo vệ Dữ liệu Chung của Liên minh châu Âu (EU) trao cho cá nhân quyền kiểm soát dữ liệu, tạo hành lang pháp lý giúp người dùng chủ động kiểm soát hoặc gỡ bỏ thông tin nhạy cảm.

Lĩnh vực y tế - sức khỏe cần những thuật toán có đạo đức, được lập trình để bảo vệ sự an toàn cảm xúc của người bệnh. Công nghệ chỉ thực sự có giá trị khi nó phục vụ con người với sự tôn trọng và thấu cảm.

 

Lưu ý khi sử dụng trí tuệ nhân tạo (AI) để đọc kết quả khám sức khỏe

Ra mắt sách "Khoa học dữ liệu, trí tuệ nhân tạo và học máy trong phát triển thuốc"

Tầm nhìn chiến lược và giá trị nhân văn từ một dự án y tế kiểu mẫu

Cử chỉ nhân văn: Hiến tóc tặng bệnh nhân ung thư