AI vẫn chưa đủ tin cậy để tư vấn sức khỏe

Cẩn trọng khi dùng AI để tư vấn thông tin sức khỏe

Nghiên cứu do Viện Internet Oxford phối hợp cùng Khoa Khoa học Chăm sóc sức khỏe ban đầu Nuffield, Đại học Oxford (Anh) thực hiện. Nhóm tác giả cảnh báo: Dù các chatbot AI (chương trình trò chuyện tự động với người dùng thông qua trí tuệ nhân tạo) ngày càng phổ biến, nhưng chúng chưa đủ an toàn để thay thế vai trò đánh giá của bác sĩ trong các tình huống sức khỏe.

Các chatbot AI hiện nay hoạt động dựa trên mô hình ngôn ngữ lớn, được huấn luyện bằng khối lượng dữ liệu khổng lồ để tạo ra câu trả lời giống con người. Tuy nhiên, theo bác sĩ Rebecca Payne - đồng tác giả Nghiên cứu, AI có thể chẩn đoán sai hoặc không phát hiện được những tình huống cần cấp cứu. Khoảng cách giữa khả năng xử lý lý thuyết và thực hành y tế thực tế của AI vẫn còn lớn.

Để kiểm tra, nhóm nghiên cứu đã khảo sát gần 1.300 người. Họ được yêu cầu đánh giá các tình huống sức khỏe giả định và đưa ra hướng xử lý. Một nhóm tham khảo ý kiến từ chatbot AI, trong khi nhóm còn lại sử dụng cách tiếp cận truyền thống như hỏi ý kiến bác sĩ.

Kết quả cho thấy chatbot AI thường đưa ra các câu trả lời kết hợp giữa thông tin đúng và sai. Người dùng khó phân biệt đâu là dữ liệu đáng tin cậy. Điều này có thể dẫn đến quyết định trì hoãn điều trị hoặc áp dụng biện pháp không phù hợp.

Nghiên cứu cũng chỉ ra một nghịch lý đáng chú ý: Chatbot AI đạt điểm cao trong các kỳ thi kiến thức y khoa. Tuy nhiên, khi áp dụng vào tình huống thực tế, nơi triệu chứng có thể mơ hồ hoặc không đầy đủ, hệ thống dễ đưa ra kết luận sai.

Ông Andrew Bean, tác giả chính của nghiên cứu, nhận định rằng việc tương tác với con người là thách thức lớn đối với AI. Trong y tế, mọi quyết định đều ảnh hưởng trực tiếp đến sức khỏe, vì vậy chỉ một sai lệch nhỏ trong tư vấn cũng có thể dẫn đến hậu quả nghiêm trọng.

Khi AI ngày càng được sử dụng rộng rãi, nhiều người xem đây là công cụ tra cứu nhanh khi có triệu chứng bất thường. Tuy nhiên, AI chỉ phân tích nội dung văn bản do người dùng nhập vào và không thể thay thế quá trình thăm khám, khai thác bệnh sử hoặc chỉ định xét nghiệm. Nhóm nghiên cứu nhấn mạnh người dân cần thận trọng khi sử dụng AI cho các quyết định liên quan đến sức khỏe. Đồng thời, kêu gọi phát triển các hệ thống an toàn, đáng tin cậy hơn trước khi tích hợp vào lĩnh vực chăm sóc y tế.

 

Valentine này, hãy thử trổ tài làm Kẹo dẻo Dubai tặng người thương

7 loại thực phẩm hỗ trợ chống viêm

TS. Cao Hưng Thái: Phải lấy lại ngay niềm tin của người tiêu dùng

Tại sao người bệnh tim hay thấy mệt rũ trong ngày?