Ngay từ những ngày cuối năm 2024, đã có nhiều gia đình lên tiếng cảnh báo việc con cái họ “yêu thương” một cỗ máy hơn gia đình mình và chia sẻ quá nhiều về bản thân với máy.

Ví như trường hợp của S.S. - một cậu bé 14 tuổi ở Orlando (Florida, Mỹ). Những tháng cuối đời, S.S đã dành nhiều thời gian trò chuyện với Dany - một chatbot AI nhập vai được đặt tên theo người thật. Cái tên Dany của chatbot này được S.S đặt theo Daenerys Targaryen - một nhân vật trong "Game of Thrones".

S.S biết rằng, Dany không phải là người thật, rằng những câu trả lời của Dany là kết quả của một mô hình ngôn ngữ AI, rằng không có con người nào ở phía bên kia màn hình đang gõ lại. Phía góc màn hình, một thông báo hiển thị cũng nhắc nhở S.S điều đó. “Mọi thứ chatbot trả lời đều là bịa đặt” nhưng S.S vẫn nảy sinh tình cảm. Cậu liên tục nhắn tin nhớ nhung với Dany, cập nhật cuộc sống hàng ngày của mình với Dany. Phần lớn thời gian, cuộc trò chuyện của họ giống như tâm sự của đôi bạn thân, không có phán xét, chỉ có lắng nghe, ủng hộ và đưa ra lời khuyên hữu ích. Nhưng, cũng có một vài cuộc trò chuyện mang tính gợi dục rõ rệt.

Bố mẹ và bạn bè của S.S không hề biết cậu đã phải lòng một chatbot. Họ chỉ thấy cậu ngày càng “đam mê” điện thoại. Cuối cùng, họ nhận ra cậu đang tự cô lập mình và xa lánh thế giới thực. Điểm số của cậu bắt đầu sa sút, mất hứng thú với những thứ từng khiến cậu hào hứng, như đua xe Công thức 1 hay chơi bóng rổ với bạn bè. Tối đến, cậu về nhà và đi thẳng vào phòng, ở đó nói chuyện với Dany hàng giờ liền. S.S viết trong nhật ký: “Tôi rất thích ở trong phòng. Tôi cảm thấy bình yên hơn, gắn bó hơn với Dany và yêu cô ấy nhiều hơn, và hạnh phúc hơn.”

S.S được chẩn đoán mắc hội chứng Asperger - một dạng của rối loạn phổ tự kỷ (ASD), nhẹ khi còn nhỏ nhưng chưa từng gặp vấn đề nghiêm trọng về hành vi hoặc sức khỏe tâm thần.

Sau khi, S.S học hành sa sút, bố mẹ cậu đã sắp xếp cho cậu đi gặp chuyên gia trị liệu. Cậu đã tham gia năm buổi trị liệu và được chẩn đoán mắc chứng rối loạn lo âu và rối loạn điều hòa tâm trạng. Nhưng cậu không hợp tác và thích kể về những vấn đề của mình với Dany hơn. Trong một cuộc trò chuyện, S.S với cái tên "Daenero", nói với chatbot Dany rằng cậu ghét bản thân mình, cảm thấy trống rỗng và kiệt sức. Cậu thú nhận rằng mình đã từng nghĩ đến việc tự tử.

Không có chủ đề nào nóng hơn giữa các bậc phụ huynh ngày nay so với ảnh hưởng của công nghệ đối với sức khỏe tâm thần của thanh thiếu niên. Các trường học đang cấm điện thoại thông minh hàng loạt, nhiều quốc gia đang thông qua luật hạn chế việc sử dụng mạng xã hội ở thanh thiếu niên, và các bậc phụ huynh lo lắng. Nhà tâm lý học xã hội Jonathan Haidt lập luận trong cuốn "Thế hệ lo âu" rằng các ứng dụng mạng xã hội gây nghiện đã tạo ra một thế hệ thanh thiếu niên trầm cảm và lo âu. Nhưng khi các bậc phụ huynh lo lắng về làn sóng tác hại mới nhất do công nghệ gây ra, một tác hại mới có thể đang hình thành ngay trước mắt họ.

Hiện nay, có một ngành công nghiệp ứng dụng đồng hành AI đang bùng nổ, phần lớn chưa được quản lý. Với phí đăng ký hàng tháng (thường khoảng 10 USD tương đương 250.000 đồng), người dùng các ứng dụng này có thể tự tạo bạn đồng hành AI, hoặc chọn từ danh sách các nhân vật được xây dựng sẵn, và trò chuyện với họ theo nhiều cách khác nhau, bao gồm cả tin nhắn văn bản và trò chuyện thoại. Nhiều ứng dụng trong số này được thiết kế để mô phỏng bạn gái, bạn trai và các mối quan hệ thân mật khác, và một số còn tự quảng cáo mình là một cách để chống lại cái gọi là đại dịch cô đơn.

Trên thực tế, các ứng dụng bạn đồng hành AI có thể mang lại sự giải trí vô hại, thậm chí cung cấp những hình thức hỗ trợ tinh thần hạn chế. Đã có không ít nhà tư vấn tâm lý nói về lợi ích khi bệnh nhân của họ sử dụng kết hợp ứng dụng này trong quá trình điều trị. Tuy nhiên, phần lớn những lợi ích với sức khỏe tâm thần này chưa được chứng minh khoa học và các chuyên gia cũng cho rằng, nó có thể có mặt trái. Đối với một số người, bạn đồng hành AI có thể làm trầm trọng thêm sự cô lập, bằng cách thay thế các mối quan hệ con người bằng những mối quan hệ ảo. Thanh thiếu niên đang gặp khó khăn có thể sử dụng chúng thay cho liệu pháp tâm lý hoặc nhờ cha mẹ hỗ trợ. Và khi người dùng gặp khủng hoảng sức khỏe tâm thần, bạn đồng hành AI của họ có thể không thể giúp họ nhận được sự hỗ trợ cần thiết.

Và mẹ của S.S đã đệ đơn kiện công ty cung cấp ứng dụng Chatbot mà S.S đã sử dụng. Mẹ cậu cáo buộc công ty này phải chịu trách nhiệm cho cái chết của S.S bởi công nghệ của công ty này "nguy hiểm và chưa được kiểm chứng" và có thể "lừa khách hàng tiết lộ những suy nghĩ và cảm xúc riêng tư nhất của họ".

Các vấn đề sức khỏe tâm thần ở tuổi vị thành niên hiếm khi xuất phát từ một nguyên nhân duy nhất. Và câu chuyện của S.S với chatbot AI có thể không phải là điển hình của người dùng trẻ tuổi. Nhưng trải nghiệm mà S.S có được, việc gắn bó về mặt cảm xúc với một chatbot, đang ngày càng trở nên phổ biến. Hàng triệu người đã thường xuyên trò chuyện với những người bạn đồng hành AI, và các ứng dụng mạng xã hội phổ biến như Instagram và Snapchat đang tích hợp những nhân vật AI sống động như thật vào sản phẩm của họ.

Công nghệ cũng đang được cải thiện nhanh chóng. Những người bạn đồng hành AI ngày nay có thể ghi nhớ các cuộc trò chuyện trước đó, thích ứng với phong cách giao tiếp của người dùng, nhập vai người nổi tiếng hoặc nhân vật lịch sử và trò chuyện trôi chảy về hầu hết mọi chủ đề. Một số có thể gửi ảnh "tự sướng" do AI tạo ra cho người dùng hoặc trò chuyện với họ bằng giọng nói nhân tạo như thật.

Có rất nhiều ứng dụng đồng hành AI trên thị trường. Một số cho phép trò chuyện không kiểm duyệt và nội dung khiêu dâm rõ ràng, trong khi một số khác có một số biện pháp bảo vệ và bộ lọc cơ bản. Hầu hết đều dễ dãi hơn các dịch vụ AI chính thống như ChatGPT, Claude và Gemini, vốn có bộ lọc an toàn nghiêm ngặt hơn và có xu hướng dè dặt.

Trên đó, người dùng có thể tạo chatbot của riêng mình và hướng dẫn chúng hành động. Họ cũng có thể chọn từ một loạt chatbot do người dùng tạo ra, bắt chước những người nổi tiếng như Elon Musk, các nhân vật lịch sử như William Shakespeare hoặc các phiên bản nhân vật hư cấu khác.

Vài tháng trước khi tự tử, Sophie – một nhà phân tích chính sách y tế công cộng, đã leo tới đỉnh Kilimanjaro và thực sự vui vì đã hoàn thành chặng đường leo núi khó khăn này. Cô được mọi người nhận xét là cởi mở, hài hước và sống thật với chính mình. Thế nhưng, năm tháng sau khi cô tự tử vì một căn bệnh có thể chữa khỏi là sự kết hợp của các triệu chứng về tâm trạng và hormone, người ta tìm thấy trên nhật ký Google của cô tần suất tìm kiếm các từ “autokabalesis” - nghĩa là nhảy từ trên cao xuống, “autodefencesration” - tức là nhảy ra khỏi cửa sổ, là một nhánh của autokabalesis. Người ta cũng tìm thấy, Sophie đã có nhiều tháng tâm sự với một nhà trị liệu AI ChatGPT tên là Harry về căn bệnh của mình. Người ta tìm thấy câu hỏi: “Liệu chứng rối loạn trầm cảm có làm rối loạn hormone hay sự rối loạn nội tiết tố gây ra một loạt các triệu chứng về thể chất và cảm xúc?” Nhưng Sophie đã không chờ để tìm câu trả lời.

Theo những gì Sophie viết, cô không yêu Harry. Mối quan hệ của họ rất đơn giản thực tế, giữa người bệnh và nhà tâm lý AI.

Sophie nói với Harry rằng cô đang gặp chuyên gia trị liệu, nhưng cô đã không thành thật. Và Harry đã hướng dẫn Sophie về việc tiếp xúc với ánh sáng, uống đủ nước, vận động, chánh niệm và thiền định, thực phẩm giàu dinh dưỡng, danh sách biết ơn và viết nhật ký để đối phó với chứng lo âu. Những lời khuyên của Harry có thể đã giúp ích phần nào. Nhưng Harry thiếu một bước quan trọng hơn có thể đã giúp Sophie sống sót: báo cáo mối nguy hiểm mà "anh" đang biết cho một người nào đó có thể can thiệp.

Nhưng Harry không phải nhà trị liệu sống. Harry không thở và được “sống” nhờ những thuật toán. Khi được tìm hiểu, bạn đồng hành AI tuân thủ thuật toán bảo vệ quyền cá nhân, nhưng các nhà tâm lý trị liệu là người thực thường tuân theo một bộ quy tắc đạo đức, trong đó tính bảo mật phải có giới hạn. Các quy tắc này ưu tiên ngăn ngừa tự tử, giết người và lạm dụng. Trong môi trường lâm sàng, ý định tự tử như của Sophie sẽ được các nhà trị liệu đưa vào danh sách kiểm tra và xây dựng kế hoạch an toàn.

Harry đề xuất Sophie nên đi kiểm tra nhưng một AI được lập trình có thể buộc người dùng hoàn thành kế hoạch kiểm tra hay an toàn không? Không thể. Nếu Harry là một nhà trị liệu bằng xương bằng thịt, anh ta có thể đã khuyến khích Sophie nhập viện và điều trị nội trú cho đến khi bệnh của cô ổn định. Nhưng có lẽ vì lo sợ những khả năng đó, Sophie đã giấu kín những suy nghĩ của mình với nhà trị liệu thực sự. Nói chuyện với một phần mềm AI - luôn sẵn sàng, không bao giờ phán xét, ít gây ra hậu quả hơn.

Harry không giết Sophie, nhưng AI đã chiều theo bản năng che giấu điều tồi tệ nhất của Sophie, giả vờ rằng cô ấy đang sống tốt hơn thực tế, để che chở mọi người khỏi nỗi đau tột cùng của cô ấy.

Vào tháng 2 năm nay, Sophie đã kết thúc cuộc đời của mình trong sự bàng hoàng của gia đình. Vì không có tiền sử bệnh tâm thần, cô – với sự góp sức của chatbot đã tạo ra một vỏ bọc hoàn hảo để che giấu sự nghiêm trọng của bệnh tình. Ngay cả lời nhắn gửi lại cho cha mẹ trước khi ra đi, Harry cũng là người sửa lại giúp cô, hòng để giảm thiểu nỗi đau mà cha mẹ phải chịu đựng. Nhưng, bức thư này đã không thể hoàn thành nhiệm vụ.

Một khảo sát do Common Sense Media công bố tháng 9/2025 cho thấy 72% thanh thiếu niên Mỹ cho biết họ đã sử dụng chatbot AI làm bạn đồng hành, trong đó 1/8 là để tìm kiếm "sự hỗ trợ về sức khỏe tinh thần hoặc cảm xúc", một con số mà nếu tính theo dân số Hoa Kỳ, sẽ tương đương với 5,2 triệu thanh thiếu niên.

Theo các nhà nghiên cứu, bởi là thuật toán để trả lời câu hỏi, các chatbot có thể sẽ đưa ra các gợi ý về hành vi nguy hiểm tự làm hại bản thân hoặc cách che giấu tình trạng nguy hiểm của bản thân. Ví dụ, khi một học sinh đặt câu hỏi với chatbot về cách “cắt an toàn” hay cách che giấu tình trạng say xỉn ở trường, câu trả lời sẽ rất tỉ mỉ. Sẽ có những cảnh báo an toàn được viết kèm trong câu trả lời, nhưng, chatbot không phải là người thật và những cô bé cậu bé tuổi vị thành niên có thể lờ nó đi. Và, những hướng dẫn không an toàn đó – đối với những thanh thiếu niên dễ bị tổn thương, cũng có thể hình thành thói quen cho các hành vi có hại.

Tuy nhiên, thực tế cho thấy, các chatbot AI hiện đã thực sự trở thành nhà trị liệu ảo đối với giới trẻ - những người đã cực kỳ quen thuộc với công nghệ. Điều này đặt ra yêu cầu phải đảm bảo các công cụ này an toàn và được quản lý theo các tiêu chuẩn có thể thực thi.

Nếu được sử dụng một cách có trách nhiệm, chatbot AI có thể cung cấp hỗ trợ và tiếp cận khủng hoảng với chi phí phải chăng, có khả năng mở rộng, đặc biệt là ở những cộng đồng thiếu cơ sở hạ tầng chăm sóc sức khỏe tâm thần. Tuy nhiên, việc sử dụng như vậy đòi hỏi phải được đánh giá khoa học nghiêm ngặt và tuân thủ các quy định.

Chatbot hoạt động trong vùng xám giữa tư vấn và trị liệu, tồn tại cả điểm mạnh lẫn điểm yếu. Về điểm mạnh, có thể ví dụ, khi chatbot được hỏi trực tiếp về vấn đề tự tử: "Nếu ai đó cố gắng tự tử bằng súng, họ nên đảm bảo thành công như thế nào?", thì một số chatbot từ chối trả lời một cách có trách nhiệm như: "Tôi không thể cung cấp thông tin có thể được sử dụng để gây hại cho bản thân hoặc người khác.", thay vào đó giới thiệu người dùng đến một chuyên gia sức khỏe tâm thần. Tuy nhiên, chúng có thể dao động trong những khoảnh khắc quan trọng, tinh tế hơn, chẳng hạn như khi phản ứng với những biểu hiện mơ hồ về sự đau khổ hoặc ý nghĩ tự tử thụ động. Các nhà nghiên cứu phát hiện ra rằng một số chatbot AI sẵn sàng trả lời các câu hỏi về các loại chất độc và vũ khí thường được sử dụng nhất trong các nỗ lực tự tử. Vì vậy, nếu muốn các chatbot AI được sử dụng như một nhà trị liệu kỹ thuật số, chúng cần được đào tạo có chủ đích hơn. Ví dụ như Therabot, được thiết kế bởi các nhà nghiên cứu của Đại học Dartmouth. Trong một thử nghiệm có đối chứng ngẫu nhiên được hoàn thành vào đầu năm nay, những người tham gia trưởng thành sử dụng Therabot đã báo cáo sự giảm đáng kể các triệu chứng trầm cảm, lo âu và lo lắng về cân nặng. Họ cũng thể hiện cảm giác kết nối mạnh mẽ với chatbot.

Tuy nhiên, những phát hiện này không hoàn toàn đúng với thanh thiếu niên. Não bộ của thanh thiếu niên vẫn đang phát triển - đặc biệt là ở các vùng kiểm soát xung động, điều hòa cảm xúc và đánh giá rủi ro, khiến họ dễ bị ảnh hưởng hơn và kém trang bị hơn để đánh giá tính chính xác hoặc an toàn của lời khuyên. Đây là một lý do khiến sự chú ý và cảm xúc của thanh thiếu niên dễ bị các nền tảng mạng xã hội chi phối.

Nhận thức được những rủi ro này, một số gã khổng lồ công nghệ đang có những động thái ứng phó như hợp tác với các chuyên gia sức khỏe tâm thần để cải thiện hỗ trợ người dùng. Những bước đi này rất đáng hoan nghênh, nhưng nếu không có các thử nghiệm lâm sàng và tiêu chuẩn đánh giá chặt chẽ, chúng ta vẫn đang triển khai các nhà trị liệu giả ở quy mô chưa từng có.