AI tiếp tay cho hành vi xâm hại trẻ em

UNICEF cảnh báo sự gia tăng các nội dung xâm hại trẻ em do AI và công nghệ deepfake tạo ra

Hình thức xâm hại mới

Nhân Ngày Internet An toàn (Safer Internet Day) 2026, chúng ta không chỉ tôn vinh những tiến bộ của công nghệ mà còn phải đối mặt với một thực trạng đen tối: Sự trỗi dậy của trí tuệ nhân tạo (AI) đang vô tình trở thành công cụ tiếp tay cho các hành vi xâm hại trẻ em. Đây không còn là lời cảnh báo xa vời mà là một cuộc khủng hoảng hiện hữu, đòi hỏi sự lên án mạnh mẽ và hành động quyết liệt từ toàn xã hội.

Trong công bố mới, Quỹ Nhi đồng Liên Hợp Quốc (UNICEF) bày tỏ sự quan ngại sâu sắc trước các báo cáo cho thấy số lượng hình ảnh có nội dung tình dục liên quan đến trẻ em được tạo ra bằng AI gia tăng nhanh chóng, trong đó có cả những trường hợp hình ảnh của trẻ em bị chỉnh sửa và tình dục hóa.

Công nghệ Deepfake cho phép AI tạo ra hình ảnh, video hoặc âm thanh giống như thật, đang ngày càng bị lạm dụng nhằm sản xuất các nội dung tình dục liên quan đến trẻ em. UNICEF cho biết, có tới 1,2 triệu trẻ em tại 11 quốc gia báo cáo rằng hình ảnh của các em đã bị biến đổi thành deepfake mang nội dung tình dục trong vòng một năm qua.

Tại một số khu vực, tỷ lệ này cao đến mức cứ 25 trẻ em thì có một em là nạn nhân. Các công cụ "lột đồ bằng AI" hay chỉnh sửa âm thanh, video để tình dục hóa trẻ em đang biến những bức ảnh đời thường thành tài liệu xâm hại tình dục trẻ em (CSAM).

UNICEF khẳng định lạm dụng công nghệ deepfake là hành vi xâm hại thực sự, gây ra những tổn hại nghiêm trọng và lâu dài đối với trẻ em. Khi hình ảnh hoặc danh tính của trẻ em bị sử dụng, các em trở thành nạn nhân trực tiếp của hành vi xâm hại.

Ngay cả khi hình ảnh được tạo ra bởi máy tính và không có một "nạn nhân cụ thể" bằng xương bằng thịt trong một số trường hợp, thì những tài liệu này vẫn góp phần bình thường hóa hành vi lệch lạc, kích thích nhu cầu tiêu thụ nội dung xâm hại và gây khó khăn cực lớn cho công tác thực thi pháp luật

Công tác quản lý trí tuệ nhân tạo còn nhiều lỗ hổng

Lễ kỷ niệm Ngày Internet An toàn hàng năm diễn ra vào ngày thứ Ba thứ hai của tháng 2, tức ngày 10/2/2026. Chủ đề của Ngày Internet An toàn mỗi năm sẽ phản ánh những lo ngại của người dùng Internet đương thời. 

Với môi trường số hiện nay, thực tế đáng lo ngại là các biện pháp bảo vệ trẻ em hiện nay vẫn chưa đồng bộ. Dù một số nhà phát triển AI đã áp dụng cách tiếp cận “an toàn ngay từ khâu thiết kế”, nhiều mô hình AI vẫn thiếu các rào chắn kỹ thuật đủ mạnh để ngăn chặn việc tạo ra nội dung độc hại.

Khi các công cụ này được tích hợp vào mạng xã hội, tốc độ lan truyền của chúng trở nên chóng mặt, vượt xa khả năng xử lý của các cơ chế báo cáo truyền thống. Điển hình là Grok, chatbot trí tuệ nhân tạo do xAI của tỷ phú Elon Musk phát triển và tích hợp vào nền tảng mạng xã hội X (trước đây là Twitter). xAI ra mắt tính năng tạo ảnh và video "chế độ gợi cảm" (Spicy Mode) với cơ chế quản lý lỏng lẻo. Từ đó, nhiều hình ảnh khiêu dâm, trong đó có liên quan đến trẻ vị thành niên đã được nền tảng này tạo ra và lan truyền chóng mặt. 

UNICEF kêu gọi các chính phủ, công ty công nghệ cần có chiến lược tổng thế để bảo vệ thế hệ tương lai trên môi trường số.

Về pháp lý, các chính phủ cần cấp bách mở rộng định nghĩa về CSAM để bao gồm cả nội dung do AI tạo ra, đồng thời hình sự hóa việc sở hữu, phát tán và tạo ra các tài liệu này.

Về công nghệ, các công ty công nghệ không thể chỉ chờ đợi báo cáo từ người dùng, mà cần đầu tư vào công nghệ phát hiện sớm và chủ động ngăn chặn sự lan truyền của nội dung xâm hại ngay từ khi chúng vừa xuất hiện.

Về giáo dục và gia đình, phụ huynh cần nâng cao nhận thức về việc bảo vệ hình ảnh con em mình. Việc chia sẻ ảnh cột mốc của trẻ lên mạng xã hội tiềm ẩn rủi ro bị kẻ xấu lợi dụng để tạo ra CSAM.

Cha mẹ không nên để trẻ nhỏ sử dụng Internet một mình. Thay vào đó, hãy biến thời gian lên mạng thành hoạt động chung của cả gia đình, như cùng chơi game, xem nội dung giải trí. Chọn các nền tảng phù hợp với độ tuổi của con, che các thiết bị webcam (camera) trên máy tính nếu không cần thiết.

Ở Việt Nam, hình ảnh của con trẻ thường xuyên được người lớn chia sẻ lên mạng xã hội một cách vô tư. Tuy nhiên, trước một không gian số đầy rẫy mối nguy, cần bình thường hóa việc xin phép trước khi đăng ảnh trẻ em lên mạng xã hội. Nếu thấy ảnh con mình bị người khác đăng lên, phụ huynh nên thẳng thắn nhưng lịch sự yêu cầu gỡ bỏ vì lý do bảo vệ quyền riêng tư.

Công nghệ AI không có lỗi, nhưng việc thiếu các rào cản đạo đức và pháp lý đang biến AI thành vũ khí trong tay những kẻ xâm hại. Nhân Ngày Internet An toàn, hãy nhớ rằng trẻ em không thể chờ đợi cho đến khi luật pháp được hoàn thiện. Bảo vệ trẻ em trước sự tấn công của AI không chỉ là trách nhiệm của riêng ai, mà là cam kết đạo đức của toàn nhân loại để đảm bảo một môi trường mạng an toàn và lành mạnh.

Tổ chức phi lợi nhuận Liên minh Giải cứu Trẻ em (Child Rescue Coalition) đã đưa ra những hướng dẫn cụ thể nhằm giúp phụ huynh và giáo viên chụp ảnh trẻ em tại trường học một cách an toàn, tránh các rủi ro bị kẻ xấu lợi dụng hoặc bị AI lạm dụng để tạo ra nội dung xâm hại:

- Tránh hiển thị thông tin nhận dạng: Khi chụp ảnh, cần đảm bảo rằng tên của trẻ, vị trí và các thông tin định danh khác không bị lộ diện trong bức hình.

- Lưu ý đến phông nền: Cần chú ý kỹ đến môi trường xung quanh khi chụp. Hãy đảm bảo các chi tiết như tên trường, địa điểm cụ thể hoặc địa chỉ nhà không xuất hiện ở phía sau trẻ.

- Lựa chọn góc chụp phù hợp: Thay vì chụp cận cảnh rõ mặt từng cá nhân trong các bức ảnh nhóm, hãy cố gắng tập trung vào sự tương tác và động lực chung của cả nhóm.

- Hạn chế việc chia sẻ công khai: Các giáo viên và nhà trường nên hạn chế số lượng ảnh đăng tải công khai và bắt buộc phải có sự đồng ý của phụ huynh trước khi chia sẻ bất kỳ hình ảnh nào.

 

Nhiều quốc gia như Indonesia, Malaysia đã tiến hành các thủ tục pháp lý để hạn chế quyền truy cập người dùng vào Grok. Cảnh sát Pháp đã khám xét trụ sở của X tại Paris do nền tảng này cùng chatbot Grok lan truyền nhiều thông tin sai lệch.

Tại cuộc họp báo thường kỳ do Bộ Khoa học và Công nghệ tổ chức ngày 29/1, ông Trần Văn Sơn, Phó viện trưởng Viện Công nghệ số và Chuyển đổi số quốc gia, cho biết việc tạo ra những nội dung khiêu dâm, nội dung gây mất an toàn xã hội, ngoài xử lý theo quy định của Luật Trí tuệ nhân tạo, thì các cá nhân, tổ chức liên quan sẽ bị truy tố trách nhiệm hình sự hoặc xử phạt hành chính, nếu gây thiệt hại phải chịu trách nhiệm bồi thường theo quy định của Luật Dân sự.

 

Dấu ấn trí tuệ nhân tạo trong y tế châu Âu năm 2025

Tương lai nào cho Báo chí trong thời đại Trí tuệ nhân tạo?

Rủi ro khi dùng ChatGPT tư vấn sức khỏe

Việt Nam - UNICEF: Nửa thế kỷ đồng hành vì trẻ em