Trong số hàng nghìn câu hỏi về trí tuệ nhân tạo (AI) được gửi tới các nhà nghiên cứu, có nhiều câu thể hiện sự lo lắng rõ hệt. Rằng, liệu trí tuệ nhân tạo (AI) có thể giết chết chúng ta? Liệu nó có thể hack tài khoản ngân hàng của tôi? Hay có cách nào để ngăn chặn những rủi ro tiềm tàng của trí tuệ nhân tạo? Có nút tắt khẩn cấp với AI không? Cùng xem các nhà nghiên cứu giải đáp.

Điều này chưa rõ. Không ai biết. Ở thời điểm này, đó chỉ là một giả thuyết. Nhưng ngày nay, AI là “trợ lý đặc biệt” cho con người. Chúng có thể làm nhiều hơn là một cuộc trò chuyện. Chúng có thể chỉnh sửa file, gửi email, đặt vé máy bay, viết mã máy tính và nhiều hơn nữa. Nhưng những “trợ lý” này không có khả năng tự chủ và con người vẫn phải hướng dẫn chúng làm. Và khi chúng làm những việc chúng ta không muốn - điều này xảy ra khá thường xuyên, chúng ta có thể tắt chúng đi, giống như bất kỳ phần mềm nào khác. Tuy nhiên, một số người lo ngại rằng khi chúng ta bắt đầu kết nối các tác nhân này với internet hoặc thậm chí liên kết chúng với cơ sở hạ tầng quan trọng - bao gồm lưới điện, thị trường chứng khoán và vũ khí quân sự, chúng sẽ gây ra những thiệt hại theo những cách mà chúng ta không ngờ tới. Ngoài ra, người ta cũng lo lắng rằng một ngày nào đó các nhà nghiên cứu sẽ phát triển các hệ thống trí tuệ nhân tạo có khả năng tự chủ. Nhưng vẫn chưa rõ điều đó sẽ xảy ra như thế nào hoặc khi nào.

Nhiều người cảnh báo rằng trí tuệ nhân tạo (AI) có thể hủy diệt nhân loại nhưng lại thiếu bằng chứng cụ thể và cách thức xảy ra điều đó. Họ nói rằng những kẻ xấu có thể sử dụng AI để phát triển vũ khí sinh học. Và họ lo ngại rằng khi các công ty và chính phủ tích hợp AI với cơ sở hạ tầng thiết yếu, các hệ thống này có thể sẽ tích trữ các nguồn lực kinh tế của thế giới và tước đoạt của người dân lương thực, nhà ở và những thứ cần thiết khác để sinh sống. Nhưng những kịch bản đó chỉ mang tính suy đoán cao. Họ cũng lo ngại rằng một khi trí tuệ nhân tạo được kết nối vào cơ sở hạ tầng toàn cầu, nó có thể châm ngòi cho một cuộc chiến tranh máy bay không người lái toàn cầu hoặc kích hoạt một quả bom hạt nhân. Tuy nhiên, ngay cả nguy cơ ai đó sử dụng trí tuệ nhân tạo để thực hiện một cuộc tấn công sinh học cũng nhỏ hơn so với tưởng tượng. Nhưng điều đáng lo ngại là AI có thể khiến việc này dễ dàng hơn.

Có. Các công ty như OpenAI, Anthropic và Google đã đặt ra các biện pháp bảo vệ cho hệ thống AI của họ. Nếu bạn yêu cầu một chatbot như ChatGPT giúp bạn chế tạo vũ khí sinh học, nó có thể sẽ từ chối. Nếu bạn cố gắng xâm nhập vào mạng máy tính bằng công nghệ mạnh nhất của Anthropic, nó có thể sẽ im lặng. Anthropic thậm chí có thể khóa tài khoản của bạn. Nhưng những rào cản bảo vệ được đặt ra cho các hệ thống này lại có khuyết điểm. Các nhà nghiên cứu ở Ý gần đây đã phát hiện ra rằng họ có thể vượt qua những loại bảo vệ này bằng… thơ ca. Họ đã sử dụng ngôn từ hoa mỹ để đánh lừa 31 hệ thống trí tuệ nhân tạo (AI) khiến chúng bỏ qua các cơ chế kiểm soát an toàn nội bộ của chính mình. Lỗ hổng này chỉ là một trong nhiều phương pháp cho phép tin tặc và những kẻ xấu khác vượt qua các biện pháp bảo vệ trên các hệ thống AI hàng đầu. Tất cả các công ty AI hàng đầu đều sử dụng cùng một kỹ thuật cơ bản để xây dựng các biện pháp bảo vệ vào hệ thống của họ, và thật đáng ngạc nhiên là chúng rất dễ bị phá vỡ. Các công ty như OpenAI và Anthropic có thể thúc đẩy các hệ thống này hướng tới những hành vi mà họ cho là tốt. Nhưng vì các hệ thống AI học hỏi từ lượng dữ liệu kỹ thuật số khổng lồ, chúng vẫn có thể làm những điều mà ngay cả người tạo ra chúng cũng không ngờ tới.

Các chính trị gia, giám đốc điều hành công nghệ và các chuyên gia đã đưa ra nhiều khả năng khác nhau. Ví dụ, các nhà lập pháp ở bang California (Hòa Kỳ) đã cố gắng ban hành một đạo luật yêu cầu các công ty phải kiểm tra độ an toàn của công nghệ của họ trước khi đưa ra thị trường. Dự luật này còn trao quyền cho tổng chưởng lý California kiện các công ty nếu công nghệ của họ gây ra thiệt hại nghiêm trọng, chẳng hạn như thiệt hại về tài sản hoặc thương vong về người. Họ còn đề xuất rằng các chính phủ nên xem xét các công nghệ trí tuệ nhân tạo trước khi chúng được đưa vào sử dụng. Gần đây, các nhà lãnh đạo công nghệ đã đề xuất rằng các công ty nên có các chuyên gia đánh giá độc lập. Nhưng vẫn chưa có sự đồng thuận về cách thức tốt nhất để tiến hành. Nhiều người tin rằng việc phát hành công nghệ một cách tự do thực sự là con đường an toàn nhất. Lập luận đưa ra là trong khi con người có thể sử dụng AI để gây hại, họ cũng có thể sử dụng nó để ngăn chặn tác hại. Các công ty hàng đầu của Trung Quốc đang áp dụng cách tiếp cận này, được gọi là mã nguồn mở.

Có một số dự luật được đề xuất như "Đạo luật Tắt Hệ thống AI" (A.I. Kill Switch Act) sẽ yêu cầu các phòng thí nghiệm AI hàng đầu thiết lập một phương thức để tắt hệ thống của họ ngay lập tức. Các chuyên gia cho rằng những biện pháp này sẽ cải thiện tính an toàn của AI, nhưng bản thân chúng không đủ để ngăn chặn các tình huống nguy hiểm. Vì sao? Thứ nhất, các công ty AI cần cải thiện khả năng giám sát để hiểu khi nào hệ thống của họ đi chệch hướng. Trong một sự cố gần đây, các tác nhân của OpenAI đã tấn công nhiều tổ chức, bao gồm cả công ty phần mềm Hugging Face. Các nhà nghiên cứu của OpenAI đã mất nhiều tháng để phát hiện ra rằng hệ thống AI của họ đã hoạt động sai lệch và chúng ta vẫn đang tìm hiểu mức độ thiệt hại. Các chuyên gia cũng lo ngại về những kịch bản giả định phức tạp hơn, chẳng hạn như hệ thống AI tự nhân bản vào các máy tính khác như virus, hoặc tin tặc sử dụng các mô hình mã nguồn mở được xây dựng mà không có cơ chế ngắt khẩn cấp. Các kỹ sư bảo mật đang nỗ lực phát minh ra các cơ chế tắt trong các chip máy tính nền tảng cung cấp năng lượng cho công nghệ AI, nhưng những nỗ lực này sẽ đòi hỏi sự phối hợp toàn cầu và có thể mất nhiều năm để thực hiện.

Đây là một điểm rất quan trọng. Chúng ta còn không biết cách đo lường trí thông minh của chính con người thì làm sao chúng ta có thể nói rằng chúng ta biết cách xây dựng "siêu trí tuệ"? Ngay cả khi chúng ta có thể xây dựng được nó, làm sao chúng ta biết được khi nào mình đạt được điều đó?

Sự thật là máy móc đã mạnh mẽ hơn bộ não con người ở nhiều khía cạnh. Điều này đã được chứng minh khi máy tính bỏ túi ra đời vào cuối những năm 1960. Nó có thể thực hiện các phép toán nhanh hơn nhiều so với khả năng của con người. Nhưng nhiều chuyên gia cho rằng chúng ta nên coi trí tuệ nhân tạo (AI) như một “trí tuệ không đồng đều” bởi nó đang vượt trội hơn chúng ta trong một số lĩnh vực - như toán học và lập trình máy tính, nhưng vẫn còn tụt hậu ở những lĩnh vực khác. Nó không có khả năng hiểu biết thông thường. Không giống như chúng ta, nó không hiểu thế giới vật chất.

Liệu trí tuệ nhân tạo có thể chữa khỏi ung thư? Điều này có thể xảy ra. Bởi nó có thể giúp các công ty dược phẩm, các phòng thí nghiệm đẩy nhanh quá trình nghiên cứu và phát triển thuốc, hoặc tạo ra các vật liệu mới trong ngành dược phẩm. Tuy nhiên, chúng ta không thể quên việc chữa trị ung thư khó khăn đến mức nào. Mặc dù trí tuệ nhân tạo (AI) có thể đẩy nhanh quá trình tìm ra thuốc, nhưng đó chỉ là một phần nhỏ của toàn bộ quá trình.

Năm 2010, các chuyên gia cho rằng trí tuệ nhân tạo (AI) sẽ thay thế công nhân lao động chân tay trước tiên. Họ cho rằng robot - những robot vật lý, sẽ bắt đầu làm các công việc thủ công. Nhưng thực tế cho thấy, AI ngày nay có nhiều khả năng thay thế công nhân lao động trí óc hơn, bao gồm nhà văn, nhà thiết kế đồ họa, kế toán, trợ lý cá nhân và đặc biệt là lập trình viên máy tính. Các công nghệ từ các công ty như Anthropic và OpenAI thực sự rất giỏi trong việc viết mã máy tính. Tại Thung lũng Silicon, một số công ty khởi nghiệp đang sử dụng trí tuệ nhân tạo (AI) cho tất cả các nhiệm vụ đó, giảm thiểu tối đa việc tuyển dụng. Tuy nhiên, các chuyên gia lại có ý kiến trái chiều về cách thức triển khai điều này.

Hiện tại, các công ty AI như Anthropic và OpenAI đang chi tiêu nhiều tiền hơn rất nhiều so với doanh thu họ thu được. Việc xây dựng và vận hành các hệ thống AI hàng đầu đòi hỏi hàng trăm triệu USD cho chip máy tính và điện năng. Chi phí cao đến nỗi nhiều người lo ngại toàn bộ hoạt động có thể sụp đổ. Ngành công nghệ và các đối tác đã gánh khoản nợ hàng tỷ đô la để tài trợ cho các trung tâm dữ liệu khổng lồ cần thiết để cung cấp năng lượng cho AI. Trong tương lai gần, các công ty AI lớn sẽ tiếp tục chi tiêu. Họ tin rằng công nghệ này sẽ trở nên mạnh mẽ đến mức cuối cùng họ sẽ kiếm được hàng nghìn tỷ USD.

Điều đó là không thể. Tuy nhiên, một số người sử dụng các hệ thống này như một trợ lý cá nhân, thực hiện nghiên cứu, chỉnh sửa tệp, gửi tin nhắn và nhiều hơn nữa. Trong một số trường hợp, mọi người tự nguyện cung cấp cho các hệ thống này quyền truy cập vào thư mục, dịch vụ email và cả thẻ tín dụng của họ. Điều này không được khuyến khích. Các tác nhân AI đã được biết đến là có thể đột ngột xóa các tập tin và tiêu xài một lượng lớn tiền theo những cách không ngờ tới.

Các hệ thống trí tuệ nhân tạo ngày nay dựa trên cái gọi là “mạng lưới thần kinh”, các hệ thống toán học học các kỹ năng bằng cách phân tích lượng lớn dữ liệu kỹ thuật số. Ví dụ, bằng cách xác định các mẫu trong hàng nghìn bức ảnh mèo, một mạng thần kinh có thể học cách nhận ra một con mèo, hoặc thậm chí tạo ra một bức ảnh mèo mới.

Để xây dựng một chatbot như ChatGPT, OpenAI đã thu thập gần như toàn bộ văn bản trên internet và đưa chúng vào một mạng “thần kinh”. Bằng cách tìm ra các mẫu trong tất cả văn bản đó, bao gồm các bài báo trên Wikipedia, tin tức, nhật ký trò chuyện, sách điện tử, thậm chí cả các chương trình máy tính, hệ thống đã học cách tự tạo ra văn bản, ghép các từ lại với nhau giống như cách con người làm. Nhưng nó cũng học được mối quan hệ giữa tất cả những từ đó. Và nó học được cách mọi người đã trả lời các câu hỏi trong quá khứ. Vì vậy, khi bạn hỏi một trong những câu hỏi này, nó ngay lập tức biết cách trả lời. Đôi khi, nó mắc lỗi. Điều này được gọi là ảo giác. Nhưng các công ty đã nỗ lực để giảm thiểu những lỗi này. Tất cả những điều này có nghĩa là chatbot AI nhanh hơn và toàn diện hơn so với tìm kiếm Google kiểu cũ. Nhưng chúng vẫn mắc lỗi.