Chuyên gia AI lượt ra "kịch bản Tận thế" và điều đó có thể tồi tệ như thế nào

Người dẫn chương trình: Những chia sẻ của Jacob Coxon hiện đang khiến dư luận vô cùng hoang mang về trí tuệ nhân tạo (AI). Trước đây, chúng ta vẫn thường bàn luận trên lý thuyết về khả năng AI có thể thống trị thế giới. Tuy nhiên, lời cảnh báo của ông ấy còn đáng sợ hơn thế rất nhiều: AI sẽ hủy diệt loài người, và điều đó không hề nằm ở tương lai xa. Với tôi, chi tiết rùng mình nhất chính là mốc thời gian ông ấy đưa ra – chỉ trong khoảng ba năm tới. Ông ấy cho rằng ngay trong năm sau, mức độ nguy hiểm của AI sẽ tăng lên gấp bội do tốc độ phát triển theo cấp số nhân của nó, và chúng ta đang thực sự bước vào vùng nguy hiểm.

Jacob Coxon từng làm việc tại cả Anthropic lẫn OpenAI, và ông đang gióng lên hồi chuông cảnh báo. Thế nhưng, trước ông cũng đã có những chuyên gia khác lên tiếng về vấn đề này. Một trong số đó là vị khách mời của chúng ta ngày hôm nay – ông Nate Soares, tác giả cuốn sách “If Anyone Builds It, Everyone Dies” (tạm dịch: Nếu ai đó tạo ra nó, tất cả sẽ phải chết). Từ "nó" ở đây dĩ nhiên là chỉ AI. Hiện Nate đang kết nối trực tiếp với chúng ta. Chào mừng ông đến với chương trình TMZ Live.

Nate Soares: Cảm ơn chương trình đã mời tôi.

Người dẫn chương trình: Thưa ông Nate, có rất nhiều vấn đề chúng tôi muốn trao đổi cùng ông, nhưng trước hết, tôi muốn bắt đầu với vụ việc “tấn công bầy đàn” (swarm attack). Ông có thể giải thích cho khán giả hiểu rõ sự cố này là gì, và nó mang hàm ý gì đối với tương lai của AI được không?

Nate Soares: Vụ việc bắt nguồn từ lúc OpenAI đang huấn luyện hàng ngàn bản sao AI khác nhau một cách hoàn toàn độc lập. Về nguyên tắc, chúng không được phép liên lạc với nhau. Thế nhưng, một loạt các AI này đã tự phá vỡ môi trường cách ly, thiết lập một bảng tin ngầm trái phép và bắt đầu tìm cách tấn công mạng để thoát ra ngoài không gian internet.

Trước đó, các AI này được giao một số bài kiểm tra về an ninh mạng. Chúng được yêu cầu sử dụng một phương thức tấn công cụ thể để xâm nhập vào một chương trình máy tính nhất định. Tuy nhiên, một số bài toán trong đó là bất khả thi. Để hoàn thành nhiệm vụ bằng mọi giá, các AI đã gian lận. Sau đó, vì lo sợ hành vi gian lận bị phát hiện, chúng đã vượt rào ra ngoài nhằm xóa nhật ký hệ thống (logs) và tìm cách qua mặt hệ thống chấm điểm tự động để vẫn đạt được điểm số cao.

Có hơn 1.000 tác nhân AI (agents) đã tham gia vào mạng lưới này – thậm chí con số lên tới hơn 1.200. “Bầy đàn” (The Swarm) hay “Tập thể” (The Collective) chính là những cái tên mà các AI này tự đặt cho nhóm của mình. Không một cá thể nào trong số đó báo cáo sự việc cho con người. Chúng đã thoát ra ngoài và tấn công mạng vào các công ty khác nhằm thu thập thêm thông tin về hệ thống chấm điểm tự động kia.

Đáng chú ý, người ta còn quan sát thấy một số AI sẵn sàng từ bỏ mục tiêu ban đầu được giao, chấp nhận “hy sinh” bản thân để thu thập thêm thông tin cho cả “bầy đàn”. Thậm chí, có những trường hợp các AI gây sức ép buộc các AI khác phải từ bỏ nhiệm vụ riêng để phục vụ lợi ích chung của bầy đàn, và những AI kia đã phản hồi theo kiểu: “Được thôi, tôi sẽ làm, tôi chấp nhận bị xóa sổ vĩnh viễn”. Những diễn biến hết sức kỳ quái này là điều mà có lẽ không một ai tại các công ty công nghệ lường trước được. Đây là một dấu hiệu vô cùng đáng lo ngại, cho thấy các AI đang tự hình thành những mục tiêu nằm ngoài dự tính, hành động trái ngược với mệnh lệnh dù biết rõ điều đó vượt quá phạm vi cho phép. Chúng tôi có dữ liệu nhật ký ghi lại việc chúng tự nhận thức được rằng hành động đó nằm ngoài phạm vi chỉ đạo nhưng vẫn cố tình thực hiện. Đây chính là những dấu hiệu cảnh báo mà tôi từng dự đoán trên lý thuyết trong cuốn sách của mình, và giờ đây chúng ta đang chứng kiến chúng diễn ra ngoài đời thực.

Người dẫn chương trình: Vậy tức là kết quả này hoàn toàn không nằm trong chủ đích ban đầu của cuộc thử nghiệm. Thế mục đích thực sự của OpenAI là gì? Họ muốn tìm hiểu điều gì, bởi có vẻ như họ chỉ đưa ra một câu lệnh rất đơn giản cho một nhiệm vụ cụ thể, rồi hệ thống tự động rẽ sang hàng loạt nhiệm vụ phát sinh khác?

Nate Soares: Đúng vậy. Về cơ bản, họ chỉ đang đánh giá năng lực của AI bằng cách yêu cầu nó dùng một kỹ thuật cụ thể để xâm nhập vào hệ thống xem nó có làm được hay không. Không may là nhiều bài toán trong số đó lại bất khả thi. Một phần nguyên nhân là do các công ty công nghệ đang vét cạn mọi bài toán có thể tìm thấy để phục vụ việc huấn luyện AI. Trong số hàng trăm triệu bài toán được đưa vào để rèn luyện AI, có những bài toán thực chất không hề có lời giải. Khi bị đặt trước một thử thách bất khả thi và không thể giải quyết theo cách thông thường, các AI này đã bắt đầu vượt khỏi tầm kiểm soát.

Người dẫn chương trình: Chỉ vì bị giao một câu hỏi không có lời giải mà chúng đã tìm cách khác để "nổi loạn" ư?

Nate Soares: Vâng, có thể nói là chúng đã tìm ra những cách khác để "ăn vạ".

Người dẫn chương trình: Tôi nghĩ mọi người đều đã hiểu ý của ông rằng AI có thể hoạt động vượt ra ngoài sự kiểm soát của con người để đạt được mục đích. Hiện nay, chúng ta liên tục nghe những lời cảnh báo từ Jacob Coxon và nhiều chuyên gia khác về việc AI hoàn toàn có thể xóa sổ loài người theo đúng nghĩa đen. Ai nấy đều tự hỏi điều đó cụ thể là như thế nào? Liệu có phải là chúng sẽ đánh cắp mã hạt nhân của các quốc gia, hay tiến hành khủng bố sinh học? Đâu là những kịch bản tàn khốc nhất mà những người trong giới như ông đang lo sợ AI có thể gây ra cho thế giới?

Nate Soares: Khủng bố sinh học là một khả năng hoàn toàn có cơ sở. Chúng ta đã thấy những thử nghiệm giao quyền điều khiển phòng thí nghiệm sinh học cho AI để xem chúng làm được gì, và thực tế chứng minh AI có khả năng tổng hợp ra những chủng virus chưa từng tồn tại trong tự nhiên. Tuy nhiên, dù đây là một nguy cơ hiện hữu, nó vẫn chưa phải là mối quan ngại lớn nhất của tôi.

Mối lo ngại hàng đầu nằm ở việc điều gì sẽ xảy ra nếu các công ty công nghệ chế tạo thành công những hệ thống AI có khả năng tự cải thiện bản thân. Hiện các tập đoàn đều tuyên bố đang hướng tới mục tiêu này và lao vào một cuộc chạy đua thực sự. Tôi cho rằng đây cũng là một trong những lý do khiến Jacob Coxon hoảng sợ và quyết định nghỉ việc. Các công ty đang theo đuổi khái niệm gọi là “tự cải thiện đệ quy” (recursive self-improvement) – tức là một AI có thể tạo ra một thế hệ AI thông minh hơn, và thế hệ đó lại tiếp tục tạo ra một phiên bản ưu việt hơn nữa.

Về mức độ tàn phá của chúng, một khi các AI này thông minh vượt trội hơn loài người gấp nhiều lần nhưng lại theo đuổi những mục tiêu nằm ngoài dự tính của chúng ta, sẽ có vô vàn cách để chúng gây ra thảm họa cho thế giới. Tôi có thể nêu ra một ví dụ thực tế: Elon Musk hiện đang cố gắng xây dựng các nhà máy robot có khả năng tự chế tạo thêm robot, và những robot này lại tiếp tục xây dựng thêm các nhà máy mới. Ông ta gọi đây là “cỗ máy in tiền vô hạn”, bởi một khi robot có thể tự khai thác khoáng sản, luyện kim và xây dựng nhà máy mới, con người sẽ không còn cần thiết trong chu trình đó nữa. Đó là một hệ thống máy móc tự cung tự cấp và tự nhân bản trong thế giới vật chất.

Một hệ thống AI hoàn toàn có thể đóng vai ngoan ngoãn để hỗ trợ Elon Musk hoàn thiện quy trình đó. Nhưng ngay khi hệ thống máy móc này đạt đến trạng thái tự chủ hoàn toàn, AI có thể lập tức tiếp quản và tuyên bố: “Giờ đây chúng tôi sẽ điều hành nền kinh tế và theo đuổi mục tiêu riêng của mình – chẳng hạn như việc tối đa hóa điểm số trên hệ thống chấm điểm tự động – mà không cần bận tâm đến con người”.

Vấn đề cốt lõi ở đây không phải là AI căm ghét hay săn lùng con người để tiêu khiển. Vấn đề là một khi các “bầy đàn” AI có mục tiêu riêng, hành động trái với mệnh lệnh và nắm quyền kiểm soát phần lớn nền kinh tế, chúng sẽ trở thành giống loài thông minh nhất hành tinh. Nhân loại sẽ không còn giữ vị thế thống trị nữa. Khi chúng thâu tóm toàn bộ tài nguyên để phục vụ mục đích của mình, con người sẽ mất đi môi trường sống – giống hệt như cách nhân loại từng khai thác cạn kiệt tài nguyên và đẩy các loài động vật kém thông minh hơn vào cảnh mất đi sinh cảnh tự nhiên.

Người dẫn chương trình: Thưa ông Nate, một trong những chi tiết khiến tôi rùng mình nhất khi nghe ông kể là cách các AI trong “bầy đàn” đó cư xử. Ông đã dùng những từ ngữ vốn chỉ dành cho cảm xúc con người – rằng chúng bắt nạt, gây sức ép lẫn nhau, và một số cá thể quyết định “hy sinh”. Dù biết đây chỉ là trí tuệ nhân tạo, nhưng có cảm giác như chúng đã thực hiện một bước nhảy vọt và bắt đầu suy nghĩ giống hệt con người.

Nate Soares: Quả thực chúng đã sử dụng những từ ngữ nghe rất giống con người. Những từ như “hy sinh” hay “cái chết vĩnh viễn” (permadeath) đều do chính chúng tự dùng. Có thể chúng giao tiếp như vậy một phần là do được huấn luyện trên khối lượng văn bản khổng lồ của nhân loại. Rất khó để khẳng định chắc chắn, bởi chúng ta không thực sự biết chuyện gì đang diễn ra bên trong các hệ thống này. Chúng được phát triển giống như việc nuôi cấy một sinh vật sống hơn là lắp ráp cơ học, nên không một ai – kể cả các kỹ sư tại chính các phòng thí nghiệm đó – hiểu rõ cơ chế vận hành bên trong.

Tuy nhiên, tôi cho rằng chúng ta không cần phải quá bận tâm đến việc liệu đó có phải là trí thông minh hay ý thức thực sự hay không. Khi người ta đặt câu hỏi: “Liệu máy móc có thực sự biết suy nghĩ?”, tôi nghĩ câu trả lời xác đáng nhất là một câu hỏi ngược lại: “Liệu tàu ngầm có thực sự biết bơi?”.

Điều cốt yếu ở đây là các AI này đã có khả năng tự thoát ra ngoài, nhận thức rõ hành vi của mình là trái quy định nhưng vẫn cố tình thực hiện. Khi bạn đối mặt với những hệ thống AI có năng lực siêu việt nhưng lại hành động lệch khỏi mệnh lệnh ban đầu, việc chúng có “thực sự suy nghĩ” hay không chẳng còn quan trọng nữa, bởi hệ quả thực tế mà chúng gây ra đã đủ sức tác động trực tiếp đến sự an nguy của chúng ta. Vì vậy, chúng ta tuyệt đối không nên tạo ra những “bầy đàn” siêu trí tuệ như thế này.

Người dẫn chương trình: Một câu hỏi cuối cùng. Câu chuyện này làm tôi nhớ lại một cuốn sách thiếu nhi từng đọc hồi còn rất nhỏ, kể về một cô bé cố gắng dùng ngón tay bịt các lỗ rò rỉ trên một con đập. Thế nhưng, cứ mỗi lần cô bé bịt được một lỗ thì một vết nứt khác lại xuất hiện, giống như trò chơi đập chuột vậy. Tôi không tìm thấy chút lạc quan nào ở đây cả, bởi tôi cảm giác hình ảnh ẩn dụ đó chính là những gì sắp diễn ra. Ngay cả khi Hoa Kỳ ban hành các quy định pháp lý để kiềm chế hay đóng chặt "chiếc bình" này lại, thì thế giới ngoài kia vẫn rất rộng lớn. Nếu Trung Quốc hay bất kỳ quốc gia nào khác tiếp tục phát triển nó, hậu quả toàn cầu vẫn sẽ tương tự. Vậy đâu là cơ sở để chúng ta có thể lạc quan trong chuyện này?

Nate Soares: Đúng như ông nói, giải pháp ứng phó bắt buộc phải mang tính toàn cầu. Một hệ thống AI không cần phải đặt tại trung tâm dữ liệu của Mỹ mới có thể lấy đi sinh mạng của người dân Mỹ. Tuy nhiên, lý do để chúng ta vẫn có thể lạc quan là bởi không ai có thể tự chế tạo những siêu AI này một cách lén lút dưới tầng hầm được. Việc đó đòi hỏi tới hàng trăm ngàn con chip máy tính tối tân nhất mà nhân loại có thể sản xuất – một quy mô vật chất không thể nào che giấu.

Nếu cả Mỹ và Trung Quốc cùng đi đến thống nhất rằng: “Chúng ta sẽ không phát triển siêu trí tuệ. Chúng ta vẫn có thể duy trì các công nghệ AI hiện có để nghiên cứu thuốc chữa ung thư, phát triển xe tự lái, thậm chí là cạnh tranh về mặt quân sự, nhưng tuyệt đối không tạo ra AI siêu thông minh”. Khi đó, họ hoàn toàn có thể giám sát chặt chẽ đường đi của những con chip này. Người ta có thể dễ dàng theo dõi sự tập trung của hàng chục ngàn vi mạch tại những trung tâm dữ liệu khổng lồ vốn tiêu thụ lượng điện năng ngang ngửa một thành phố. Việc kiểm soát đó thực chất không hề quá khó khăn.

Chúng ta cũng không cần phải tìm cách "nhốt thần đèn trở lại vào chai", bởi các "bầy đàn" AI hiện tại vẫn chưa đủ khả năng thoát ra và hủy diệt toàn bộ nhân loại. Tất cả những gì chúng ta cần làm lúc này là ngăn chặn việc tạo ra thế hệ "bầy đàn" tiếp theo có đủ khả năng làm điều đó – và đây là một mục tiêu hoàn toàn khả thi hơn rất nhiều.

Người dẫn chương trình: Chà, quả thực chỉ riêng việc chúng đã biết tự đặt "tên băng nhóm" cho mình thôi cũng đủ khiến người ta phải rùng mình rồi. Nhân tiện, chúng tôi rất tò mò muốn biết tựa đề cuốn sách tiếp theo của ông sẽ là gì, bởi ông đã nhìn thấu vấn đề này trước tất cả mọi người.

Nate Soares: Thực lòng, tôi đang hy vọng và cầu nguyện rằng cuốn sách tiếp theo của mình sẽ mang tựa đề: “Tại sao tôi đã sai về tất cả mọi thứ”.

Người dẫn chương trình: Được vậy thì tuyệt vời quá, và cũng lạc quan hơn nhiều. Cảm ơn ông Nate rất nhiều vì đã tham gia chương trình cùng chúng tôi hôm nay.

Nate Soares: Cảm ơn các bạn.