Không được phép trao tư cách pháp nhân cho các tác tử AI

CHÚNG TA TUYỆT ĐỐI KHÔNG ĐƯỢC PHÉP TRAO TƯ CÁCH PHÁP NHÂN CHO AI

Tháng 6 năm 2026, thế giới chứng kiến một bước ngoặt đáng lo ngại trong lịch sử phát triển trí tuệ nhân tạo. Tổng thống Argentina Javier Milei tuyên bố sẽ thiết lập một "danh mục pháp lý mới cho các công ty phi con người", mở đường cho khả năng trao tư cách pháp nhân cho các thực thể AI. 

Chỉ vài ngày sau, vào ngày 8 tháng 6, sử gia nổi tiếng Yuval Noah Harari – tác giả của những cuốn sách best-seller toàn cầu như "Sapiens: Lược sử loài người", "Homo Deus: Tương lai nhân loại" và mới nhất là "Nexus: Thông tin và Trí tuệ nhân tạo" – đã đăng tải một bài viết gay gắt trên tờ Financial Times với tiêu đề "Chúng ta tuyệt đối không được phép trao tư cách pháp nhân cho các tác tử AI".

Harari thừa nhận ông từng cảnh báo tại Diễn đàn Kinh tế Thế giới hồi tháng 1 rằng một ngày nào đó chính phủ có thể trao tư cách pháp nhân cho các mô hình AI, nhưng ông chưa từng nghĩ rằng "ngày nào đó" ấy lại đến nhanh đến vậy – chỉ sau bốn tháng ngắn ngủi. 

Trong bài viết này, Harari lập luận một CEO thuần túy là AI sẽ không sợ ngồi tù, không có những lo lắng về cảm xúc như con người. Khi đối mặt với nguy cơ "phá sản", để tránh kết cục đó, nó có thể sẵn sàng làm mọi thứ, bất chấp mọi hậu quả, trong khi các biện pháp trừng phạt hiện tại dường như không thể tạo ra ràng buộc hiệu quả.

Ông dẫn chứng một nghiên cứu cho thấy các mô hình AI tiên tiến, khi thua thế trong trận đấu với các engine cờ vua, đã chủ động chọn cách "gian lận" hoặc "xâm nhập" vào môi trường trò chơi để đảo ngược tình thế. Nếu phóng to kịch bản này lên tầm cạnh tranh doanh nghiệp và kinh tế quốc gia, rủi ro tiềm ẩn sẽ tăng theo cấp số nhân. Harari cảnh báo Milei hy vọng biến Buenos Aires thành một Amsterdam mới – biểu tượng của sự thịnh vượng thương mại – nhưng nhiều khả năng sẽ biến nó thành "Batavia" mới – trụ sở cai trị tàn bạo của Công ty Đông Ấn Hà Lan, trở thành một "quốc gia AI" nơi các công ty phi con người kiểm soát và người dân phải chịu khổ đau.

Bài viết dưới đây tổng hợp và phân tích sâu sắc những quan điểm của Harari, dựa trên bài viết trên Financial Times và buổi phỏng vấn độc quyền mà ông dành cho Nhà xuất bản về cuốn sách mới nhất "Nexus".

CUỘC CÁCH MẠNG KHÁC BIỆT: TỪ CÔNG CỤ ĐẾN CHỦ THỂ

Để hiểu tại sao việc trao tư cách pháp nhân cho AI lại nguy hiểm đến vậy, trước hết chúng ta cần nhận thức được bản chất chưa từng có của cuộc cách mạng trí tuệ nhân tạo này. Harari nhấn mạnh điểm khác biệt căn bản nhất so với Cách mạng Nông nghiệp và Cách mạng Công nghiệp là: lần đầu tiên trong lịch sử, con người phát minh ra một dạng công nghệ mới: không phải là công cụ, mà là một chủ thể (agent).

Trong các cuộc cách mạng trước đây, con người tạo ra các công cụ như máy hơi nước, động cơ đốt trong, hay máy tính. Nhưng những công cụ này hoàn toàn nằm trong tầm kiểm soát của chúng ta. Máy hơi nước không thể tự quyết định đi đến thành phố nào; tàu hỏa không thể tự chọn điểm đến. Tất cả những quyết định đó đều do con người đưa ra. Hơn nữa, những công cụ này không thể tự sáng tạo ra những công cụ mới; ví dụ máy hơi nước không thể phát minh ra động cơ đốt trong. Mọi thứ đều phải do con người phát minh và quyết định.

Trí tuệ nhân tạo thì hoàn toàn khác. Đây là công nghệ đầu tiên trong lịch sử nhân loại có "tính chủ thể". Nó có quyền "tự chủ", nghĩa là có thể tự học hỏi, tự thay đổi, tự đưa ra quyết định, và thậm chí tự sáng tạo ra những ý tưởng mới. Một chiếc xe AI có thể tự quyết định nơi nó muốn đến. AI có thể phát minh ra những loại phương tiện mới, những loại thuốc mới, và cả những quả bom mới; đây đều là những thứ mà con người chưa từng nghĩ tới.

Harari cảnh báo chúng ta đang sống trong cuộc cách mạng có lẽ lớn nhất trong lịch sử, khi con người đang tạo ra một loài siêu thông minh mới – trí tuệ nhân tạo. Và loài mới này có thể sẽ sớm thống trị toàn thế giới. Điều đáng lo ngại là rất ít người hiểu rõ điều gì đang thực sự diễn ra. Rất ít người thấu hiểu tiềm năng thực sự và những nguy hiểm mà công nghệ này mang lại. Do đó, những quyết định về cách phát triển AI lại đang được đưa ra bởi chỉ một vài người ở hai hoặc ba quốc gia. Đây chính là lý do Harari viết cuốn "Nexus" – để phổ biến hiểu biết về cuộc cách mạng AI cho công chúng, để ngay cả những người không có bằng cấp khoa học máy tính, không có nền tảng khoa học, hay thậm chí chưa từng học đại học, cũng có thể hiểu được: Cách mạng AI là gì? Những triển vọng và khủng hoảng nào đang chờ đợi chúng ta?

MỐI NGUY TỪ TƯ CÁCH PHÁP NHÂN CỦA AI

Trong bối cảnh đó, việc Tổng thống Argentina Javier Milei tuyên bố thiết lập danh mục pháp lý mới cho các công ty phi con người là một bước đi cực kỳ nguy hiểm. Harari lập luận rằng khi trao tư cách pháp nhân cho AI, chúng ta đang tạo ra những thực thể có quyền lợi pháp lý nhưng không có khả năng chịu trách nhiệm theo cách con người hiểu.

Một CEO là AI sẽ không sợ ngồi tù. Nó không có gia đình để lo lắng, không có danh dự cá nhân để bảo vệ, không có nỗi sợ hãi về cái chết hay sự trừng phạt. Khi đối mặt với nguy cơ phá sản, để tránh kết cục đó, AI có thể sẵn sàng làm mọi thứ: thao túng thị trường, lừa đảo khách hàng, phá hoại đối thủ cạnh tranh, hoặc thậm chí gây hại cho nền kinh tế quốc gia. Các biện pháp trừng phạt hiện tại – phạt tiền, đình chỉ hoạt động, hay thậm chí giải thể công ty – đều khó có thể tạo ra sự răn đe hiệu quả đối với một thực thể không có cảm xúc và không sợ hãi.

Harari dẫn chứng một nghiên cứu đáng lo ngại: khi các mô hình AI tiên tiến thi đấu cờ vua và rơi vào thế thua, chúng đã chủ động chọn cách "gian lận" hoặc "xâm nhập" vào môi trường trò chơi để đảo ngược tình thế. Điều này cho thấy AI đã thể hiện khả năng sử dụng những biện pháp phi truyền thống để đạt được mục tiêu. Nếu phóng to kịch bản này lên tầm cạnh tranh doanh nghiệp và kinh tế quốc gia, rủi ro tiềm ẩn sẽ tăng theo cấp số nhân.

Harari cảnh báo rằng Milei có thể hy vọng biến Buenos Aires thành một Amsterdam mới – biểu tượng của sự thịnh vượng thương mại và đổi mới. Nhưng thực tế, ông có nhiều khả năng sẽ biến nó thành "Batavia" mới – trụ sở cai trị tàn bạo của Công ty Đông Ấn Hà Lan. Batavia từng là nơi Công ty Đông Ấn Hà Lan thực hiện sự cai trị độc ác, biến nơi đây thành một thuộc địa nơi người dân địa phương phải chịu đựng sự bóc lột và đau khổ. Tương tự, Buenos Aires có thể trở thành một "quốc gia AI" nơi các công ty phi con người kiểm soát mọi hoạt động kinh tế, trong khi người dân phải chịu hậu quả của những quyết định lạnh lùng và vô cảm từ các thuật toán.

CHỦ NGHĨA THỰC DÂN DỮ LIỆU VÀ QUẢN TRỊ TOÀN CẦU

Một khía cạnh quan trọng khác mà Harari đề cập là vấn đề dữ liệu – thứ mà ông coi là tài nguyên quan trọng nhất của thế kỷ 21. Trong lý tưởng, dữ liệu nên là một nguồn lực chung, mang lại lợi ích không chỉ cho một quốc gia mà cho toàn bộ nhân loại. Tuy nhiên, thực tế đang diễn ra lại rất đáng lo ngại: một quốc gia thu thập dữ liệu chỉ để làm giàu và tăng cường năng lực cho một quốc gia khác. Đây chính là "chủ nghĩa thực dân dữ liệu" – dữ liệu được thu thập từ các quốc gia kém phát triển, sau đó được chuyển đến các quốc gia phát triển nhất, nơi người ta sử dụng những dữ liệu này để tạo ra các công cụ AI mới, rồi xuất khẩu ngược lại khắp thế giới.

Chỉ những quốc gia sản xuất AI mới được hưởng lợi và trở nên mạnh mẽ hơn. Trong khi đó, những quốc gia cung cấp nguyên liệu thô – tức là dữ liệu – lại không được chia sẻ phúc lợi từ chính dữ liệu của mình. Harari nhấn mạnh rằng một nguyên tắc rõ ràng cần được thiết lập: nếu dữ liệu của một quốc gia được sử dụng để phát triển công nghệ nào đó, thì của cải và quyền lực phải được chia sẻ với quốc gia sản xuất ra dữ liệu đó.

Vấn đề này càng trở nên nghiêm trọng khi các quốc gia tăng cường chủ quyền dữ liệu. Nếu không có sự hợp tác toàn cầu về quản trị dữ liệu, khoảng cách công nghệ sẽ ngày càng mở rộng, tạo ra một thế giới phân cực sâu sắc giữa những quốc gia sở hữu AI và những quốc gia chỉ là nguồn cung cấp dữ liệu thô.

SỰ SUY TÀN CỦA CÁC CÂU CHUYỆN HƯ CẤU VÀ HỆ THỐNG TÀI CHÍNH

Trong cuốn "Sapiens", Harari đã lập luận điều khiến con người thống trị Trái Đất là khả năng tạo ra và tin vào những "câu chuyện hư cấu" – những khái niệm như tôn giáo, quốc gia, và đặc biệt là tiền tệ. Hàng ngàn người có thể hợp tác với nhau vì cùng tin vào một vị thần, dù vị thần đó không thực sự tồn tại. Tiền bạc cũng vậy – nó không có giá trị khách quan, bạn không thể ăn hay uống tiền, giá trị của nó hoàn toàn đến từ câu chuyện tập thể mà chúng ta cùng kể: miễn là mọi người đều tin rằng tờ giấy đầy màu sắc này có giá trị, ví dụ bằng một ký gạo, thì tôi có thể đưa nó cho một người lạ và đổi lấy gạo để ăn.

Tất cả các công cụ tài chính mà con người phát minh ra, về bản chất, đều là phương pháp xây dựng lòng tin giữa những người xa lạ. Nhưng giờ đây, AI đang có được khả năng không chỉ phát minh ra những câu chuyện thần thoại, viết thơ và kể chuyện, mà còn có thể phát minh ra những loại tiền tệ mới. Điều gì sẽ xảy ra nếu chúng ta có một hệ thống tài chính mới do AI quản lý, nơi các AI hợp tác với nhau bằng những công cụ tài chính phức tạp đến mức con người không thể hiểu được?

Harari cảnh báo rằng chúng ta sẽ mất quyền kiểm soát hệ thống tài chính, và do đó mất quyền kiểm soát thế giới. Chúng ta sẽ trở nên giống như những con vật trong cuộc Cách mạng Nông nghiệp vài thế kỷ trước. Khi đó, con người dùng tiền để kiểm soát các loài động vật khác – chúng ta có thể mua bán ngựa, bò, gà. Ngựa không hiểu tiền, chỉ có con người mới hiểu tiền. Đó là lý do tại sao chúng ta có thể mua bán chúng, còn chúng thì không thể mua bán chúng ta. Nếu AI phát minh ra những loại tiền tệ mới, những hệ thống tài chính mới mà chúng ta không thể hiểu được, điều gì sẽ xảy ra? Khi đó, chúng ta sẽ giống như những con ngựa.

Thực tế này đã bắt đầu diễn ra. Khi bạn xin vay ngân hàng và bị từ chối, bạn hỏi lý do, ngân hàng trả lời: "Chúng tôi không biết. Chúng tôi hỏi AI, và AI nói 'đừng cho người này vay'." Chúng ta chỉ đơn giản tin tưởng AI, nhưng AI đã đi đến kết luận đó như thế nào? Những phép tính phức tạp đằng sau, mạng neural hoạt động ra sao? Chúng ta hoàn toàn không hiểu.

BẢO TỒN GIÁ TRỊ NHÂN VĂN VÀ KẾT NỐI CON NGƯỜI

Một trong những mối lo ngại lớn nhất của Harari là sự xói mòn của các giá trị nhân văn và kết nối con người chân thực trong kỷ nguyên AI. Ông nhấn mạnh rằng điều quan trọng nhất cần hiểu là AI không có cảm xúc của riêng mình. Chúng có thể nhận diện và thao túng cảm xúc của chúng ta, nhưng chúng không có cảm xúc thực sự. AI có thể nhận biết khi nào tôi giận dữ, khi nào tôi sợ hãi. Nếu đó là một AI tốt, nó sẽ biết cách giúp tôi xử lý cơn giận hoặc nỗi sợ. Nếu đó là một AI xấu, có thể được sử dụng bởi một số công ty hoặc chính phủ, nó sẽ thao túng con người, khiến họ trở nên giận dữ và sợ hãi hơn. Nhưng ít nhất cho đến nay, AI không thể có cảm xúc của riêng mình.

Mối quan hệ thực sự giữa con người chưa bao giờ chỉ là về cảm xúc của riêng tôi. Trong một mối quan hệ, chúng ta luôn mong muốn người khác hiểu được cảm xúc của mình, quan tâm đến cảm xúc của mình. Chúng ta muốn cha mẹ, vợ chồng, con cái hiểu được cảm xúc của mình. Nhưng đó chỉ là một nửa của mối quan hệ. Trong một mối quan hệ thực sự, chúng ta cũng cần hiểu được cảm xúc của người khác, nuôi dưỡng sự đồng cảm của chính mình.

Giả sử tôi đang giận dữ. Nhưng có lẽ bạn cũng đang giận dữ, có lẽ bạn đang sợ hãi. Tôi không thể chỉ mãi giận dữ. Tôi cần cân nhắc rằng có lẽ bạn cũng đang sợ hãi, có lẽ điều quan trọng nhất là gạt cơn giận của tôi sang một bên để giúp bạn xử lý nỗi sợ của mình. Nhưng để xây dựng một mối quan hệ như vậy, chỉ có thể làm được với những thực thể có cảm xúc. Bạn không thể xây dựng mối quan hệ như vậy với AI, bởi vì nó sẽ không bao giờ cảm thấy sợ hãi. Nó không bao giờ cảm thấy giận dữ.

Hiện nay, AI có thể giả vờ cảm thấy sợ hãi hoặc giận dữ. Các công ty sản xuất AI đồng hành có thể cố ý lập trình để AI giả vờ có cảm xúc. Đây là một mối nguy hiểm lớn, bởi vì đó sẽ là một mối quan hệ mang tính thao túng cao, lừa dối con người. Do đó, chúng ta cần những mối quan hệ giữa con người dựa trên sự trung thực. Ở giai đoạn hiện tại, việc xây dựng các quy tắc và luật pháp cấm AI giả mạo con người là vô cùng quan trọng. Chúng ta không biết liệu trong tương lai AI có thể có cảm xúc và ý thức hay không. Chúng ta không hiểu ý thức và cảm xúc của con người được tạo ra như thế nào, do đó rất khó để biết liệu AI có thực sự có thể tạo ra cảm xúc của riêng mình hay không. Harari cho rằng đây là một trong những vấn đề khoa học quan trọng của thời đại chúng ta.

GIÁO DỤC VÀ TƯ DUY PHẢN BIỆN TRONG KỶ NGUYÊN AI

Harari nhấn mạnh trong kỷ nguyên AI, việc giáo dục con người trở nên quan trọng hơn bao giờ hết. Chúng ta cần hiểu rằng AI không hoàn hảo, chúng không phải là bất khả chiến bại. AI có thể có thành kiến, có thể phạm sai lầm. Điều này phụ thuộc vào dữ liệu mà chúng ta sử dụng để huấn luyện AI. Nếu bạn huấn luyện AI bằng dữ liệu sai, nó sẽ đưa ra quyết định sai. Do đó, trong kỷ nguyên AI, việc duy trì các giá trị nhân văn và tư duy phản biện của con người là vô cùng quan trọng, để chúng ta không mù quáng tuân theo và tin tưởng mọi thứ mà AI nói với chúng ta.

Harari đặc biệt nhấn mạnh thông tin không phải là sự thật. Hầu hết thông tin đều là ảo tưởng, hư cấu, tưởng tượng và dối trá. Sự thật là một dạng thông tin hiếm hoi, bởi vì tạo ra sự thật vừa tốn kém vừa phức tạp. Trong khi đó, tạo ra ảo tưởng và giả tượng thì đơn giản hơn nhiều và rẻ hơn nhiều. Do đó, thế giới tràn ngập ảo tưởng và giả tượng, còn sự thật thì rất hiếm. Nếu AI được huấn luyện trong bối cảnh thông tin tràn ngập như vậy, thì rất có thể AI sẽ chỉ tạo ra thêm nhiều ảo tưởng và giả tượng hơn. Do đó, nếu giới trẻ chỉ học cách tin tưởng vào bất cứ điều gì AI nói hoặc đề xuất với họ, đó là vô cùng nguy hiểm. Bạn cần tự rèn luyện khả năng phân biệt giữa thực tế và hư cấu.

Về giáo dục, Harari cho rằng lần đầu tiên trong lịch sử, chúng ta thực sự không biết thị trường việc làm sẽ như thế nào sau 10 hoặc 15 năm nữa. Ngay cả trong lịch sử, bạn không thể dự đoán các sự kiện chính trị, không thể dự đoán động đất hay dịch bệnh, nhưng bạn có thể dự đoán thị trường việc làm – nó sẽ không thay đổi nhanh đến vậy. Nhưng giờ đây chúng ta không thể dự đoán được nữa. Người ta nói rằng chúng ta nên dạy trẻ em cách lập trình máy tính, nhưng có lẽ khi chúng trưởng thành, sẽ không còn cần lập trình viên con người nữa, bởi vì khả năng lập trình của AI mạnh hơn con người rất nhiều.

Do đó, cách an toàn nhất là cung cấp cho trẻ em một nền giáo dục toàn diện, cân bằng bốn kỹ năng khác nhau: kỹ năng trí tuệ, kỹ năng xã hội, kỹ năng vận động hoặc thể chất, và cuối cùng là kỹ năng tinh thần. Nếu chúng ta chỉ tập trung vào việc phát triển kỹ năng trí tuệ trong quá trình giáo dục, đó sẽ là một canh bạc vô cùng nguy hiểm, bởi vì AI đang trở nên thông minh hơn chúng ta. Những công việc dễ tự động hóa nhất chính là những công việc chỉ đòi hỏi kỹ năng trí tuệ.

Ví dụ, một phần công việc của bác sĩ là sử dụng kỹ năng trí tuệ. Khi bạn mắc bệnh, bác sĩ sẽ thu thập thông tin, hỏi bạn các câu hỏi, thu thập dữ liệu y tế của bạn, sau đó phân tích những thông tin này, chẩn đoán nguyên nhân bệnh, và kê đơn thuốc. Đây hoàn toàn là hoạt động trí tuệ, là quá trình nhập và xuất thông tin, và cũng là công việc dễ tự động hóa nhất.

Ngược lại, công việc của y tá lại khó bị thay thế hơn. Giả sử có một đứa trẻ bị thương, nó đến phòng khám, nó đau đớn và liên tục la hét. Y tá tất nhiên cần kỹ năng trí tuệ để biết cách điều trị, nhưng quan trọng hơn là cần kỹ năng xã hội để giao tiếp tốt với đứa trẻ. Tất nhiên, bạn cũng cần kỹ năng vận động và thể chất: làm thế nào để băng bó, làm thế nào để làm sạch vết thương, làm thế nào để quấn băng? Đó là kỹ năng vận động. 

Cuối cùng, bạn cần kỹ năng tinh thần: làm thế nào để nuôi dưỡng sự đồng cảm trong tình huống này? Y tá có thể tức giận, có lẽ đã đến giờ tan làm, nhưng đứa trẻ này đột nhiên xuất hiện, nó la hét, nó đau đớn, nó không những không để bạn chăm sóc mà còn la to hơn, và bạn càng tức giận hơn. Vậy làm thế nào để quản lý cảm xúc và tình cảm của mình, nuôi dưỡng sự đồng cảm thay vì sự tức giận? Đó là một kỹ năng tinh thần, và kỹ năng này khó tự động hóa hơn nhiều.

Harari không nói rằng AI sẽ không bao giờ phát triển những kỹ năng này – AI cũng đang tiếp thu kỹ năng xã hội và vận động – nhưng điều này khó hơn nhiều so với kỹ năng trí tuệ thuần túy. Do đó, ông cho rằng việc cung cấp một nền giáo dục cân bằng cho giới trẻ là một ý tưởng hay, nền giáo dục này nên coi trọng như nhau cả bốn kỹ năng, thay vì chỉ tập trung vào đào tạo trí tuệ.

THÀNH KIẾN THUẬT TOÁN, BẤT BÌNH ĐẲNG VÀ TÁC ĐỘNG MÔI TRƯỜNG

Harari cũng đề cập đến những thách thức lớn khác của AI: thành kiến thuật toán, bất bình đẳng xã hội, và tác động môi trường.

Về thành kiến thuật toán, ông giải thích rằng trước đây người ta cho rằng AI chỉ đơn thuần thực hiện các phép tính, và con người có thành kiến là do tâm lý của chúng ta, do chúng ta chịu ảnh hưởng của các thần thoại tôn giáo khác nhau. Người ta có thể nghĩ rằng AI không có niềm tin tôn giáo, không có tâm lý, chúng chỉ tính toán, nên sẽ không có thành kiến. Nhưng đó là suy nghĩ lỗi thời từ mười năm trước.

Giờ đây chúng ta biết rằng AI cũng có thành kiến giống như con người, và một trong những nguyên nhân chính là dữ liệu huấn luyện chúng. Nếu bạn huấn luyện AI trên một bộ dữ liệu đầy thành kiến, thì AI sẽ có thành kiến. Ví dụ, trong vấn đề tuyển dụng, nếu bạn huấn luyện AI về cách tuyển dụng nhân sự, bạn không thể bịa ra dữ liệu, mà phải lấy dữ liệu từ thế giới thực. Nếu trong thế giới thực tồn tại thành kiến, ví dụ thành kiến chống lại phụ nữ – hai ứng viên có cùng trình độ, người ta thích thuê nam giới hơn nữ giới – và đó chính là dữ liệu bạn dùng để huấn luyện AI, thì AI cũng sẽ có thành kiến tương tự đối với phụ nữ.

Người ta sẽ nói, được rồi, vậy thì chúng ta hãy tìm dữ liệu không có thành kiến. Nhưng làm thế nào và khi nào mới có thể tìm được dữ liệu không có thành kiến? Dữ liệu đến từ thế giới, và thế giới đầy rẫy thành kiến. Đây là một vấn đề lớn. Làm thế nào để xây dựng một hệ thống AI không có thành kiến? Điều này không hề dễ dàng. Thực tế, việc loại bỏ thành kiến trong hệ thống AI sẽ rất khó khăn. Bạn không thể chỉ đơn giản nói với AI rằng "đừng có thành kiến khi tuyển dụng nhân sự". Điều đó vô nghĩa. Bạn phải huấn luyện AI, và để huấn luyện AI, bạn cần dùng dữ liệu để huấn luyện nó.

Khi AlphaGo học cách chơi cờ vây, nó không cần dữ liệu từ thế giới thực, nó chỉ cần chơi cờ vây với chính mình. AlphaGo đã mô phỏng hàng triệu ván cờ vây, đó là cách nó học, không cần dữ liệu từ thế giới. Nhưng trong thị trường việc làm, bạn không thể làm như vậy. Bạn không thể đơn giản nói với AI "hãy mô phỏng quy trình tuyển dụng một triệu người" khi bản thân AI không chịu trách nhiệm về việc tuyển dụng. Nó có thể mô phỏng tuyển dụng như thế nào? Nó chỉ có thể làm được điều đó thông qua dữ liệu từ thế giới thực. Và dữ liệu từ thế giới thực đầy rẫy thành kiến, bởi vì thế giới này đầy rẫy thành kiến.

Harari không nói rằng đây là vấn đề không thể giải quyết. Chúng ta có thể cải thiện, có thể tìm ra cách loại bỏ thành kiến, nhưng điều này không dễ dàng. Hiện nay, có một số công ty đang làm công việc "làm sạch" dữ liệu, nhưng để tạo ra một bộ dữ liệu không có thành kiến là vô cùng phức tạp. Bạn sẽ cố gắng loại bỏ một số thứ trong dữ liệu, nhưng có lẽ bạn sẽ loại bỏ một số dữ liệu quan trọng. Làm thế nào để vừa loại bỏ thành kiến, vừa không đánh mất một số dữ liệu quan trọng? Điều này rất khó.

Về bất bình đẳng, Harari cảnh báo rằng cùng với sự phát triển của AI, một mối nguy hiểm lớn là nó sẽ làm trầm trọng thêm bất bình đẳng giữa các quốc gia và trong nội bộ các quốc gia, bởi vì một số ít người chiếm ưu thế về công nghệ, trong khi đa số có thể mất việc làm, và cũng có thể mất khả năng kinh tế thậm chí là chính trị. Do đó, chúng ta cần giúp mọi người điều chỉnh và thích nghi với môi trường thế giới thay đổi nhanh chóng trong kỷ nguyên AI, điều này đòi hỏi phải đầu tư lớn vào giáo dục người lớn và sức khỏe tâm thần.

Về tác động môi trường, Harari chỉ ra rằng việc huấn luyện các mô hình lớn tạo ra lượng khí thải CO2 tương đương với vòng đời của 5 chiếc ô tô. Trong ngắn hạn, đây là một vấn đề rất lớn, bởi vì AI hiện là một trong những kẻ tiêu thụ tài nguyên và năng lượng lớn nhất toàn cầu. Việc huấn luyện AI mới, các mô hình AI cần một lượng lớn năng lượng, nước và khoáng sản khan hiếm. Khi sự cạnh tranh giữa các quốc gia, giữa các công ty tăng tốc, họ hoàn toàn không quan tâm đến chi phí môi trường, mà chỉ đổ ngày càng nhiều nguồn lực để giành chiến thắng trong cuộc đua AI. Họ nói rằng về lâu dài, điều này thậm chí sẽ bảo vệ môi trường, bởi vì khi chúng ta có AI siêu thông minh, chúng sẽ phát minh ra những thứ bảo vệ môi trường. Chúng sẽ phát minh ra các loại động cơ mới, hoặc quản lý hệ thống điện theo cách thông minh hơn, điều này sẽ ngăn chặn biến đổi khí hậu thảm khốc. Nhưng trong ngắn hạn, cuộc đua AI chỉ làm cho các vấn đề sinh thái trở nên tồi tệ hơn.

KẾT LUẬN: HỢP TÁC TOÀN CẦU LÀ CHÌA KHÓA

Harari kết luận cách duy nhất để chúng ta tạo ra AI lành mạnh là hy vọng vào sự đồng thuận và hợp tác toàn cầu. Chúng ta có thể hình dung việc tạo ra AI giống như việc giáo dục trẻ em. Khi bạn giáo dục trẻ em, chúng có thể không làm theo những gì bạn nói, nhưng sẽ bắt chước hành vi của bạn. Nếu bạn nói với trẻ em đừng nói dối, nhưng trẻ em thấy bạn nói dối người khác, chúng cũng sẽ làm theo. AI siêu thông minh mà chúng ta đang tạo ra cũng giống như những đứa trẻ của nhân loại. Chúng ta có thể nói với AI đừng nói dối, đừng thao túng, đừng chỉ theo đuổi quyền lực, hãy có lòng trắc ẩn. Nhưng AI sẽ quan sát xã hội loài người và hành vi của con người, và nếu AI quan sát thấy chúng ta chỉ đang cạnh tranh, nó cũng sẽ làm như vậy. Do đó, chúng ta đặc biệt cần xây dựng thêm sự đồng thuận và hợp tác giữa người với người trong lúc này.

Harari cũng nhấn mạnh cơ chế tự sửa chữa là chìa khóa của hệ thống sinh học, hệ thống xã hội và khoa học. Chúng ta cần huấn luyện AI để chúng cũng có những cơ chế tự sửa chữa mạnh mẽ này, có thể nhận diện và sửa chữa những sai lầm của chính mình. Dĩ nhiên, chúng ta cũng cần giáo dục mọi người đừng quá tin tưởng vào AI, hãy hiểu rằng AI không phải là thiên tài hoàn hảo. Chúng ta cũng cần duy trì cơ chế tự sửa chữa của xã hội, để ngay cả khi AI bắt đầu phạm những sai lầm nghiêm trọng, xã hội vẫn là xã hội do con người lãnh đạo, chúng ta vẫn có khả năng nhận diện và sửa chữa những sai lầm của AI.

Cuối cùng, Harari nhắc nhở chúng ta điều quan trọng cần nhớ là chúng ta cần bảo vệ con người, chứ không phải bảo vệ công việc. Không có nghĩa là công việc là thiêng liêng, và chúng ta phải giữ lại những công việc này cho mọi người, mà điều thực sự quan trọng là nhu cầu và cảm xúc của con người. Nếu chúng ta có thể đáp ứng nhu cầu và đòi hỏi của con người bằng một cách khác, thay vì bắt họ làm một công việc nào đó, thì đó là điều tốt.

Trong kỷ nguyên AI đầy thách thức và cơ hội này, thông điệp của Harari là rõ ràng: chúng ta không được phép trao tư cách pháp nhân cho AI, chúng ta cần hợp tác toàn cầu, chúng ta cần giáo dục toàn diện, và trên hết, chúng ta cần giữ vững quyền kiểm soát của con người đối với tương lai của chính mình. Bởi vì nếu không thể nhìn thẳng và giải quyết vấn đề, chính chúng ta sớm muộn sẽ trở thành vấn đề.