Hiệp ước toàn cầu không phổ biến AI ?
Doanh nghiệp Mỹ Anthropic kêu gọi toàn cầu tạm dừng phát triển AI, do lo ngại "mô hình AI đang tiến gần đến khả năng tự tối ưu hóa mà không cần sự can thiệp của con người"
Công ty này cảnh báo tốc độ lặp lại công nghệ AI hiện nay quá nhanh, và trong ngắn hạn có thể xuất hiện khả năng tự tối ưu hóa, nâng cấp độc lập mà không cần sự can thiệp của con người, từ đó có thể phát sinh những rủi ro xã hội lớn khó lường.
Phía Anthropic tuyên bố, để tạo ra thời gian đệm cần thiết cho xã hội và các nghiên cứu căn chỉnh (alignment research - nghiên cứu giúp AI duy trì sự nhất quán với giá trị và ý định của con người), họ đề xuất thiết lập một hiệp ước toàn cầu tương tự như "hiệp ước vũ khí hạt nhân" nhằm kiểm soát nhịp độ phát triển AI. Đồng thời, phải có cơ chế xác minh đi kèm để đảm bảo các đối thủ cạnh tranh trên toàn cầu tuân thủ cam kết.
Bài viết tiếp tục cho biết, việc xác minh tình hình đào tạo AI không hề dễ dàng. "Các dự án đào tạo AI dễ dàng ẩn giấu hơn nhiều so với các hầm phóng tên lửa. Khi những người khác tạm dừng, ai tiếp tục tiến về phía trước sẽ có nguy cơ giành được vị thế dẫn đầu."
Trong vài tháng tới, Anthropic dự định mời các nhà hoạch định chính sách và nhà nghiên cứu khoa học từ các quốc gia cùng thảo luận về công nghệ tiến hóa tự chủ đệ quy (recursive autonomous evolution) và cơ chế xác minh toàn cầu. Bài viết nhấn mạnh: "Cánh cửa để cùng nhau thảo luận về những vấn đề này đã mở ra, và những người ngoài các công ty AI cũng nên tham gia vào cuộc thảo luận này."
Vào ngày 17/4 theo giờ địa phương, Giám đốc điều hành (CEO) của Anthropic, Dario Amodei, được nhìn thấy xuất hiện tại Nhà Trắng.
Bài viết dài này được đồng tác giả bởi người đứng đầu bộ phận nghiên cứu nội bộ và một đồng sáng lập của Anthropic. Bài viết đã tiết lộ các dữ liệu thử nghiệm nội bộ để chứng minh cho tốc độ lặp lại nhanh chóng của mô hình chủ lực của họ.
Bài viết chỉ ra các mô hình AI hiện nay đang phát triển theo hướng "tiến hóa tự chủ đệ quy", khi đó AI có thể tự tối ưu hóa mà không cần sự can thiệp của con người. Nhiều người hành nghề trong ngành coi điểm tới hạn công nghệ này là một mối lo ngại tiềm ẩn, dự đoán nó có thể gây ra những biến động xã hội dữ dội.
Bài viết cho rằng việc làm chậm tốc độ phát triển AI toàn cầu "có thể là một điều tốt". "Chúng tôi tin rằng, nếu thế giới có quyền lựa chọn làm chậm hoặc tạm thời đình chỉ việc phát triển AI tiên phong, để cấu trúc xã hội và các nghiên cứu căn chỉnh có thể bắt kịp với tốc độ phát triển của công nghệ, thì điều đó sẽ mang lại lợi ích."
Bài viết cũng thừa nhận sự tiến hóa tự thân đệ quy hiện vẫn chưa xảy ra, và cũng không chắc chắn sẽ xảy ra, "nhưng nó có thể đến nhanh hơn so với sự chuẩn bị của hầu hết các tổ chức".
Wall Street Journal chỉ ra rằng, mặc dù Anthropic luôn tự hào lấy an toàn AI làm cốt lõi kể từ khi thành lập, nhưng công ty này luôn vướng phải những tranh cãi trong dư luận. Giới ngoài thường xuyên cáo buộc các sáng kiến chính sách mà họ thúc đẩy thực chất là mượn cớ để đàn áp đối thủ cạnh tranh và làm chậm tốc độ phát triển AI của các đối thủ.
David Sacks, cựu Giám đốc phụ trách các vấn đề về tiền điện tử và AI tại Nhà Trắng, đã công khai chỉ trích ban lãnh đạo Anthropic theo đuổi "chương trình nghị sự về thâu tóm cơ quan quản lý" (regulatory capture agenda), cho rằng động thái này có thể dẫn đến các chính sách cấm cửa các mô hình AI mã nguồn mở.
Một số nhà phê bình khác cho rằng những cảnh báo của Anthropic về mối nguy hiểm tiềm ẩn từ các công cụ của họ có thể chỉ là một chiến lược marketing. Theo họ, việc Anthropic hạn chế phát hành mô hình an ninh mạng Mythos thực chất là một cách gián tiếp khoe khoang năng lực của sản phẩm.
Cũng không phải tất cả các chuyên gia đều đồng tình với những rủi ro sinh tồn hoặc khả năng "tự cải thiện đệ quy" mà Anthropic mô tả. Yann LeCun (Dương Lập Côn) - người đoạt giải Turing, một trong "ba ông trùm học sâu", cựu Phó Chủ tịch kiêm Nhà khoa học AI trưởng của Meta - tin rằng các hệ thống AI tiên phong dựa trên mô hình ngôn ngữ lớn (LLM) sẽ không bao giờ có thể sánh được với trí thông minh của con người. Theo ông, AI chỉ là một công cụ hiệu quả cao, mức độ thông minh chỉ tương đương với một con mèo.
Ethan Mollick, Giáo sư tại Trường Kinh doanh Wharton thuộc Đại học Pennsylvania và là một học giả nổi tiếng trong lĩnh vực AI, nói với truyền thông Mỹ rằng quả thực có nhiều nhà phê bình coi các tuyên bố về an toàn của Anthropic là "những lời tuyên truyền và chiêu trò marketing rỗng tuếch".
Mollick còn chỉ ra rằng, với tư cách là một công ty đang hướng tới mức định giá nghìn tỷ USD, nội bộ Anthropic tồn tại nhiều mâu thuẫn chồng chéo: ở đó có đội ngũ marketing và luật sư theo đuổi lợi ích thương mại, có những nhân viên R&D nòng cốt âm thầm lặp lại các thế hệ mô hình mới, và tất nhiên cũng có những con người mang phong cách "triết vương" (philosopher king) thực sự lo lắng cho tương lai của nhân loại. Sự đa diện này không khỏi khiến dư luận hoài nghi về khẩu hiệu "an toàn trên hết" của họ.
Trước những tranh cãi này, ban lãnh đạo Anthropic đã phản hồi công ty rất coi trọng vấn đề an toàn AI và đang nỗ lực thúc đẩy nhiều hơn các cuộc thảo luận về rủi ro công nghệ.
Đáng chú ý, trong tuần này (ngày 1/6), Anthropic đã chính thức nộp hồ sơ cáo bạch IPO. Là doanh nghiệp phát triển mô hình lớn Claude, mức định giá khi lên sàn của họ dự kiến sẽ vượt mốc 1 nghìn tỷ USD, qua đó tham gia vào cuộc đua IPO cùng với OpenAI và SpaceX. Cuộc đua này cũng sẽ kiểm tra xem thị trường vốn có sẵn sàng tiếp tục bơm tiền để chống đỡ cho các phòng thí nghiệm AI liên tục "đốt tiền" hay không.
Mức định giá mới nhất của OpenAI đã đạt 852 tỷ USD và cũng sắp nộp hồ sơ IPO; SpaceX vào tháng trước đã tiết lộ bản cáo bạch, dự kiến niêm yết trong vài tuần tới với mức định giá mục tiêu 1,75 nghìn tỷ USD.
Vào thứ Năm tuần trước, Anthropic vừa hoàn tất vòng gọi vốn mới trị giá 65 tỷ USD, với mức định giá doanh nghiệp trước khi gọi vốn là 900 tỷ USD. So với mức định giá 60 tỷ USD vào tháng 3 năm ngoái, chỉ trong vòng 15 tháng, định giá của công ty đã tăng vọt hơn 15 lần.
Về mặt thương mại, Anthropic đã lần lượt ký kết các thỏa thuận hợp tác năng lực điện toán (computing power) dài hạn quy mô hàng trăm tỷ USD với Google, Broadcom và Amazon; tháng trước, họ tiếp tục hợp tác với SpaceX để thuê hai khu tổ hợp trung tâm dữ liệu siêu lớn. Thương vụ cho thuê này mỗi năm có thể mang lại cho SpaceX doanh thu 1,5 tỷ USD.
Đồng thời, ngay cả khi đang vướng vào tranh chấp tư pháp với Bộ Quốc phòng Mỹ, Anthropic vẫn đang hỗ trợ Cục An ninh Quốc gia Mỹ (NSA) triển khai mô hình lớn Mythos cho các hoạt động tác chiến mạng tấn công; công ty này còn cử các kỹ sư chuyên trách đến hướng dẫn tại chỗ, tùy chỉnh và tối ưu hóa mô hình theo nhu cầu tác chiến của phía Mỹ. Chính điều này khiến những cam kết an toàn của công ty ngày càng trở nên thiếu sức thuyết phục.
xem thêm:
https://www.cnbc.com/2026/04/17/anthropic-dario-amodei-trump-mythos.html
Không có nhận xét nào:
Đăng nhận xét