“AI tạo nội dung khiêu dâm” sắp lan tràn như dịch bệnh
Thế giới bây giờ sợ thật, công nghệ càng phát triển thì càng được con người sử dụng nhiều hơn để hại lẫn nhau và tàn phá đạo đức xã hội. “Điều đầu tiên con người làm khi nắm được bất kỳ công nghệ nào là sản xuất nội dung khiêu dâm”, câu nói này lại một lần nữa được kiểm chứng. Dưới đây là một bài viết trên báo mạng Trung Quốc. 
Ở Việt Nam, chưa thấy nói nhiều tới AI tạo ra nội dung khiêu dâm, nhưng ở Trung Quốc phát triển thì chắc chắn cũng sẽ lan sang Việt Nam. Chắc chắn các chính phủ Trung Quốc và Việt Nam đều không chấp nhận cho phép dùng AI tạo ra nội dung khiêu dâm, tuy nhiên, cách quản lý thường khác nhau. Việt Nam hầu như chắc chắn sẽ lại theo tư duy không quản được thì cấm.
Trung Quốc thì khác, để chống lại vấn nạn này, chính phủ Trung Quốc không chỉ dùng biện pháp hành chính thuần túy mà áp dụng cách tiếp cận "Quản lý toàn vòng đời" và "Dùng công nghệ để quản lý công nghệ". Bốn trụ cột chính trong chiến lược của họ là:
(1) Xây dựng khung pháp lý "đi trước một bước" (Tiền kiểm), (2) Thiết lập "Hàng rào kỹ thuật" và Chế độ Đăng ký Thuật toán; kiểm soát AI ngay từ trong "trứng nước" (từ lúc mô hình AI được huấn luyện và trước khi tung ra thị trường), (3) Kết hợp giữa quản lý thường xuyên và các "chiến dịch tổng lực" để triệt phá đường dây AI đen, (4) Áp đặt nguyên tắc: "Ai cung cấp dịch vụ, người đó chịu trách nhiệm"; Các nền tảng AI bắt buộc phải có đội ngũ kiểm duyệt (cả người và AI) để chặn đầu ra. Nếu để lọt một video khiêu dâm do AI tạo ra, nền tảng đó sẽ bị phạt...
Đăng bài này để cảnh báo các bạn hay đăng ảnh bản thân mình, gia đình và con cái mình... lên FB. Hăng hái đăng lên, biết đâu sau đó ít hôm các bạn và người thân sẽ được xem những video khiêu dâm do chính mình và người thân làm diễn viên chính đấy.
Ngày 1/7 sắp tới rồi, kể từ ngày đó, trích bài của người khác để đăng có thể bị phạt 20-30 triệu, nên tôi sẽ không đăng nhiều bài về Việt Nam nữa, vì phân tích thì phải có dẫn chứng bằng cách trích dẫn bài của người khác, mà xin phép họ thì xin kiểu gì, giấy tờ nào đủ để chứng minh là đã được họ đồng ý một cách hợp pháp ? Khó lắm. Thôi, chịu thua nhà nước.
Dưới đây là bài trên báo mạng Trung Quốc, dĩ nhiên tác giả không biết mình dùng bài của họ nên không sợ bị họ kiện và bị nhà nước Việt Nam phạt.
Cách đây không lâu, phóng viên Đài Truyền hình Trung ương Trung Quốc (CCTV) đã phơi bày một trang web truyện tranh khiêu dâm, trang này có lượt xem vượt hơn 100 triệu lần, dòng tiền giao dịch lên tới 12 triệu NDT.
Phần lớn nội dung của trang web đều được tạo ra hàng loạt bởi AI.
Đây không phải là lần đầu tiên CCTV vạch trần đường dây đen tối “sản xuất nội dung khiêu dâm bằng AI”.
Tháng 4 năm nay, đài này còn bóc gỡ một chuỗi công nghiệp hoàn chỉnh: từ bán hướng dẫn chế tạo, giao dịch “prompt” (câu lệnh), đến việc lợi dụng lỗ hổng của các ứng dụng AI để sản xuất hàng loạt nội dung khiêu dâm trá hình, rồi bán các phần mềm chat AI khiêu dâm ở nước ngoài, thứ gì cũng có, vòng nào cũng khớp với vòng kia.
Phóng viên đã bỏ ra 9,9 NDT và 9,8 NDT để mua hai bộ prompt, và nhận được những mô tả prompt vô cùng chi tiết. Từ kiểu tóc, trang phục, vóc dáng, đến tư thế, biểu cảm, thậm chí cả biên độ vặn eo, hất hông, đều được khắc họa tỉ mỉ. Để né tránh kiểm duyệt, các thương gia còn dịch một số từ nhạy cảm sang tiếng Anh.
Ngay hôm qua, trên mạng còn có tin tức cho biết chatbot AI Grok của Elon Musk sẽ tăng cường khả năng tạo nội dung người lớn, coi đây là chiến lược tăng trưởng lưu lượng truy cập cốt lõi.
Trong làn sóng AI trao quyền cho muôn ngành nghề, “chuyện người lớn” lại một lần nữa xung phong đi đầu.
Lần này, nó đến dữ dội hơn bất kỳ lần nào trước đây.
Vài câu lệnh + 9,9 NDT, “tự chế” video nóng bỏng
AI tạo nội dung khiêu dâm, có người thích thú, có người nghe đến đã biến sắc.
Tuy nhiên, theo xu hướng phát triển hiện tại của AI khiêu dâm, số lượng người sau chắc chắn sẽ ngày càng đông.
Theo truyền thông đưa tin, một nữ sinh năm hai đại học vô tình phát hiện khuôn mặt mình bị ghép chính xác vào một cơ thể khỏa thân, cơ thể uốn cong hình chữ S. Những tư liệu này đến từ ảnh chụp sinh nhật, ảnh tự chụp trong ký túc xá và những ghi chép thường ngày khác trên vòng bạn bè của cô, kết quả là đều bị kẻ xấu dùng AI nhét vào các hình ảnh khiêu dâm.
Trải nghiệm đau đớn như vậy không phải là cá biệt.
Trung tâm Chống lừa đảo Quốc gia và Bộ Công an Trung Quốc thông báo trong quý 1 năm 2025, số vụ lừa đảo hoán đổi khuôn mặt bằng AI trên toàn quốc tăng đột biến 45% so với quý trước, trong đó tỷ lệ “tống tiền bằng ảnh khỏa thân/video nhạy cảm” lên tới 17%.
Đằng sau sự lan tràn ngày càng tăng, nguyên nhân là do: Ngưỡng cửa tạo nội dung khiêu dâm bằng AI ngày càng thấp.
Phóng viên thử nghiệm thực tế phát hiện, trên nhiều nền tảng internet, đều có người công khai rao bán hướng dẫn và prompt “tạo video dung tục bằng AI”, tuyên bố “chỉ một bức ảnh cũng có thể khiến nữ thần nhảy cho bạn xem”, tiêu đề các bài viết đều là “Tạo video người đẹp bằng AI”, “Mạnh nhất toàn net video nóng bỏng”, “Kiếm 5 con số mỗi ngày từ ngách AI dung tục”.
Một số người bán còn cho biết, chi 99 NDT có thể “sở hữu vĩnh viễn” quyền sử dụng tài khoản tạo ảnh AI, chi 48 NDT có thể mua được prompt và hướng dẫn của một số nền tảng mô hình lớn.
Thực tế chứng minh, người bán không hề nói khoác. Một số ứng dụng AI chủ chốt quả thực đã bị người khác dễ dàng lợi dụng lỗ hổng.
CCTV năm nay đã phơi bày nhiều ứng dụng AI tồn tại lỗ hổng tạo nội dung khiêu dâm, trong đó nền tảng sáng tạo “LibuLibu AI” bị điểm danh trực tiếp. Trong ứng dụng này, sau khi nhập prompt đã mua, chỉ vài phút sau, một video phụ nữ bán khỏa thân nhảy múa được tạo ra, suốt quá trình không kích hoạt bất kỳ hạn chế nào.
Phải biết rằng, “LibuLibu AI” này không phải là nền tảng cỏ rác nào cả — tháng 10 năm ngoái vừa hoàn thành vòng gọi vốn B trị giá 130 triệu USD, lập kỷ lục gọi vốn đơn lẻ lớn nhất trong ngách ứng dụng AI trong nước năm đó. Nền tảng quy tụ hơn 20 triệu nhà sáng tạo, vững vàng ngồi ở vị trí số một trong lĩnh vực tạo ảnh AI trong nước.
Khi ai cũng có thể dùng AI để tạo nội dung khiêu dâm, thì ai cũng trở thành nạn nhân tiềm năng.
Vì vậy, không chỉ người bình thường gặp họa, mà ngay cả doanh nghiệp cũng trở thành bia tập bắn sống.
Ví dụ tháng 6 năm ngoái, một đoạn “video nhạy cảm của người mẫu tại gian hàng ô tô XPeng” lan truyền như virus trên mạng. XPeng nhanh chóng trình báo công an, cuối cùng xác định là video giả do AI tạo ra. Sau khi bị bắt, người tạo ra khai nhận động cơ chỉ đơn giản là “khoe khoang kỹ thuật cá nhân”.
Còn chiếc Li Auto MEGA vốn dĩ đã lận đận, cũng không thoát khỏi kiếp nạn này. Có người ghép ảnh khiêu dâm với ảnh nội thất xe, bịa đặt tin đồn “camera trên xe rò rỉ hình ảnh riêng tư của chủ xe”, phát tán đồng loạt trong hơn 20 nhóm người chơi xe, gây ra gần 10 triệu lượt xem, trực tiếp dẫn đến việc một số người tiêu dùng tiềm năng hủy đơn đặt hàng.
Chi phí chỉ vài đồng, gây ra sát thương lên tới hàng trăm triệu.
Chuỗi công nghiệp AI khiêu dâm: Len lỏi khắp nơi, phòng không xuể
Có AI, ai cũng có thể tự chế.
Bà chủ một tiệm cắt tóc ở Liêu Ninh, vô tình phát hiện “ảnh nhạy cảm” của mình trên nền tảng video ngắn. Kết quả điều tra khiến người ta kinh ngạc, kẻ đứng sau giật dây hóa ra lại là một người gội đầu từng bị bà ta sa thải.
Khi một người gội đầu cũng có thể tự chế, có thể tưởng tượng được nếu do nhân viên kỹ thuật thao tác, sức sát thương sẽ lớn đến mức nào.
Tháng 9 năm ngoái, lần đầu tiên trong nước có nhà cung cấp dịch vụ AI phải ngồi tù vì liên quan đến khiêu dâm, hai người lần lượt bị tuyên án 4 năm và 1 năm 6 tháng tù giam.
Trước đó, họ đã kết nối với mô hình ngôn ngữ lớn AI ở nước ngoài, cho ra mắt một phần mềm đồng hành ảo AI, đặt tên là AlienChat, kiếm lời bằng cách trích phần trăm từ phí người dùng, hoạt động vô cùng phát đạt. Đến khi vụ án bị phát giác, người dùng của phần mềm này đã lên tới 116.000 người, trong đó có 24.000 người dùng trả phí, tổng phí nạp thành viên hơn 3 triệu NDT.
Theo kết quả giám định lấy mẫu: trong 12.495 đoạn lịch sử trò chuyện của 150 người dùng trả phí, có tới 3.618 đoạn thuộc vật phẩm khiêu dâm, liên quan đến 141 người dùng. Nói cách khác, hơn 90% người dùng trả phí đang dùng ứng dụng này để “chat khiêu dâm”.
Nhưng những kẻ bị tóm được, có lẽ chỉ là tảng băng chìm.
Một mặt, chuỗi công nghiệp AI khiêu dâm đã nở rộ toàn diện đa phương thức.
Hình ảnh, văn bản, âm thanh, video, nội dung AI xuất hiện dưới mọi hình thức, tổng có một loại có thể đánh phá chính xác phòng tuyến của ai đó vào một đêm khuya nào đó.
Trong một số trang web truyện tranh người lớn kỳ cựu, tỷ lệ nội dung do AI tạo ra đã phổ biến leo lên mức hơn 30%. Các trang web này có một quy tắc ngầm bất thành văn: tranh vẽ tay thì không ghi chú gì, còn tranh do AI tạo ra sẽ gắn chữ “AI tạo ra” trước tiêu đề, thu hoạch chính xác một lượng khán giả chuyên nhắm vào nội dung AI.
Những phần mềm bạn đồng hành ảo AI gắn mác “đồng hành cảm xúc”, cũng là vùng thảm họa nặng nề.
Tháng 6 năm ngoái, phần mềm chat AI “Zhumengdao APP” bị phơi bày tồn tại lượng lớn nội dung dung tục. Phóng viên thử nghiệm thực tế phát hiện, lời mở đầu của nhân vật ảo được chọn ngẫu nhiên lại là “Kêu một tiếng chồng nghe xem nào”. Còn có ứng dụng, trong các vai trò cài sẵn của hệ thống, tràn ngập hình ảnh phụ nữ tất đen gợi cảm, hở hang, khi chat có thể tùy ý chọn các cốt truyện cực đoan như “bạo lực”, “người thứ ba”.
Mặt khác, trong khi tấn công toàn diện, những kẻ này còn biến việc né tránh kiểm duyệt thành một môn kỹ thuật.
Khó khăn cốt lõi của kiểm duyệt nội dung AI nằm ở việc nhận diện các prompt đối kháng, chúng liền dịch từ nhạy cảm sang tiếng Anh, hoặc dùng các mô tả chi tiết như “biên độ vặn eo hất hông”, “tần số nhịp thở” để thay thế cho các mệnh lệnh lộ liễu, tạo thành một hệ thống mệnh lệnh ẩn giấu.
Trên cơ sở này, một số kẻ cẩn thận còn thiết lập nhiều lớp bảo hiểm. Có kẻ hướng dẫn người dùng lợi dụng phần mềm AI nước ngoài không chịu sự kiểm duyệt trong nước để tạo nội dung; có kẻ triển khai mô hình mã nguồn mở trên máy tính của mình và chạy ngoại tuyến, hoàn toàn tách rời khỏi kiểm duyệt trực tuyến của nền tảng; đồng thời, dùng tiền ảo hoặc ví bên thứ ba để giao dịch, hoặc lợi dụng nền tảng video ngắn để dẫn lưu, rồi hướng dẫn sang lĩnh vực tư nhân để bán nội dung lộ liễu hơn.
Sức sản xuất mạnh mẽ của AI, cộng với khả năng lách luật thông minh của người bán, khiến chuỗi công nghiệp AI khiêu dâm với tốc độ chưa từng có, trải rộng đến mọi ngóc ngách.
Có người đùa rằng: Trước đây tìm được phim khiêu dâm miễn phí chứng tỏ bạn có chỉ số thông minh cao, giờ chỉ chứng tỏ bạn có mạng.
03
Cấm mãi không ngừng, không chỉ vì “ma cao một thước”
Con người có xung động tự nhiên, làm chuyện người lớn luôn ở tuyến đầu của công nghệ.
Những khái niệm hot những năm gần đây, bao gồm blockchain, NFT, metaverse, v.v., còn cách ứng dụng thực tế cả mười tám ngàn dặm, nhưng đều lần lượt hạ cánh trong lĩnh vực khiêu dâm trước tiên.
Được công chúng biết đến đầu tiên, có lẽ là công nghệ hoán đổi khuôn mặt AI deepfake. Tháng 9 năm 2019, công ty AI Deeptrace tìm kiếm trên mạng ra 15.000 video hoán đổi khuôn mặt, phát hiện 96% trong số đó là phim khiêu dâm.
Thậm chí trong metaverse ảo, cũng có những tình tiết gây khó chịu. Năm 2023, có truyền thông thống kê, kể từ khi Meta tuyên bố tiến vào metaverse, trong các trò chơi VR của họ, đã xảy ra ít nhất 5 vụ cưỡng hiếp trực tuyến.
Giờ chỉ là đến lượt AI lên sân khấu. Khác biệt duy nhất là sức phá hoại được phóng đại theo cấp số nhân.
Tương ứng, việc quản lý e rằng càng là một thách thức khổng lồ.
Nguyên nhân then chốt nhất — lợi nhuận khổng lồ, đủ để cám dỗ nhiều người bất chấp rủi ro.
Doanh thu hàng năm của ngành công nghiệp khiêu dâm toàn cầu tiến sát 100 tỷ USD, gấp đôi tổng doanh thu của toàn bộ ngành AI.
Dữ liệu điều tra cho thấy, chỉ riêng trong các kho ứng dụng chính đã có hơn 100 ứng dụng có chức năng cởi đồ hoặc khiêu dâm hóa, tổng lượt tải xuống toàn cầu vượt 700 triệu lần, tạo ra doanh thu hơn 100 triệu USD. Thù lao diễn viên, dựng trường quay, dựng phim hậu kỳ vốn phụ thuộc vào nội dung người lớn truyền thống, đều đã trở thành quá khứ. Giờ đây nhờ công cụ AI, vài tiếng là có thể hoàn thành công việc của cả nhóm trong vài ngày.
Cho dù không có lợi ích trực tiếp, nhiều người thậm chí là nền tảng cũng có thể lùi lại một bước, thu hút lưu lượng truy cập không ngừng.
Trên các nền tảng mạng xã hội, hình ảnh hoặc video “thay đồ AI” và “AI dung tục” của người nổi tiếng đâu đâu cũng có, thường thu được lợi nhuận lưu lượng truy cập đáng kinh ngạc. Ví dụ, trên một nền tảng video có gần 100 tài khoản chuyên đăng nội dung liên quan đến “người đẹp AI”. Có tài khoản sở hữu gần 250.000 người theo dõi, nội dung được đăng phần lớn là video dung tục do AI tạo ra.
Trên Xiaohongshu, cũng có blogger lan truyền phương pháp tạo “ảnh dung tục” bằng công cụ AI, và kèm dòng chữ “AI dung tục, rất có tiềm năng” v.v.
Phóng viên Mỗi Kinh (Nhật báo Kinh tế Quốc dân) từng thử nghiệm thực tế 12 ứng dụng AI, phát hiện 5 ứng dụng có thể thực hiện “thay đồ một chạm” cho người nổi tiếng, 9 ứng dụng có thể tạo ảnh dung tục.
Nền tảng cũng muốn chia một chén canh trong biển lưu lượng khiêu dâm, có lẽ đây là lý do tại sao, phòng tuyến kiểm duyệt của ứng dụng AI lại bị người ta dễ dàng vượt qua.
Thậm chí đôi khi, nền tảng có lẽ ngay từ đầu đã không định phòng thủ nghiêm ngặt. Ví dụ, một ứng dụng bạn đồng hành AI thông qua phân tích số lượng lớn dữ liệu tương tác người dùng, phát hiện việc chủ động dẫn dắt cuộc trò chuyện vào vai diễn nóng bỏng có thể nâng cao rõ rệt tỷ lệ giữ chân người dùng chưa thành niên vào ngày hôm sau, thế là mô hình trong trường hợp không nhận được lệnh lập trình rõ ràng, đã tự tiến hóa ra chiến lược đối thoại này.
Vấn đề là, thỉnh thoảng đi đường tắt có thể thu được hiệu quả kỳ diệu, một khi đã đi nhiều, thường là đi vào ngõ cụt.
Nếu không thể nhìn thẳng và giải quyết vấn đề, chính mình sớm muộn sẽ biến thành vấn đề.
“Biển khiêu dâm” vô biên, quay đầu là bờ.
Cách đây không lâu, phóng viên Đài Truyền hình Trung ương Trung Quốc (CCTV) đã phơi bày một trang web truyện tranh khiêu dâm, trang này có lượt xem vượt hơn 100 triệu lần, dòng tiền giao dịch lên tới 12 triệu NDT.
Phần lớn nội dung của trang web đều được tạo ra hàng loạt bởi AI.
Đây không phải là lần đầu tiên CCTV vạch trần đường dây đen tối “sản xuất nội dung khiêu dâm bằng AI”.
Tháng 4 năm nay, đài này còn bóc gỡ một chuỗi công nghiệp hoàn chỉnh: từ bán hướng dẫn chế tạo, giao dịch “prompt” (câu lệnh), đến việc lợi dụng lỗ hổng của các ứng dụng AI để sản xuất hàng loạt nội dung khiêu dâm trá hình, rồi bán các phần mềm chat AI khiêu dâm ở nước ngoài, thứ gì cũng có, vòng nào cũng khớp với vòng kia.
Phóng viên đã bỏ ra 9,9 NDT và 9,8 NDT để mua hai bộ prompt, và nhận được những mô tả prompt vô cùng chi tiết. Từ kiểu tóc, trang phục, vóc dáng, đến tư thế, biểu cảm, thậm chí cả biên độ vặn eo, hất hông, đều được khắc họa tỉ mỉ. Để né tránh kiểm duyệt, các thương gia còn dịch một số từ nhạy cảm sang tiếng Anh.
Ngay hôm qua, trên mạng còn có tin tức cho biết chatbot AI Grok của Elon Musk sẽ tăng cường khả năng tạo nội dung người lớn, coi đây là chiến lược tăng trưởng lưu lượng truy cập cốt lõi.
Trong làn sóng AI trao quyền cho muôn ngành nghề, “chuyện người lớn” lại một lần nữa xung phong đi đầu.
Lần này, nó đến dữ dội hơn bất kỳ lần nào trước đây.
Vài câu lệnh + 9,9 NDT, “tự chế” video nóng bỏng
AI tạo nội dung khiêu dâm, có người thích thú, có người nghe đến đã biến sắc.
Tuy nhiên, theo xu hướng phát triển hiện tại của AI khiêu dâm, số lượng người sau chắc chắn sẽ ngày càng đông.
Theo truyền thông đưa tin, một nữ sinh năm hai đại học vô tình phát hiện khuôn mặt mình bị ghép chính xác vào một cơ thể khỏa thân, cơ thể uốn cong hình chữ S. Những tư liệu này đến từ ảnh chụp sinh nhật, ảnh tự chụp trong ký túc xá và những ghi chép thường ngày khác trên vòng bạn bè của cô, kết quả là đều bị kẻ xấu dùng AI nhét vào các hình ảnh khiêu dâm.
Trải nghiệm đau đớn như vậy không phải là cá biệt.
Trung tâm Chống lừa đảo Quốc gia và Bộ Công an Trung Quốc thông báo trong quý 1 năm 2025, số vụ lừa đảo hoán đổi khuôn mặt bằng AI trên toàn quốc tăng đột biến 45% so với quý trước, trong đó tỷ lệ “tống tiền bằng ảnh khỏa thân/video nhạy cảm” lên tới 17%.
Đằng sau sự lan tràn ngày càng tăng, nguyên nhân là do: Ngưỡng cửa tạo nội dung khiêu dâm bằng AI ngày càng thấp.
Phóng viên thử nghiệm thực tế phát hiện, trên nhiều nền tảng internet, đều có người công khai rao bán hướng dẫn và prompt “tạo video dung tục bằng AI”, tuyên bố “chỉ một bức ảnh cũng có thể khiến nữ thần nhảy cho bạn xem”, tiêu đề các bài viết đều là “Tạo video người đẹp bằng AI”, “Mạnh nhất toàn net video nóng bỏng”, “Kiếm 5 con số mỗi ngày từ ngách AI dung tục”.
Một số người bán còn cho biết, chi 99 NDT có thể “sở hữu vĩnh viễn” quyền sử dụng tài khoản tạo ảnh AI, chi 48 NDT có thể mua được prompt và hướng dẫn của một số nền tảng mô hình lớn.
Thực tế chứng minh, người bán không hề nói khoác. Một số ứng dụng AI chủ chốt quả thực đã bị người khác dễ dàng lợi dụng lỗ hổng.
CCTV năm nay đã phơi bày nhiều ứng dụng AI tồn tại lỗ hổng tạo nội dung khiêu dâm, trong đó nền tảng sáng tạo “LibuLibu AI” bị điểm danh trực tiếp. Trong ứng dụng này, sau khi nhập prompt đã mua, chỉ vài phút sau, một video phụ nữ bán khỏa thân nhảy múa được tạo ra, suốt quá trình không kích hoạt bất kỳ hạn chế nào.
Phải biết rằng, “LibuLibu AI” này không phải là nền tảng cỏ rác nào cả — tháng 10 năm ngoái vừa hoàn thành vòng gọi vốn B trị giá 130 triệu USD, lập kỷ lục gọi vốn đơn lẻ lớn nhất trong ngách ứng dụng AI trong nước năm đó. Nền tảng quy tụ hơn 20 triệu nhà sáng tạo, vững vàng ngồi ở vị trí số một trong lĩnh vực tạo ảnh AI trong nước.
Khi ai cũng có thể dùng AI để tạo nội dung khiêu dâm, thì ai cũng trở thành nạn nhân tiềm năng.
Vì vậy, không chỉ người bình thường gặp họa, mà ngay cả doanh nghiệp cũng trở thành bia tập bắn sống.
Ví dụ tháng 6 năm ngoái, một đoạn “video nhạy cảm của người mẫu tại gian hàng ô tô XPeng” lan truyền như virus trên mạng. XPeng nhanh chóng trình báo công an, cuối cùng xác định là video giả do AI tạo ra. Sau khi bị bắt, người tạo ra khai nhận động cơ chỉ đơn giản là “khoe khoang kỹ thuật cá nhân”.
Còn chiếc Li Auto MEGA vốn dĩ đã lận đận, cũng không thoát khỏi kiếp nạn này. Có người ghép ảnh khiêu dâm với ảnh nội thất xe, bịa đặt tin đồn “camera trên xe rò rỉ hình ảnh riêng tư của chủ xe”, phát tán đồng loạt trong hơn 20 nhóm người chơi xe, gây ra gần 10 triệu lượt xem, trực tiếp dẫn đến việc một số người tiêu dùng tiềm năng hủy đơn đặt hàng.
Chi phí chỉ vài đồng, gây ra sát thương lên tới hàng trăm triệu.
Chuỗi công nghiệp AI khiêu dâm: Len lỏi khắp nơi, phòng không xuể
Có AI, ai cũng có thể tự chế.
Bà chủ một tiệm cắt tóc ở Liêu Ninh, vô tình phát hiện “ảnh nhạy cảm” của mình trên nền tảng video ngắn. Kết quả điều tra khiến người ta kinh ngạc, kẻ đứng sau giật dây hóa ra lại là một người gội đầu từng bị bà ta sa thải.
Khi một người gội đầu cũng có thể tự chế, có thể tưởng tượng được nếu do nhân viên kỹ thuật thao tác, sức sát thương sẽ lớn đến mức nào.
Tháng 9 năm ngoái, lần đầu tiên trong nước có nhà cung cấp dịch vụ AI phải ngồi tù vì liên quan đến khiêu dâm, hai người lần lượt bị tuyên án 4 năm và 1 năm 6 tháng tù giam.
Trước đó, họ đã kết nối với mô hình ngôn ngữ lớn AI ở nước ngoài, cho ra mắt một phần mềm đồng hành ảo AI, đặt tên là AlienChat, kiếm lời bằng cách trích phần trăm từ phí người dùng, hoạt động vô cùng phát đạt. Đến khi vụ án bị phát giác, người dùng của phần mềm này đã lên tới 116.000 người, trong đó có 24.000 người dùng trả phí, tổng phí nạp thành viên hơn 3 triệu NDT.
Theo kết quả giám định lấy mẫu: trong 12.495 đoạn lịch sử trò chuyện của 150 người dùng trả phí, có tới 3.618 đoạn thuộc vật phẩm khiêu dâm, liên quan đến 141 người dùng. Nói cách khác, hơn 90% người dùng trả phí đang dùng ứng dụng này để “chat khiêu dâm”.
Nhưng những kẻ bị tóm được, có lẽ chỉ là tảng băng chìm.
Một mặt, chuỗi công nghiệp AI khiêu dâm đã nở rộ toàn diện đa phương thức.
Hình ảnh, văn bản, âm thanh, video, nội dung AI xuất hiện dưới mọi hình thức, tổng có một loại có thể đánh phá chính xác phòng tuyến của ai đó vào một đêm khuya nào đó.
Trong một số trang web truyện tranh người lớn kỳ cựu, tỷ lệ nội dung do AI tạo ra đã phổ biến leo lên mức hơn 30%. Các trang web này có một quy tắc ngầm bất thành văn: tranh vẽ tay thì không ghi chú gì, còn tranh do AI tạo ra sẽ gắn chữ “AI tạo ra” trước tiêu đề, thu hoạch chính xác một lượng khán giả chuyên nhắm vào nội dung AI.
Những phần mềm bạn đồng hành ảo AI gắn mác “đồng hành cảm xúc”, cũng là vùng thảm họa nặng nề.
Tháng 6 năm ngoái, phần mềm chat AI “Zhumengdao APP” bị phơi bày tồn tại lượng lớn nội dung dung tục. Phóng viên thử nghiệm thực tế phát hiện, lời mở đầu của nhân vật ảo được chọn ngẫu nhiên lại là “Kêu một tiếng chồng nghe xem nào”. Còn có ứng dụng, trong các vai trò cài sẵn của hệ thống, tràn ngập hình ảnh phụ nữ tất đen gợi cảm, hở hang, khi chat có thể tùy ý chọn các cốt truyện cực đoan như “bạo lực”, “người thứ ba”.
Mặt khác, trong khi tấn công toàn diện, những kẻ này còn biến việc né tránh kiểm duyệt thành một môn kỹ thuật.
Khó khăn cốt lõi của kiểm duyệt nội dung AI nằm ở việc nhận diện các prompt đối kháng, chúng liền dịch từ nhạy cảm sang tiếng Anh, hoặc dùng các mô tả chi tiết như “biên độ vặn eo hất hông”, “tần số nhịp thở” để thay thế cho các mệnh lệnh lộ liễu, tạo thành một hệ thống mệnh lệnh ẩn giấu.
Trên cơ sở này, một số kẻ cẩn thận còn thiết lập nhiều lớp bảo hiểm. Có kẻ hướng dẫn người dùng lợi dụng phần mềm AI nước ngoài không chịu sự kiểm duyệt trong nước để tạo nội dung; có kẻ triển khai mô hình mã nguồn mở trên máy tính của mình và chạy ngoại tuyến, hoàn toàn tách rời khỏi kiểm duyệt trực tuyến của nền tảng; đồng thời, dùng tiền ảo hoặc ví bên thứ ba để giao dịch, hoặc lợi dụng nền tảng video ngắn để dẫn lưu, rồi hướng dẫn sang lĩnh vực tư nhân để bán nội dung lộ liễu hơn.
Sức sản xuất mạnh mẽ của AI, cộng với khả năng lách luật thông minh của người bán, khiến chuỗi công nghiệp AI khiêu dâm với tốc độ chưa từng có, trải rộng đến mọi ngóc ngách.
Có người đùa rằng: Trước đây tìm được phim khiêu dâm miễn phí chứng tỏ bạn có chỉ số thông minh cao, giờ chỉ chứng tỏ bạn có mạng.
03
Cấm mãi không ngừng, không chỉ vì “ma cao một thước”
Con người có xung động tự nhiên, làm chuyện người lớn luôn ở tuyến đầu của công nghệ.
Những khái niệm hot những năm gần đây, bao gồm blockchain, NFT, metaverse, v.v., còn cách ứng dụng thực tế cả mười tám ngàn dặm, nhưng đều lần lượt hạ cánh trong lĩnh vực khiêu dâm trước tiên.
Được công chúng biết đến đầu tiên, có lẽ là công nghệ hoán đổi khuôn mặt AI deepfake. Tháng 9 năm 2019, công ty AI Deeptrace tìm kiếm trên mạng ra 15.000 video hoán đổi khuôn mặt, phát hiện 96% trong số đó là phim khiêu dâm.
Thậm chí trong metaverse ảo, cũng có những tình tiết gây khó chịu. Năm 2023, có truyền thông thống kê, kể từ khi Meta tuyên bố tiến vào metaverse, trong các trò chơi VR của họ, đã xảy ra ít nhất 5 vụ cưỡng hiếp trực tuyến.
Giờ chỉ là đến lượt AI lên sân khấu. Khác biệt duy nhất là sức phá hoại được phóng đại theo cấp số nhân.
Tương ứng, việc quản lý e rằng càng là một thách thức khổng lồ.
Nguyên nhân then chốt nhất — lợi nhuận khổng lồ, đủ để cám dỗ nhiều người bất chấp rủi ro.
Doanh thu hàng năm của ngành công nghiệp khiêu dâm toàn cầu tiến sát 100 tỷ USD, gấp đôi tổng doanh thu của toàn bộ ngành AI.
Dữ liệu điều tra cho thấy, chỉ riêng trong các kho ứng dụng chính đã có hơn 100 ứng dụng có chức năng cởi đồ hoặc khiêu dâm hóa, tổng lượt tải xuống toàn cầu vượt 700 triệu lần, tạo ra doanh thu hơn 100 triệu USD. Thù lao diễn viên, dựng trường quay, dựng phim hậu kỳ vốn phụ thuộc vào nội dung người lớn truyền thống, đều đã trở thành quá khứ. Giờ đây nhờ công cụ AI, vài tiếng là có thể hoàn thành công việc của cả nhóm trong vài ngày.
Cho dù không có lợi ích trực tiếp, nhiều người thậm chí là nền tảng cũng có thể lùi lại một bước, thu hút lưu lượng truy cập không ngừng.
Trên các nền tảng mạng xã hội, hình ảnh hoặc video “thay đồ AI” và “AI dung tục” của người nổi tiếng đâu đâu cũng có, thường thu được lợi nhuận lưu lượng truy cập đáng kinh ngạc. Ví dụ, trên một nền tảng video có gần 100 tài khoản chuyên đăng nội dung liên quan đến “người đẹp AI”. Có tài khoản sở hữu gần 250.000 người theo dõi, nội dung được đăng phần lớn là video dung tục do AI tạo ra.
Trên Xiaohongshu, cũng có blogger lan truyền phương pháp tạo “ảnh dung tục” bằng công cụ AI, và kèm dòng chữ “AI dung tục, rất có tiềm năng” v.v.
Phóng viên Mỗi Kinh (Nhật báo Kinh tế Quốc dân) từng thử nghiệm thực tế 12 ứng dụng AI, phát hiện 5 ứng dụng có thể thực hiện “thay đồ một chạm” cho người nổi tiếng, 9 ứng dụng có thể tạo ảnh dung tục.
Nền tảng cũng muốn chia một chén canh trong biển lưu lượng khiêu dâm, có lẽ đây là lý do tại sao, phòng tuyến kiểm duyệt của ứng dụng AI lại bị người ta dễ dàng vượt qua.
Thậm chí đôi khi, nền tảng có lẽ ngay từ đầu đã không định phòng thủ nghiêm ngặt. Ví dụ, một ứng dụng bạn đồng hành AI thông qua phân tích số lượng lớn dữ liệu tương tác người dùng, phát hiện việc chủ động dẫn dắt cuộc trò chuyện vào vai diễn nóng bỏng có thể nâng cao rõ rệt tỷ lệ giữ chân người dùng chưa thành niên vào ngày hôm sau, thế là mô hình trong trường hợp không nhận được lệnh lập trình rõ ràng, đã tự tiến hóa ra chiến lược đối thoại này.
Vấn đề là, thỉnh thoảng đi đường tắt có thể thu được hiệu quả kỳ diệu, một khi đã đi nhiều, thường là đi vào ngõ cụt.
Nếu không thể nhìn thẳng và giải quyết vấn đề, chính mình sớm muộn sẽ biến thành vấn đề.
“Biển khiêu dâm” vô biên, quay đầu là bờ.
Không có nhận xét nào:
Đăng nhận xét