Một trong những nền tảng truyền trực tuyến (livestreaming) của Amazon vừa phải siết chặt chính sách cho người dùng tải hình ảnh khỏa thân do các ứng dụng (app) trí tuệ nhân tạo làm ra.
Hôm thứ Tư tuần qua, công ty công bố họ chấp nhận “các hình ảnh mang tính nghệ thuật cho người lớn” nhưng đến thứ Sáu họ đã phải thay đổi ngay chính sách đó vì bị “tràn ngập” bởi nội dung khỏa thân kỹ thuật số do máy tạo ra.
CEO của Twitch, Dan Clancy công bố một thông báo nói công ty “đã đi quá xa” và các hình ảnh khỏa thân thật hay giả đều sẽ không được Twitch chấp nhận.
Trong phần sửa đổi chính sách vào tuần trước, Twitch cho phép đăng tải các hình như ngực, mông, khu vực dưới lưng, gồm cả hình vẽ, hoạt họa, điêu khắc thân thể phụ nữ và bộ phận sinh dục của bất kể giới tính nào.
Các nội dung mô tả cảnh nhảy múa, cởi quần áo, lột trần… cũng được cho phép, miễn là người đăng tải phải ghi rõ chú thích trên trang trực tuyến. Người xem phải xác nhận đồng ý xem trước khi tiếp cận các nội dung trên.
Nhưng nay, Twitch thừa nhận việc kiểm soát tác giả, tác phẩm không hề dễ.
Hình kỹ thuật số (digital depiction) tạo ra ảnh, video khoả thân hoàn toàn do trí tuệ nhân tạo (AI) làm ra thật khó phân biệt với hình người thật vẽ, chụp, Twitch cho hay.
Twitch phải có phản ứng một phần vì cộng đồng nghệ sĩ của họ phản đối việc các livestream bị tràn ngập bởi hình ảnh “nude” do AI tạo ra, chỉ sau khi Twitch đổi chính sách cộng đồng.
App tạo hình khỏa thân gây ra vấn đề lớn
Đây không phải là lần đầu tiên các ứng dụng công nghệ kỹ thuật số bị cho là gây hại cho cộng đồng dân cư và công chúng, gồm cả trẻ em vì hình khoả thân “chế biến như thật”.
Hồi tháng 9/2023 một thị trấn ở Tây Ban Nha xuất hiện câu chuyện hơn 20 nữ sinh, từ 11 đến 17 tuổi, bị đánh cắp ảnh từ các trang mạng xã hội và “lột váy áo, tạo hình khoả thân” để phát tán trên mạng.
Các bậc phụ huynh và nhà chức trách ở Almendralejo, tỉnh Badajoz tố cáo với công tố viên và báo chí Tây Ban Nha rằng ai đó dùng app “cởi quần áo” tạo ra hình khoả thân của con gái họ, với chỉ mặt là hình thật.
Vụ việc gây choáng cho dư luận và cảnh sát chống tội phạm trên mạng của Tây Ban Nha phải vào cuộc.
Sang tháng 11/2023, Nghị viện EU có phiên họp về việc hình ảnh khỏa thân giả (nude deepfakes), do AI tạo ra, gồm cả hình trẻ em, lan tỏa trên các kênh mạng xã hội, theo truyền thông châu Âu.
Ngoài việc kinh doanh các hình ảnh này, những kẻ dùng app trí tuệ nhân tạo để dựng hình khoả thân còn phục vụ cho các nhóm tiêu thụ ảnh ấu dâm giả, theo tổ chức giám sát mạng, Internet Watch Foundation (IWF) ở Anh trong phúc trình công bố vào tháng 11/2023.
