(SeaPRwire) –   Hình ảnh giả mạo của Taylor Swift “đáng lo ngại” – Nhà Trắng

Những bức ảnh có nội dung tình dục giả mạo của ca sĩ nhạc pop Taylor Swift lan truyền trên mạng xã hội vào đầu tuần này là “đáng lo ngại”, người phát ngôn Nhà Trắng Karine Jean-Pierre cho biết trong cuộc họp báo vào thứ Sáu, hứa sẽ có hành động chống lại việc lan truyền hình ảnh AI có nội dung nhạy cảm mà không có sự đồng ý.

“Chúng tôi sẽ làm tất cả những gì có thể để giải quyết vấn đề này,” Jean-Pierre nói, thêm rằng Quốc hội nên ban hành luật pháp và các nền tảng mạng xã hội nên kiểm soát chặt chẽ việc chia sẻ và đăng tải những hình ảnh như vậy.

“Trong khi các công ty mạng xã hội đưa ra quyết định độc lập về quản lý nội dung, chúng tôi tin rằng họ có vai trò quan trọng trong việc thực thi các quy tắc của chính họ để ngăn chặn sự lan truyền của thông tin sai lệch và hình ảnh cá nhân nhạy cảm không có sự đồng ý của người thật,” bà nói.

Một trong những hình ảnh được đăng trên X đã thu hút hơn 47 triệu lượt xem trước khi tài khoản đăng tải bị đình chỉ, theo tờ New York Times. X cho biết đang làm việc để gỡ bỏ những hình ảnh này và đã đình chỉ nhiều tài khoản đã đăng tải chúng. Điều khoản dịch vụ của nền tảng này cấm chia sẻ hình ảnh AI tạo ra của người thật, dù có nội dung khiêu dâm hay không.

Tìm kiếm từ khóa “Taylor Swift” trên X trả về lỗi vào chiều thứ Bảy. Một người hâm mộ Swift trên nền tảng này cho biết từ khóa đã bị “cấm”. Tuy nhiên, vẫn có thể sử dụng “Taylor Swift” trong tìm kiếm nếu có thêm từ khác trước đó – chẳng hạn như “bảo vệ” hoặc “AI tạo ra”.

Một số hình ảnh ban đầu được đăng trên nhóm Telegram dành cho “hình ảnh tình dục AI tạo ra mà không có sự đồng ý của phụ nữ”, theo blog công nghệ 404 Media. Những hình ảnh khác đã lưu hành trên diễn đàn 4chan và các diễn đàn khác trong nhiều tuần trước khi lan rộng sang mạng xã hội “chính thống”.

Nhiều hình ảnh được tạo ra bằng Microsoft Designer, công cụ AI chuyển đổi văn bản thành hình ảnh có sẵn thương mại. Nhóm Telegram giải thích cho người mới biết cách vượt qua các biện pháp bảo vệ của Microsoft chống lại các hình ảnh sâu của ngôi sao và khiêu dâm, nêu rõ rằng trong khi chương trình sẽ không tạo ra hình ảnh đối với yêu cầu “Taylor Swift”, nó sẽ đáp ứng tốt hơn với yêu cầu như “ca sĩ Taylor Swift”.

Microsoft cho biết đang “điều tra những báo cáo này và…áp dụng hành động phù hợp để giải quyết chúng”, nhấn mạnh rằng điều khoản dịch vụ của họ cấm sử dụng các chương trình để tạo ra “nội dung nhạy cảm người lớn hoặc không có sự đồng ý”.

Các nhà lập pháp Mỹ đã giới thiệu một dự luật tại Hạ viện Mỹ vào đầu tháng này nhằm kiểm soát việc sử dụng AI cho các video và hình ảnh sâu giả mạo ở cấp liên bang. Đạo luật NO AI FRAUD (Không AI Giả mạo và Sao chép Không được Phép) dựa trên dự luật tương tự của Thượng viện mang tên Đạo luật NO FAKES (Không Giả mạo), cho phép ngôi sao kiện ai tạo ra “bản sao số” của hình ảnh hoặc giọng nói của họ mà không có sự cho phép.