Ban giám sát meta giám sát việc xử lý nội dung khiêu dâm của người nổi tiếng do AI tạo ra

Ban giám sát Meta Platforms (NASDAQ: META ) đang điều tra việc công ty xử lý hai bức ảnh khiêu dâm do AI tạo ra của những người nổi tiếng nữ lan truyền trên nền tảng Facebook và Instagram của họ, hội đồng đã công bố hôm thứ Ba.

Theo một bài đăng trên blog, hội đồng quản trị, được tài trợ bởi gã khổng lồ truyền thông xã hội nhưng hoạt động độc lập, sẽ sử dụng hai ví dụ này để đánh giá hiệu quả tổng thể của các chính sách và quy trình thực thi của Meta đối với hàng giả khiêu dâm được phát triển bằng trí tuệ nhân tạo.

Theo một đại diện hội đồng, họ mô tả những bức ảnh được đề cập nhưng không xác định được những người phụ nữ nổi bật xuất hiện trong đó để "tránh bị thương thêm".

Những tiến bộ trong công nghệ AI đã khiến các bức ảnh, đoạn âm thanh và video giả mạo gần như không thể phân biệt được với nội dung chân thực do con người tạo ra, dẫn đến sự gia tăng các nội dung giả mạo tình dục lan tràn trên mạng, chủ yếu là hình ảnh phụ nữ và trẻ em gái.

Trong một tập phim đặc biệt gây chú ý vào đầu năm nay, nền tảng mạng xã hội X của Elon Musk đã tạm thời cấm người dùng tìm kiếm tất cả các bức ảnh của ngôi sao nhạc pop người Mỹ Taylor Swift sau khi cố gắng quản lý việc phổ biến các hình ảnh khiêu dâm sai sự thật về cô ấy.

Một số lãnh đạo doanh nghiệp đã ủng hộ việc ban hành luật cấm tạo ra các loại "hàng giả sâu" có hại và buộc các công ty công nghệ phải hạn chế việc sử dụng công nghệ của họ như vậy.

Theo giải thích của Ủy ban Giám sát về các trường hợp của mình, người ta lo ngại về một hình ảnh do AI tạo ra về một phụ nữ khỏa thân giống nhân vật của công chúng đến từ Ấn Độ, được chia sẻ bởi một tài khoản Instagram chuyên phân phối những bức ảnh do AI tạo ra về phụ nữ Ấn Độ.

Theo hội đồng quản trị, hình ảnh còn lại được đăng trên một nhóm Facebook để chia sẻ các phát minh AI và cho thấy hình ảnh do AI tạo ra về một phụ nữ khỏa thân giống "công dân Mỹ" với một người đàn ông đang vuốt ve ngực cô ấy.

Meta đã rút lại hình ảnh đại diện cho người phụ nữ Mỹ vì vi phạm chính sách bắt nạt và quấy rối, vốn cấm "các bức vẽ hoặc ảnh photoshop mang tính chất khiêu dâm xúc phạm", nhưng ban đầu vẫn giữ lại hình ảnh mô tả người phụ nữ Ấn Độ và chỉ đảo ngược hướng đi sau khi hội đồng quản trị chọn nó để xem xét.

Trong một bài viết tiếp theo, Meta đã thừa nhận các trường hợp này và cam kết thực hiện các phán quyết của hội đồng quản trị.