Sách lược deepfake AI mới của Meta: Nhiều nhãn hơn, ít gỡ bỏ hơn

Meta đã công bố những thay đổi về quy định của mình đối với nội dung do AI tạo ra và các phương tiện truyền thông đã được chỉnh sửa, sau những lời phê bình từ Hội đồng Giám sát của mình. Bắt đầu từ tháng sau, công ty cho biết, họ sẽ gắn nhãn cho một lượng lớn hơn các nội dung như vậy, bao gồm cả việc áp dụng huy hiệu “Được tạo bằng AI” cho các deepfake. Thông tin bổ sung về ngữ cảnh có thể được hiển thị khi nội dung đã bị thao túng theo những cách khác, đặt ra rủi ro cao trong việc lừa dối công chúng về một vấn đề quan trọng.

Động thái này có thể dẫn đến việc gã khổng lồ mạng xã hội đánh dấu nhiều mảnh nội dung có khả năng gây hiểu lầm - điều quan trọng trong một năm có nhiều cuộc bầu cử diễn ra trên toàn thế giới. Tuy nhiên, với deepfakes, Meta chỉ áp dụng nhãn khi nội dung có “các dấu hiệu hình ảnh AI tiêu chuẩn của ngành,” hoặc khi người tải lên đã tiết lộ rằng đó là nội dung do AI tạo ra.

Nội dung do AI tạo ra rơi vào những định giới này, cứ như vậy, có thể sẽ không bị gắn nhãn.

Sự thay đổi chính sách này cũng có thể dẫn đến việc có nhiều nội dung do AI tạo và phương tiện truyền thông được chỉnh sửa hơn tồn tại trên các nền tảng của Meta, vì nó đang chuyển sang lựa chọn một cách tiếp cận tập trung vào “cung cấp minh bạch và thông tin bổ sung,” là cách “tốt hơn để giải quyết nội dung này” (thay vì loại bỏ nội dung được chỉnh sửa, do liên quan đến các rủi ro đối với tự do ngôn luận).

Vậy, đối với nội dung do AI tạo ra hoặc được chỉnh sửa theo cách khác trên các nền tảng như Facebook và Instagram của Meta, quy tắc chơi dường như là: nhiều nhãn hơn, ít gỡ bỏ hơn.

Meta cho biết họ sẽ dừng việc gỡ bỏ nội dung chỉ dựa trên chính sách video đã bị thao túng hiện tại vào tháng 7, bổ sung trong bài đăng trên blog vào thứ Sáu rằng: "Khung thời gian này cho phép mọi người có thời gian hiểu quy trình tự tiết lộ trước khi chúng tôi ngừng loại bỏ một phần nhỏ nội dung được chỉnh sửa này."

Sự thay đổi trong cách tiếp cận có thể nhằm mục đích đáp ứng nhu cầu pháp lý ngày càng cao về quản lý nội dung và rủi ro hệ thống, như Đạo luật Dịch vụ Kỹ thuật số của Liên minh Châu Âu. Từ tháng Tám năm ngoái, luật của EU đã áp dụng một bộ quy tắc cho hai mạng xã hội chính của mình yêu cầu Meta phải đi đường dây mỏng giữa việc loại bỏ nội dung bất hợp pháp, giảm thiểu rủi ro hệ thống và bảo vệ tự do ngôn luận. Khối này cũng đang gây áp lực thêm vào các nền tảng trước các cuộc bầu cử tới Nghị viện Châu Âu vào tháng Sáu này, bao gồm kêu gọi các công ty công nghệ lớn đóng dấu nước các deepfake nếu kỹ thuật cho phép.

Cuộc bầu cử tổng thống sắp tới ở Hoa Kỳ vào tháng 11 cũng có thể là điều Meta quan tâm.