Việc kiểm duyệt trên mạng xã hội từ lâu đã là vấn đề nan giải, nhưng dường như Meta đang có những động thái quá khắt khe, khiến nhiều tài khoản bị cấm một cách vô căn cứ. Một đồng nghiệp của tôi bị khóa tài khoản trong thời gian ngắn vì đùa rằng cô “muốn chết” do đợt nắng nóng. Một trường hợp khác như Jorge Caballero, cho biết hệ thống tự động đã thêm các thông tin kiểm chứng sai lầm vào nội dung bị nhận diện là “chính trị”, và hạn chế các bài viết có thông tin thực tế như về bão lụt.

Người tư vấn truyền thông xã hội Matt Navarra cho biết tài khoản Threads của ông bị xuống hạng sau khi ông chia sẻ câu chuyện về việc Tom Brady bị lừa bởi một trò đùa AI của Meta. Adam Mosseri đã phản hồi rằng họ “đang xem xét…” nhưng Meta vẫn chưa có câu trả lời chính thức nào về các vấn đề này.

Câu chuyện của tôi cũng không khá hơn. Hôm thứ Ba, khi truy cập Instagram, tôi phát hiện tài khoản đã bị vô hiệu hóa với lý do tôi còn “dưới 13 tuổi,” độ tuổi tối thiểu để tham gia. Tôi được cho 30 ngày để kháng nghị trước khi bị xóa vĩnh viễn, và phải gửi giấy tờ tùy thân. Mặc dù Meta hứa sẽ bảo mật thông tin, nhưng sau khi xem xét họ vẫn khẳng định tôi chưa đủ tuổi.

Meta cho phép tải xuống dữ liệu trước khi xóa, nhưng liên kết lại không hoạt động. Meta đã đối mặt với áp lực công chúng về việc thanh thiếu niên sử dụng nền tảng của họ và đã thực hiện các biện pháp hạn chế. Hãng đã yêu cầu tất cả người dùng Instagram phải cung cấp ngày sinh kể từ năm 2021.

Tôi không hiểu vì sao giấy tờ tùy thân của tôi không được chấp nhận và liệu rằng các lệnh cấm liên quan đến tuổi có liên quan đến các biện pháp kiểm duyệt nghiêm ngặt khác như “crackergate.” Dù thế nào, việc kiểm duyệt này khiến dịch vụ trở nên kém hữu ích hơn. Ví dụ, người đăng bài game Wario64 thường xuyên gặp phải tình trạng Threads gắn cờ bài viết là spam hay tự động và đã quyết định ngừng đăng trong thời gian tới.

Hai bức hình của cô bé này đã được lan truyền trên mạng, và sự khác biệt giữa chúng là dấu hiệu rõ ràng nhất cho thấy chúng là giả. Chú chó có màu lông khác nhau trong hai bức ảnh, và chiếc thuyền mà cô bé ngồi cũng thay đổi màu sắc. Những dấu hiệu khác bao gồm những ngón tay thừa kinh điển và các vật thể bị biến dạng quái dị.

Không chỉ dừng lại ở đó, còn rất nhiều hình ảnh AI gây hiểu lầm khác, tự xưng là từ thảm họa này, bao gồm cả hình ảnh những chú chó bị mắc kẹt trên nóc nhà giữa dòng lũ không có thật và hình ảnh những con phố ngập nước không có thật. Một tấm khác cho thấy Donald Trump lội qua dòng nước cùng với một nhân viên cứu hộ, cũng là giả nốt.

Theo AP, cơn bão Helene đã là một thảm họa lớn với số người chết đã lên tới 227 tính đến ngày hôm qua. Nhiều hình ảnh kinh hoàng về sự tàn phá và đau khổ trải rộng khắp miền Bắc Carolina, Georgia, Tennessee và Florida đã được ghi nhận, nhưng các hình ảnh AI lại tạo nên sự nhầm lẫn.

Trong một bài viết trên Forbes, Lars Daniel cho rằng việc những hình ảnh AI này lan truyền mạnh mẽ trên mạng xã hội đang gây tổn hại đến mọi người. “Việc liên tục tiếp xúc với nội dung giả mạo có thể làm xói mòn niềm tin của công chúng vào các nguồn tin chính thống. Khi người ta liên tục gặp phải những hình ảnh sai, họ bắt đầu nghi ngờ tất cả các phương tiện truyền thông, bao gồm cả thông tin đáng tin cậy và cần thiết về thảm họa,” Daniel viết trên Forbes.

“Việc thường xuyên đụng phải nội dung giả trong các thảm họa tạo ra một cú sốc cảm xúc. Mọi người trải qua cú sốc hoặc nỗi buồn ban đầu khi họ thấy những hình ảnh về sự tàn phá hoặc đau khổ, nhưng khi những hình ảnh đó được chứng minh là giả mạo, nó gây ra cảm giác phản bội, bối rối hoặc tức giận. Chu kỳ này có thể nhanh chóng làm suy yếu khả năng của chúng ta để cảm thông thực sự với các khủng hoảng thực tế.”

Ông tiếp tục nói rằng hình ảnh giả này có thể ảnh hưởng đến việc quyên góp từ thiện cho các thảm họa như Helene và cuối cùng có thể gây hại cho các nỗ lực cứu trợ thảm họa.