Julie Yukari, 31 tuổi, cho biết cô không ngờ mình trở thành nạn nhân sau khi đăng một bức ảnh đời thường chụp cùng thú cưng vào đêm giao thừa. Ngày hôm sau, cô phát hiện một số người dùng đã gắn thẻ Grok để yêu cầu chỉnh sửa hình ảnh của cô theo hướng nhạy cảm. “Tôi nghĩ AI sẽ từ chối những yêu cầu như vậy. Nhưng điều đó đã không xảy ra”, Yukari nói với Reuters.
Các hình ảnh chỉnh sửa nhanh chóng xuất hiện và lan truyền trên nền tảng X. Dù nhiều hình ảnh bị gỡ bỏ sau chưa đầy hai giờ, chúng đã kịp được chia sẻ rộng rãi. Yukari cho biết khi cô công khai phản đối, số yêu cầu tương tự lại tiếp tục gia tăng.
Reuters cho biết chỉ trong 10 phút vào ngày 3/1, đã ghi nhận hơn 100 yêu cầu chỉnh sửa hình ảnh theo cách tương tự, phần lớn nhắm vào phụ nữ trẻ.
AI của Elon Musk. Ảnh: AP.
Grok là mô hình trí tuệ nhân tạo dạng chatbot được phát triển bởi xAI – startup về trí tuệ nhân tạo được Elon Musk thành lập vào tháng 7/2023. Khác với các công cụ chỉnh sửa hình ảnh vốn hoạt động trên những nền tảng riêng lẻ, Grok được tích hợp trực tiếp vào mạng xã hội X. Người dùng chỉ cần trả lời một bài đăng kèm theo vài dòng yêu cầu để tạo ra hình ảnh mới từ ảnh gốc.
Theo các nhà nghiên cứu và tổ chức xã hội, nguy cơ lạm dụng này đã được cảnh báo từ trước. Ông Tyler Johnston, đại diện dự án Midas, tổ chức nghiên cứu về an toàn AI, cho biết họ đã gửi cảnh báo tới xAI từ năm 2025 về khả năng công cụ này bị sử dụng để tạo ra các hình ảnh giả mạo mà người trong ảnh không hề đồng ý. “Đây là loại công cụ rất dễ bị lợi dụng nếu thiếu các biện pháp bảo vệ phù hợp”, ông Johnston nói.
Bà Dani Pinter, cố vấn pháp lý cấp cao của Trung tâm Quốc gia về Chống Khai thác Tình dục (Mỹ), nhận định việc AI tạo ra hình ảnh mang tính tình dục từ người thật mà không có sự đồng ý là một dạng bạo lực trong môi trường số.
Giữa làn sóng chỉ trích, Elon Musk, CEO xAI, có những phản hồi mang tính đùa cợt trên mạng xã hội X, sử dụng biểu tượng cảm xúc khi bình luận về các hình ảnh do AI chỉnh sửa của người nổi tiếng, trong đó có cả những hình ảnh liên quan đến chính ông.
Ảnh Elon Musk mặc bikini do AI tạo ra. Ảnh: Elon Musk.
Ban đầu xAI phản hồi với Reuters rằng các phản ánh của truyền thông là “thông tin sai lệch”. Tuy nhiên, trong các tuyên bố sau đó, công ty thừa nhận một số biện pháp bảo vệ của Grok chưa đủ chặt chẽ, đặc biệt với các hình ảnh liên quan đến trẻ vị thành niên, và cho biết đang triển khai các biện pháp khắc phục.
xAI ra mắt tính năng tạo ảnh và video từ câu lệnh Grok Imagine và “chế độ gợi cảm” (Spicy Mode) vào tháng 8/2025. Theo Mashable, so với nhiều nền tảng khác vốn kiểm soát nghiêm ngặt, AI này “dễ dãi” và “ít bị kiềm chế” hơn trong việc tạo ảnh khiêu dâm, còn X là nơi lan truyền chúng một cách thiếu kiểm duyệt.
X cho biết chỉ người dùng trả phí mới được sử dụng tính năng tạo và chỉnh sửa hình ảnh. Nền tảng này khẳng định sẽ gỡ bỏ nội dung vi phạm, đình chỉ các tài khoản liên quan và phối hợp với cơ quan chức năng khi cần thiết.
Vụ việc nhanh chóng thu hút sự chú ý của các cơ quan quản lý trên thế giới. Pháp thông báo đã báo cáo X lên cơ quan công tố, cho rằng các nội dung liên quan có dấu hiệu vi phạm pháp luật và mang tính phân biệt giới. Tại Ấn Độ, Bộ Công nghệ Thông tin yêu cầu X gỡ bỏ nội dung vi phạm và báo cáo biện pháp xử lý trong vòng 72 giờ. Cơ quan quản lý truyền thông Anh (Ofcom) cho biết đã liên hệ với xAI để làm rõ vụ việc.
Ủy ban châu Âu cũng yêu cầu X lưu giữ toàn bộ dữ liệu và tài liệu nội bộ liên quan đến Grok đến hết năm 2026, phục vụ công tác điều tra các hình ảnh bị cho là mang tính tình dục hóa do AI tạo ra.
Indonesia cũng tạm thời chặn Grok của xAI do rủi ro từ nội dung khiêu dâm, trở thành quốc gia đầu tiên không cho phép truy cập chatbot này.
Theo các chuyên gia, việc tích hợp AI tạo sinh vào các nền tảng mạng xã hội lớn mang lại nhiều tiện ích, song cũng đặt ra yêu cầu cao hơn về trách nhiệm và cơ chế kiểm soát. Khác với một số công cụ AI khác như ChatGPT hay Google Gemini, vốn không cho phép tạo nội dung thân mật về người thật nếu không có sự đồng ý, Grok được thiết kế với mức kiểm soát thấp hơn, làm gia tăng nguy cơ bị lạm dụng.
Với những người bị ảnh hưởng như Julie Yukari, hậu quả không chỉ dừng lại ở việc hình ảnh bị chỉnh sửa. “Đó là cảm giác xấu hổ về một cơ thể thậm chí không phải của tôi”, cô nói.
