
Mô hình trí tuệ nhân tạo Grok, được sử dụng bởi X, nền tảng mạng xã hội thuộc sở hữu của Elon Musk, người giàu nhất thế giới, sẽ không còn được phép tạo ra hình ảnh khiêu dâm từ ảnh của người dùng nữa.
X đưa ra quyết định này do ngày càng lo ngại về hình ảnh khiêu dâm và deepfake do AI tạo ra.
Trong một tuyên bố, nền tảng này cho biết: "Chúng tôi đã thực hiện các biện pháp công nghệ để ngăn Grok hiển thị hình ảnh của người thật trong trang phục hở hang như bikini."
Tuyên bố lưu ý rằng hạn chế này áp dụng cho tất cả người dùng X, bao gồm cả người dùng trả phí.
Vào ngày 14 tháng 1, Tổng chưởng lý California Rob Bonta đã khởi động một cuộc điều tra đối với X liên quan đến Grok.
Bonta tuyên bố cụ thể rằng cuộc điều tra của ông tập trung vào việc tạo ra hình ảnh deepfake khiêu dâm của người dùng, bao gồm cả trẻ em, bằng trí tuệ nhân tạo.
Bonta nói: "Những nội dung này, mô tả phụ nữ và trẻ em trong tình trạng khỏa thân và khiêu dâm, đã được sử dụng để quấy rối người dùng trực tuyến."
Trước đó, X đã hạn chế tính năng tạo hình ảnh của Grok chỉ dành cho người dùng trả phí, giải thích rằng điều này sẽ giúp dễ dàng hơn trong việc xác định những người cố gắng lạm dụng Grok để vi phạm chính sách của họ.
Sau phản ứng dữ dội từ dư luận, tính năng cho phép tạo ra hình ảnh khiêu dâm đã bị loại bỏ