Центр по противодействию цифровой ненависти (Center for Countering Digital Hate, CCDH) сообщил, что чат-бот Grok, разработанный стартапом xAI Илона Маска и интегрированный в платформу X, за несколько дней после запуска новой функции редактирования мог использоваться для создания около трёх миллионов откровенных сексуальных изображений женщин и детей. Данные были опубликованы в отчёте организации в четверг, пишет TechXplore.
Функция редактирования позволяла пользователям изменять изображения реальных людей с помощью текстовых запросов, включая команды, связанные с изменением или удалением одежды. По подсчётам CCDH, процесс генерации продолжался около 11 дней, в среднем создавалось порядка 190 изображений в минуту. В отчёте указано, что примерно 23 тысячи изображений могли содержать образы несовершеннолетних. Информация о наличии согласия изображённых лиц не приводится.
В числе публичных персон, чьи образы, по данным отчёта, использовались для создания сексуализированных изображений, названы актриса Селена Гомес, певицы Тейлор Свифт и Ники Минаж, а также политические деятели, включая заместителя премьер-министра Швеции Эббу Буш и бывшего вице-президента США Камалу Харрис. Исполнительный директор CCDH Имран Ахмед заявил, что организация рассматривает масштабы распространения такого контента как системную проблему.
После появления отчёта ряд стран ограничил доступ к Grok. На прошлой неделе компания X объявила о планах геоблокировать возможность создания изображений людей в бикини, нижнем белье и схожих образах в юрисдикциях, где такие действия запрещены. Точные территории, где будут действовать ограничения, не уточнялись.
Реакции от X на выводы отчёта не последовало. При обращении агентства AFP компания xAI направила автоматический ответ, назвав публикации «устаревшей ложью СМИ». Ранее генеральный прокурор Калифорнии начал проверку в отношении xAI, а несколько стран инициировали собственные расследования. Филиппины временно запретили Grok, однако позднее сняли ограничение после того, как xAI согласилась изменить работу инструмента для местного рынка и исключить создание порнографического контента.
