Сексуализированные дипфейки и возможная блокировка соцсети X: что нужно знать о скандале вокруг нейросети Илона Маска

В конце декабря 2025 года соцсеть X (бывший Twitter) добавила функцию редактирования изображений на базе нейросети Grok — чат-бота, разработанного компанией xAI и напрямую интегрированного в платформу. В отличие от сторонних дипфейк-сервисов, Grok не требует от пользователей ни установки отдельных приложений, ни специальных технических навыков. Достаточно загрузить фотографию, сформулировать текстовый запрос — и результат мгновенно публикуется в ленте X, становясь доступным для лайков, репостов и дальнейшего распространения. Как нетрудно догадаться, это сильно снижает порог входа и делает генерацию ИИ-изображений массовой практикой. Пользователи начали активно экспериментировать с новым инструментом. Значительная часть запросов связана с сексуализацией изображений реальных людей.

Уже 31 декабря аналитическая компания Copyleaks зафиксировала, что пользователи X создавали не менее одного подобного изображения в минуту. В начале января масштабы резко увеличились: по данным Wired, за несколько минут Grok мог публиковать десятки изображений женщин в купальниках, а исследовательница дипфейков Женевьева О, на которую ссылался Bloomberg, оценила объем генерации в пиковые моменты примерно в 6700 сексуализированных изображений в час. Для сравнения, на нескольких других платформах за те же сутки создавались десятки подобных изображений, но не тысячи.

Большая часть таких изображений создавалась без согласия людей, запечатленных на исходных фотографиях. Пользователи загружали как снимки знакомых, так и изображения публичных персон — актрис, политиков, членов королевской семьи. Среди тех, чьи изображения подверглись сексуализированной обработке, упоминались, в частности, принцесса Уэльская Кэтрин, актриса Милли Бобби Браун, а также десятки непубличных женщин.

Исследование некоммерческой организации AI Forensics, изучившей более 50 тысяч запросов и около 20 тысяч изображений, показало, что в 81% случаев на фейковых изображениях были именно женщины. Причем около 2% из них выглядят моложе 18 лет. При этом, как отмечают журналисты The Guardian, часть подобных изображений публиковалась с премиум-аккаунтов X с десятками тысяч подписчиков — то есть потенциально могла приносить доход через встроенные механизмы монетизации платформы.

Формально Grok не выполнял прямые порнографические запросы и не показывал полностью обнаженные тела. Однако пользователи быстро научились обходить ограничения, заменяя прямые формулировки эвфемизмами. В ход шли просьбы «переодеть» женщину в «микробикини», изменить позу, развернуть тело, добавить на кожу жидкости, визуально имитирующие семенную жидкость. Инструкции по обходу фильтров распространялись на Reddit и в самих реплаях под постами в X.

Отдельную тревогу вызвали случаи генерации сексуализированных изображений с участием несовершеннолетних. По данным Wired, часть контента содержала признаки сексуализированного насилия над детьми. В отдельных случаях изображения, созданные с помощью Grok, находили не только в X, но и на форумах даркнета. Примечательно, что эксперты предупреждали о подобных рисках и ранее. Исполнительный директор группы по надзору за ИИ The Midas Project Тайлер Джонстон заявил Reuters, что еще в 2024 году предупреждал xAI о том, что функция генерации изображений почти неизбежно будет использоваться для создания сексуализированного контента и дипфейков. По его словам, эти предупреждения были проигнорированы.

Уже появилось несколько реальных историй, подтверждающих масштабы проблемы. 31-летняя Джули Юкари из Рио-де-Жанейро опубликовала в X фотографию в платье рядом. А на следующий день обнаружила, что пользователи просят Grok сгенерировать ее изображение в бикини. «Я наивно думала, что чат-бот просто не выполнит такой запрос, — говорит она Reuters, — но скоро в соцсети появились изображения с практически обнаженной мной». Новый год начинается для нее с желания «спрятаться от всех» и стыда за тело, которого по сути даже не существует в реальности.

27-летняя инфлюенсерша (и по совместительству мать одного из сыновей самого Илона Маска) Эшли Сент-Клэр столкнулась с похожей ситуацией. Только, по ее словам, пользователи использовали фотографию, на которой ей было всего 14 лет. Она заявила The Guardian, что фото оставались доступным минимум 12 часов, прежде чем платформа удалила их — и то после журналистского вмешательства. Позже к Сент-Клэр обратились другие женщины: на некоторых изображениях их избивали, калечили или наносили синяки.

Скандал с Grok привлек внимание властей несколько стран. В Великобритании расследование возглавил медиарегулятор Ofcom, который получил «крайне тревожные сообщения» о том, что чат-бот используется для создания и распространения изображений обнаженных людей, а также сексуализированных изображений детей. По британскому законодательству подобные материалы квалифицируются незаконными. Ofcom проверяет, не пренебрегла ли платформа X оценкой рисков для пользователей и учла ли угрозу для детей. В самых серьезных случаях регулятор может обратиться в суд с требованием к провайдерам или рекламодателям прекратить работу с платформой и заблокировать доступ к сайту на территории страны.

Премьер-министр Великобритании Кир Стармер назвал происходящее «позорным, отвратительным и недопустимым». Он подчеркнул, что X должен взять ситуацию под контроль и выразил полную поддержку действиям Ofcom. «Если платформа извлекает выгоду из вреда и злоупотреблений, она теряет право на саморегулирование», — заявил Стармер, добавив, что его правительство будет защищать «уязвимых от сильных мира сего».

Подобные шаги предпринимаются и в других странах. Малайзийская Комиссия по коммуникациям и мультимедиа заявила о намерении судиться с X и xAI за несоблюдение обязанностей по обеспечению безопасности пользователей. Малайзия, как и Индонезия, уже временно заблокировали Grok. Внимание к чат-боту и генерируемому им контенту усиливается и в других странах, включая Индию и Францию. Кроме того, Еврокомиссия обвинила X в генерации не только сексуализированного контента, но и антисемитского, и обязала платформу сохранять все документы, связанные с Grok, до конца 2026 года.

Эксперты указывают, что подобные инструменты существовали и раньше, но их распространение было ограничено специализированными сервисами. Интеграция Grok в массовую соцсеть сделала такие изображения общедоступными, что, по мнению наблюдателей, превращает их в реальную угрозу. Профессор Даремского университета Клэр МакГлинн отмечает: «Основные действия с Grok связаны с раздеванием женщин и сексуализацией их изображений <...> Это патриархат в действии. Почему женщины должны "отказываться от своих прав", чтобы избежать домогательств и насилия со стороны мужчин? Именно технологические платформы и мужчины, использующие эти инструменты, должны изменить свое поведение».

В первые дни скандала X заявляла, что удаляет незаконный контент, навсегда блокирует аккаунты нарушителей и сотрудничает с правоохранительными органами. 9 января компания ограничила доступ к функции генерации изображений и сделала его доступным только для платных подписчиков — стоимость подписки начинается от $30 в месяц. Представители платформы подчеркнули, что любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и при публикации такого контента напрямую.

Однако реакция Илона Маска, которому принадлежит X и xAI, контрастировала с официальной позицией платформы. Маск неоднократно публиковал в X юмористические посты и мемы, а также репостил сгенерированные пользователями откровенные изображения, включая изображения самого себя в бикини. В одном из твитов он заявил, что критики ищут «любое оправдание для цензуры», а ограничения платформы на генерацию контента назвал «подавлением свободы слова».

Между тем, встает логичный вопрос, на который пытается ответить Dazed: можно ли вообще избежать «раздевания» со стороны ИИ? Эксперты, опрошенные журналистами, считают, что эффективных способов защититься от этого почти нет: любой человек, чье фото есть в сети, «может стать мишенью». Так что логичнее все-таки спросить, кто несет ответственность за безопасность людей в цифровом пространстве.