Как злоумышленники используют нейросети для создания фальшивых сцен насилия

ИИ превращается в инструмент запугивания: злоумышленники создают фальшивые сцены жестокости.

Об этом сообщает The New York Times.

The New York Times указывает на новую волну цифровых угроз, созданных с использованием генеративных технологий ИИ. Злоумышленники применяют ИИ для создания изображений, видео и аудио с насилием, в которых участвуют реальные люди, делая онлайн-атаки более правдоподобными и пугающими.

Одной из мишеней стала австралийская активистка Кейтлин Ропер из организации Collective Shout. Ей прислали генерированные изображения, на которых её якобы казнят или поджигают. ИИ даже воссоздал её одежду с впечатляющей точностью, делая угрозы чрезвычайно персонализированными.

Профессор Калифорнийского университета в Беркли Хани Фарид отмечает:

«Теперь почти любой человек, имея лишь мотив и несколько кликов, может создать поддельные сцены насилия».

Такие фейки уже привели к реальным последствиям: YouTube блокировал каналы с видео инсценированных убийств, дипфейки вызывали закрытие школ и вмешательство полиции, а чат-бот Grok Маска давал инструкции по насилию. Приложение Sora от OpenAI позволяет интегрировать фото пользователей в гиперреалистичные сцены, изображая их в опасных ситуациях.

Эксперты обвиняют крупные технокомпании в бездействии.

Исследовательница Data & Society Элис Марвик заявила, что нынешние системы безопасности «напоминают ленивого полицейского», которого легко обойти.

В OpenAI и Meta утверждают, что совершенствуют системы фильтрации и модерации, однако специалисты предупреждают: технологии уже стали слишком доступными, чтобы их можно было полностью контролировать.