Вы, вероятно, уже обратили внимание, что генерации видео с помощью искусственного интеллекта достигли такого уровня, что создают серьёзную проблему для общества. Отличить сгенерированный контент от реальных записей становится практически невозможно.
В соцсетях всё чаще появляются видеоролики, имитирующие кадры с камер наблюдения — например, сцены задержаний, протестов или преступлений, которые никогда не происходили. Визуально такие материалы выглядят предельно реалистично, что делает их крайне убедительными для широкой аудитории.
Одной из ключевых возможностей подобных ИИ‑систем является создание цифровых аватаров. Пользователь может загрузить своё фото или отсканировать лицо, чтобы получить реалистичную виртуальную копию. Далее этот аватар можно использовать для генерации видео в любых сценариях. Более того, владелец образа может разрешить другим пользователям применять его цифровую копию — это открывает простор как для творчества, так и для злоупотреблений.
Хотя разработчики внедряют механизмы контроля (например, блокируют запросы с насилием или политическим контентом), система не всегда работает безупречно. Так, генерация образов ныне живущих публичных личностей часто требует их согласия, однако ИИ без ограничений создаёт контент с участием умерших знаменитостей или детей.
Эксперты давно предупреждали о рисках, связанных с развитием ИИ‑видео: когда синтетический контент становится неотличим от реальности, это подрывает доверие к любым визуальным доказательствам. Сегодня эти прогнозы воплощаются в жизнь — грань между правдой и вымыслом в цифровом пространстве стремительно размывается.
Между творчеством и злоупотреблением
Проблема затрагивает не только абстрактные вопросы достоверности информации, но и личные права людей. Известны случаи, когда цифровые аватары знаменитостей использовались без их согласия. Тем самым порождая нежелательный и порой оскорбительный контент. Родственники ушедших из жизни публичных персон также выражают возмущение: появление ИИ-видео с их близкими воспринимается как неуважение к памяти и наследию человека.
Вы не создаете искусство, вы превращаете человеческие жизни, историю искусства и музыки в отвратительные, переработанные хот-доги, а затем скармливаете их кому-то другому в надежде, что кто-то поставит вам лайк.
Зельда Уильямс — дочь известного актёра Робина Уильямса.
Особенно тревожные примеры демонстрируют, как ИИ‑технологии могут быть использованы для создания шокирующего контента. В некоторых роликах виртуальные образы известных личностей подвергаются издевательствам или попадают в абсурдные, оскорбительные ситуации. Это поднимает серьёзные этические вопросы о границах применения ИИ в креативных сферах и необходимости защиты человеческого достоинства в цифровую эпоху.
