От Стивена Хокинга до Майкла Джексона, мусор Sora 2 даже не щадит умерших знаменитостей.

TLDR

Новая модель Sora 2 от OpenAI, преобразующая текст в видео, открыла ящик Пандоры, заполнив социальные сети контентом сомнительного качества.
Мы наблюдаем растущее количество видеороликов с участием умерших знаменитостей, включая Джона Ф. Кеннеди, Мартина Лютера Кинга-младшего, Стивена Хокинга и других.
Политика OpenAI гласит, что знаменитости должны дать согласие на использование их личностных черт для видео, но оставляет открытым вопрос о согласии от умерших знаменитостей.

Veo 3 уже впечатлял своей способностью создавать видео, идеально соответствующие произнесенным словам из простых текстовых описаний, но Sora 2 от OpenAI идет еще дальше. Выпущенная на прошлой неделе с лентой коротких видео, похожей на TikTok, Sora 2 представляет собой значительный прогресс в создании невероятно реалистичных видео. Она предлагает больше контроля над процессом генерации и точно имитирует то, как вещи работают в реальном мире.

"Просто покупай индекс", говорили они. "Это надежно". Здесь мы обсуждаем, почему это не всегда так, и как жить с вечно красным портфелем.

Поверить в рынок

OpenAI заявляет, что Sora 2 стремится стать более позитивным пространством для творчества и развлечений, но ранние пользователи уже создают много контента низкого качества, а иногда и оскорбительного. Несмотря на то, что доступ ограничен, в сети появляется много примеров неподобающих видео. Как и ожидалось, люди активно сосредоточены на воссоздании персонажей из художественных произведений. В то время как знаменитости теперь должны активно соглашаться на использование их внешности, умершие личности часто изображаются воображаемыми, а иногда и неуважительными способами теми, кто имеет ранний доступ к инструменту.

Мы наблюдаем всплеск дипфейков с участием знаменитостей, как живых, так и ушедших из жизни. Примеры варьируются от странных – например, Стивен Хокинг, борющийся в WWE, или Ганди, управляющий Toyota Supra – до заставляющих задуматься, таких как симуляция Джона Ф. Кеннеди, говорящего об онлайн-шопинге, или даже стендап-выступление Майкла Джексона. Недавнее приложение упрощает создание этих реалистичных симуляций; вы просто загружаете фотографию, и оно быстро генерирует убедительный фейк. Эта технология даже используется, чтобы ‘вернуть’ тех, кого больше нет с нами, например, рэпера Тупака Шакура в недавнем уличном интервью.

Интересно, что даже Сэм Альтман, генеральный директор OpenAI, не избежал возможностей Sora 2. В сети циркулируют видео, на которых он изображен воровством в магазине, дремлет в офисе или даже устраивает танцевальную вечеринку в метро. Эти видео, иронично, были опубликованы человеком, утверждающим, что он инженер OpenAI – Габриэль Петерс – чтобы продемонстрировать, насколько легко Sora 2 может создавать реалистичный контент.

Эти видео не только тревожные, но и нарушают правила OpenAI. Политика требует явного разрешения от знаменитостей, если используется их сходство, даже для кратких появлений. Это особенно серьезная проблема, когда речь идет о знаменитостях, которые ушли из жизни, поскольку они не могут дать согласие. OpenAI даже разрешила создание видео с участием исторических личностей, как сообщил представитель компании изданию PCMag.

Важно помнить об этической стороне этой технологии. Эти видео глубоко неуважительны к умершим, и их можно использовать вредным образом – например, для распространения ложной информации, организации онлайн-травли или создания интимных изображений без согласия. OpenAI необходимо взять на себя ответственность за эти потенциальные последствия. Простого добавления водяного знака недостаточно для предотвращения злоупотреблений, так как его можно легко удалить.

На данный момент большинство знаменитостей, их семей и представителей не возражали против практики OpenAI, за исключением дочери Роберта Уильямса. Однако, если OpenAI не возьмёт под контроль контент, появляющийся на её платформе, мы ожидаем растущего числа юридических исков. OpenAI публично не ответила на эти опасения, и мы не ожидаем значительного улучшения модерации контента.

Смотрите также

2025-10-08 12:19