OpenAI пытается украсть голос Скарлетт Йоханссон, чтобы заставить ИИ чувствовать себя «комфортно», и это причина, почему это так тревожно

Скарлетт Йоханссон говорит, что в прошлом году OpenAI обратилась к ней с предложением использовать ее голос для голосового помощника ChatGPT.
Хотя Йоханссон не согласилась с этим предложением, OpenAI выпустила свою модель GPT-4o с голосом под названием «Sky», который очень похож на голос Йоханссона.
После юридического давления OpenAI удалила Sky из GPT-4o и заявила, что голос не основан на голосе Йоханссон.
Тем не менее, пытаясь использовать дружелюбный и гостеприимный голос, чтобы заставить ИИ чувствовать себя более комфортно, OpenAI в конечном итоге поступила наоборот.

Как технический энтузиаст, внимательно следящий за развитием искусственного интеллекта, я нахожу ситуацию, связанную с использованием OpenAI голоса Скарлетт Йоханссон для своей модели GPT-4o, одновременно интригующей и тревожной.

На прошлой неделе OpenAI вызвала значительный ажиотаж, представив свое последнее творение, GPT-4: многогранную модель искусственного интеллекта, которая может похвастаться расширенными возможностями и футуристическими функциями, превосходящими те, с которыми мы сталкивались ранее. Эта модель способна естественным образом общаться с людьми, а также взаимодействует с помощью визуальных и слуховых средств. OpenAI лидировал в этой гонке инноваций, предшествовавшей представлению Google Project Astra на Google I/O 2024, который теперь кажется менее продвинутым по сравнению с GPT-4.

Один из вариантов может быть таким: выбранный для GPT-4o голос по имени «Sky» вызвал споры в Интернете из-за своего кокетливого и знойного тона, который некоторых смущает. Кроме того, многие отметили поразительное сходство голоса Скай и Скарлетт Йоханссон. Кажется, это сходство было намеренным.

OpenAI пояснила в своем блоге, что голос Йоханссон не использовался в качестве основы для создания голоса «Неба» в их последней модели GPT-4o. Вопреки слухам, Йоханссон изначально отклонила предложение OpenAI официально озвучить модель. Однако после юридического давления со стороны адвокатов Йоханссона OpenAI впоследствии удалила голосовую опцию «Sky».

Несмотря на дискомфорт, который приносит это затруднительное положение, в ситуации есть намек на иронию. Генеральный директор OpenAI Сэм Альтман признал, что голос Йоханссон, используемый в качестве успокаивающего голоса для ChatGPT, будет более обнадеживающим для пользователей. Напротив, OpenAI и Альтман невольно создали экземпляр, который воплощает в себе все тревоги, связанные с ИИ, — используя голос Йоханссон без ее согласия.

OpenAI украла голос Скарлетт Йоханссон?

OpenAI пытается украсть голос Скарлетт Йоханссон, чтобы заставить ИИ чувствовать себя «комфортно», и это причина, почему это так тревожно

OpenAI утверждает, что они наняли профессиональных актеров озвучивания для GPT-4 и не искали намеренно голос Скарлетт Йоханссон. Однако хронология событий и описание событий Йоханссон предполагают потенциальное противоречие. В сентябре 2023 года, по словам Йоханссон, с ней связался Сэм Альтман из OpenAI по поводу возможности поработать актером озвучивания для ChatGPT.

В своем интервью Бобби Аллину из NPR она поделилась, что, по его мнению, моя способность сформулировать сложные отношения между технологическими компаниями и творческими людьми во время этой значительной трансформации во взаимодействии человека и искусственного интеллекта может принести уверенность общественности. Он выразил уверенность, что мой голос принесет ощущение комфорта.

Я наблюдал решение Йоханссон не продолжать озвучивание GPT-40, но ее влияние на конечный результат было безошибочным. Голос Неба, который в конечном итоге был использован и выпущен вместе с моделью ИИ, поразительно похож на голос Йоханссон. Чтобы точнее выразить ее чувства, можно сказать, что Йоханссон была глубоко недовольна конечным результатом.

Как исследователь, изучающий последние разработки в области искусственного интеллекта, я был ошеломлен недавним заявлением Скарлетт Йоханссон относительно ее опыта работы с OpenAI. Изображение, которым она поделилась в Твиттере (20 мая 2024 г.), заставило меня задуматься над ее словами: «Могу заверить вас, что я больше, чем просто голос». Ее мнение глубоко перекликалось с моим собственным любопытством по поводу развивающихся отношений между людьми и передовыми системами искусственного интеллекта. По сути, заявление Йоханссон подчеркивает необходимость дальнейшего изучения этических последствий и потенциальных последствий создания все более сложных объектов ИИ.

Как аналитик, я бы перефразировал это следующим образом: «Я выступаю за подлинность голосов ИИ. Они не должны намеренно имитировать уникальный голос знаменитости. Например, голос Скай отличается от голоса Скарлетт Йоханссон и принадлежит другой актрисе, использующей ее. естественный тон речи».

Согласно заявлению Альтмана, OpenAI искала голос Йоханссон, чтобы сделать ИИ более успокаивающим. Кажется, что люди питают больше страха, чем волнения по поводу искусственного интеллекта. Эта тенденция особенно заметна в творческих отраслях, где ИИ все чаще используется для автоматизации таких задач, как письмо, изобразительное искусство, музыка и другие формы самовыражения. Недавно Apple подверглась критике за рекламу, в которой инструменты разбиваются и заменяются iPad.

Создание OpenAI версии голоса Скарлетт Йоханссон для GPT-40, преобразующей текст в речь, без ее согласия, непреднамеренно усилило опасения по поводу замены ИИ творческих людей. Актеры, актрисы, писатели и фотографы выражают опасения по поводу такого развития событий, поскольку оно порождает призрак ИИ, узурпирующего их роли. Возможность того, что OpenAI повторит голос Йоханссон, является ярким примером таких опасений.

В ответ на обнародованную демо-версию голоса Скай я был ошеломлен, разгневан и остался в состоянии недоверия. Меня удивило, что голос мистера Альтмана настолько поразительно похож на мой, что даже мои самые дорогие друзья и средства массовой информации не смогли различить разницу. Чтобы получить разъяснения о том, как OpenAI создал этот голос, я попросил объяснений. В сегодняшнем мире, где мы боремся с дипфейками и защищаем свой имидж, работу и идентичность, эти вопросы заслуживают полной прозрачности.

Мы не должны хотеть, чтобы ИИ звучал по-человечески

Другая точка зрения: помимо сбивающей с толку мысли о том, что корпорация незаконно присвоила голос актрисы после споров по контракту, существуют и другие веские опасения относительно того, почему мы предпочитаем, чтобы голоса ИИ не точно имитировали человеческие голоса, такие как Скай. Хотя голоса OpenAI GPT-4o, включая Sky, демонстрируют замечательную степень человеческих качеств, это создает проблемы. Люди выстраивают прочное доверие и знакомство с человеческими голосами. Взаимодействие с голосовыми помощниками, такими как Siri или Alexa, не оставляет места для двусмысленности — их роботизированная природа очевидна. Однако после диалога с GPT-4o разница между общением с машиной и человеком не всегда может быть столь очевидной.

В настоящее время модели ИИ сталкиваются с серьезной проблемой: они часто с непоколебимой уверенностью дают неправильные ответы. Пользователи могут ошибочно принять эти неточности из-за сопровождающих их предупреждений. Поскольку голоса ИИ становятся все более похожими на человеческие, эта проблема, вероятно, обострится. Среднестатистическому пользователю инструмента искусственного интеллекта может быть легче доверять предоставленной информации из-за разговорного и приветливого тона человеческого голоса.

Попытки OpenAI сделать будущее искусственного интеллекта более привлекательным для общественности непреднамеренно сделали его еще более зловещим. Мы не обязательно хотим, чтобы ИИ имитировал человеческую речь, как GPT-4o, поскольку это может привести к неоправданной степени доверия пользователей к этим моделям. Более того, это может представлять угрозу для художников и творческих людей, таких как Йоханссон.

Смотрите также

2024-05-22 18:56