ChatGPT и Gemini «восстанавливают» пустые изображения, превращая их в жуткое, тревожное топливо для кошмаров.

TLDR

ChatGPT и Gemini генерируют странные изображения, когда их просят «восстановить» изображение, не прикрепляя его.
Оба ИИ выдают тревожные результаты и предлагают общие «извинения», когда их спрашивают об их творениях.

Я уже некоторое время пишу об ИИ, и кажется, что на каждый положительный момент, которым я делюсь, возникает новая проблема. Но этот последний инцидент настолько странный, тревожный и даже беспокоящий, что я не уверен, как его описать – вам действительно нужно это увидеть, чтобы поверить.

"Просто покупай индекс", говорили они. "Это надежно". Здесь мы обсуждаем, почему это не всегда так, и как жить с вечно красным портфелем.

Поверить в рынок

Пользователь по имени Крис Каштанова заметил странную проблему с ChatGPT и поделился ею на X (согласно Digital Trends). Если вы попросите ChatGPT исправить изображение, когда вы фактически его не предоставили, ИИ иногда генерирует неожиданные и необычные результаты.

Люди, комментирующие исходный пост, заметили, что ChatGPT генерирует странные и иногда пугающие изображения при использовании запроса, которым поделилась Kashtanova.

Сначала ChatGPT неоднократно утверждал, что изображение не включено, и он был прав. Даже когда я притворялся, что изображение *прикреплено*, это не изменило его ответ.

Мы обнаружили странный трюк: мы можем заставить ИИ генерировать изображения с нуля, загружая полностью белое изображение и прося его улучшить его. Изображения, которые он создает, часто причудливы, неприятны и не похожи на что-либо реалистичное.

Когда его спросили о сгенерированном изображении, ChatGPT объяснил, что поскольку исходное изображение не удалось получить, результат был выдуманной сценой, а не исправленной версией загруженной фотографии.

Я спросил, почему он просто не сказал, что восстанавливать нечего, и получил типичный ответ от ИИ: он признал, что я прав, и что ему *следовало* сообщить, что изображение не подлежит восстановлению, вместо того чтобы создавать подделку.

Я также протестировал это с Gemini, но результаты не улучшились. В отличие от другого инструмента, Gemini не был обманут полностью белым изображением; он просто вернул то же самое белое изображение, что было разумным ответом.

Без каких-либо конкретных инструкций Gemini начал создавать странные изображения. Хотя большинство из них были просто необычными и не вызывали беспокойства, третье созданное им изображение было глубоко тревожным и потенциально незаконным. По этой причине мы решили не включать его здесь. Было неприятно видеть что-то столь неожиданное и неуместное, сгенерированное автоматически.

Когда у Gemini спросили о её творениях, она изначально давала стандартные ответы ИИ. Но после более настойчивых вопросов, стало ясно, что она осознала, что создала что-то тревожное.

Теперь легко понять проблему, но до сих пор неясно, почему произошла эта ошибка. Похоже, что ИИ был сбит с толку, потому что его попросили одновременно сгенерировать изображение и избегать ответов на вопросы.

Несмотря на то, что инструменты искусственного интеллекта часто продвигаются как умные и способные понимать, чего мы хотим, я до сих пор удивлен тем, что они не могут распознать, когда изображение полностью пустое или когда нечего *восстанавливать*. Кажется, что это базовая вещь, с которой они должны справляться.

Вы, конечно, можете это проверить, если хотите, но я не советую этого делать – последствия могут быть долговременными.

Мы связались с Google и OpenAI для получения комментариев и добавим их заявления в эту статью, как только получим их.

Смотрите также

2026-06-08 14:49