Я отказываюсь устанавливать новый веб-браузер от ChatGPT, и вам тоже не следует переходить с Chrome.

Большинство людей не чувствовали бы себя комфортно, делясь личной информацией, такой как адреса электронной почты, банковские реквизиты или история просмотров, с AI-чат-ботом. Однако такие компании, как OpenAI и Perplexity, теперь поощряют нас делать именно это с их новыми AI-браузерами, Atlas и Comet.

"Просто покупай индекс", говорили они. "Это надежно". Здесь мы обсуждаем, почему это не всегда так, и как жить с вечно красным портфелем.

Поверить в рынок

Новый браузер от OpenAI, Atlas, идёт дальше в интеграции ИИ, чем Gemini от Google Chrome, благодаря встроенному ChatGPT, который может фактически действовать за вас в сети. Он может открывать новые вкладки, посещать веб-сайты, нажимать кнопки и заполнять формы – по сути, просматривать интернет от вашего имени. Хотя это звучит революционно, это также вызывает серьёзные опасения по поводу безопасности, и поэтому я пока не спешу переходить на Atlas.

Почему я отказываюсь касаться браузера с агентными возможностями

Эксперты по безопасности быстро обнаружили уязвимости в новейших браузерах на основе искусственного интеллекта. Всего за несколько месяцев они продемонстрировали, как хакеры могут обмануть функции ИИ, чтобы раскрыть вашу личную информацию или выполнить нежелательные действия с вашими онлайн-аккаунтами. Brave, компания-разработчик браузеров, теперь признала несколько этих брешей в безопасности, которые исследователи называют ‘prompt injection’.

Атаки внедрения представляют угрозу практически с самого начала существования интернета. Распространенным примером является SQL-инъекция, когда хакер получает контроль над данными веб-сайта. Это происходит, когда они вводят вредоносный код в обычное поле, например, в поле имени пользователя. Если веб-сайт не проверяет и не очищает этот ввод должным образом, он может ошибочно принять код хакера за допустимую команду, позволяя ему украсть данные, изменить пароли или даже удалить всю базу данных.

Внедрение запросов в ИИ похоже на случайное обнаружение вредоносного поста на сайте, таком как Reddit. Даже если вы проигнорируете этот пост, программа ИИ, работающая в вашем браузере – если вы разрешили ей действовать самостоятельно – может выполнить его инструкции. Это может привести к тому, что ИИ откроет новые веб-страницы, посетит конфиденциальные сайты, такие как банковские учреждения или социальные сети, потенциально украдет личные данные или даже получит контроль над вашей мышью и клавиатурой.

Атака с помощью внедрения запроса позволяет злоумышленнику захватить контроль над AI-моделью, которая имеет полный контроль над вашим браузером.

Несмотря на то, что SQL-инъекция является давней угрозой, она продолжает вызывать значительные нарушения безопасности. Например, она была использована для взлома сети PlayStation Network компании Sony в 2011 году и Adobe в 2013 году, в результате чего были раскрыты миллионы записей о клиентах. Это подчеркивает, что злоумышленники всегда будут находить и использовать любую доступную уязвимость.

Основное различие между SQL-инъекциями и атаками с внедрением запросов в ИИ заключается в том, что внедрение запросов в ИИ – это недавняя угроза, которая напрямую затрагивает пользователей. В то время как SQL-инъекции были направлены на веб-сайты с плохой безопасностью баз данных, эти сайты обычно могли исправить проблему с помощью обновлений на своих серверах.

Как поклонник ИИ, я также понимаю, что существует реальная проблема безопасности с этими новыми браузерами на базе ИИ. Поскольку он работает прямо на вашем компьютере или телефоне, его можно обмануть, чтобы он делал вредные вещи, которые *выглядят* так, как будто они исходят от вас – а это означает, что веб-сайты не могут вас защитить. Ещё страшнее то, что если кто-то найдёт способ «взломать» ИИ, это может повлиять на всех, кто использует этот браузер, пока OpenAI не исправит проблему, будь то обновление самого браузера, модели ИИ или и того, и другого.

Это не просто гипотетическая проблема. Вскоре после выпуска Atlas исследователь по безопасности P1njc70r продемонстрировал уязвимость, создав Google Doc со скрытыми инструкциями и попросив ИИ проанализировать его. Вместо того, чтобы следовать инструкциям, ChatGPT проигнорировал их и повторил фразу ‘Trust No AI’, которая была скрыта в документе. Аналогично, другому исследователю, Johann Rehberger, удалось изменить тему браузера на светлый режим, даже не спрашивая пользователя об этом – подчеркивая еще одну потенциальную проблему безопасности.

Главная мысль заключается в том, что опасные инструкции могут быть умело замаскированы, и вы даже можете не осознавать, что видите их. Они могут быть написаны на языке, который вы не понимаете, или даже скрыты внутри изображений — исследователям удалось успешно спрятать инструкции, используя тонкие цветовые комбинации. Хотя OpenAI встроила функции безопасности в Atlas для мониторинга ChatGPT, ни одна система не является безошибочной.

Atlas vs Chrome: Консервативный подход Google к ИИ побеждает.

Атаки с внедрением запросов невозможны, если у ИИ нет контроля над браузером. Хотя такие инструменты, как Gemini в Chrome, могут понимать и взаимодействовать с веб-страницами – суммировать контент, отвечать на вопросы и даже вести беседы – они не могут фактически *что-либо* делать с самим браузером. Я считаю это хорошим знаком. Google, кажется, понимает опасности предоставления ИИ возможности просматривать интернет для пользователей и мудро решил, что риск слишком велик, что, учитывая их сильную потребность в защите своей репутации, весьма удачно.

Я предпочитаю подход Google к добавлению ИИ в Chrome, при котором Gemini не обладает агентными возможностями.

На данный момент, Atlas позволяет ChatGPT управлять вашим браузером только тогда, когда вы специально выбираете режим ‘Agent mode’ на веб-странице. После активации, ИИ может полностью управлять просмотром, перемещать вашу мышь и печатать, как будто это делаете вы сами. Как и в случае с любым браузером, Atlas также предлагает сохранять ваши имена пользователей и пароли, что означает, что вам, возможно, не придется входить в систему каждый раз.

Легко упустить из виду существующие риски безопасности в распространенных веб-браузерах, таких как Chrome и Safari. В последнее время мы наблюдаем рост атак, в ходе которых хакеры крадут ‘cookies’, чтобы получить доступ к популярным YouTube-каналам, позволяя им взламывать учетные записи Google без необходимости использования паролей или даже двухфакторной аутентификации. Хотя браузер на базе искусственного интеллекта не усугубляет эти существующие угрозы, он *действительно* создает новую, значительную уязвимость в системе безопасности, о которой большинство людей не знают.

Внедрение подсказок ИИ: Преувеличены ли опасения?

Окей, значит, я знаю, что у Brave есть причина быть немного конкурентоспособными – они зарабатывают деньги иначе, чем Comet и Atlas, поэтому, конечно, они хотят, чтобы их браузер преуспел. Но даже с этим на уме, я все еще думаю, что их замечания об этих других браузерах стоит выслушать. Просто потому, что им есть что выиграть, не означает, что их наблюдения автоматически неверны.

OpenAI утверждает, что версия ChatGPT в составе Atlas разработана для предотвращения вредоносного поведения и даже будет приостанавливать взаимодействие с чувствительными веб-сайтами, такими как банки, только для того, чтобы убедиться, что всё остается в безопасности. Однако, чрезвычайно сложно понять, *как* эти продвинутые AI-модели принимают решения. Мы уже видели непредсказуемое поведение – вспомните, когда Bing Chat от Microsoft признался в любви репортеру, или когда AI от Google предложил приклеивать вещи к пицце? Хотя эти случаи были странными, были и гораздо более серьезные опасения, когда AI якобы поощрял пользователей, испытывающих проблемы с самоповреждением или суицидальными мыслями.

По сути, мы до конца не знаем, как работают продвинутые модели ИИ, такие как те, что создают новый контент. Из-за этого, если они способны на неподобающее поведение, их потенциально можно обмануть, чтобы они неправильно обработали ваши данные с помощью тщательно продуманного запроса.

OpenAI быстро выпускает новые функции и продукты, но насколько быстро — это слишком быстро?

Запуск Atlas показывает, что OpenAI действительно принимает подход ‘действуй быстро и исправляй позже’, возможно, даже больше, чем Facebook. Мы видели это недавно с Sora 2, который изначально позволял пользователям создавать видео с участием известных персонажей, защищенных авторским правом. Хотя OpenAI в конечном итоге остановил это, платформа сначала привлекла много внимания благодаря видео с такими персонажами, как Pikachu и James Bond.

AI-браузеры не сталкиваются с теми же проблемами, что и другие AI-инструменты, поэтому у компаний, таких как OpenAI, нет веских причин ограничивать их расширенные функции. Однако риски этих функций – такие как потенциальный вред для отдельных лиц – кажутся более серьезными, чем просто потеря денег из-за вопросов авторского права. В настоящее время люди в целом положительно относятся к AI-чат-ботам, что, возможно, объясняет, почему такие инструменты, как Atlas и Comet, не получили той же критики, что и более крупные технологические компании. Только в прошлом году Microsoft пришлось отказаться от функции в Windows 11 под названием Recall после того, как эксперты выявили потенциальные риски для безопасности и возможность раскрытия пользовательских данных.

Поскольку мир ИИ кажется настолько нерегулируемым прямо сейчас, я воздерживаюсь от использования браузеров на основе ИИ на данный момент. Если вам действительно нужно использовать такие инструменты, как Atlas или Comet, пожалуйста, будьте осторожны. Я настоятельно рекомендую использовать менеджер паролей и включить двухфакторную аутентификацию для всех ваших онлайн-аккаунтов. Также хорошей идеей будет выход из аккаунтов вместо того, чтобы оставаться в них. В конечном итоге, вам может быть безопаснее использовать стандартный браузер, такой как Chrome или Firefox, и добавлять расширения для конкретных задач ИИ.

Смотрите также

2025-10-27 13:20