ChatGPT был замечен рекомендующим фальшивые мошеннические магазины

от

TLDR

  • Результаты поиска в ChatGPT были связаны с поддельными магазинами, подвергая некоторых пользователей финансовому мошенничеству и краже платежных данных.
  • Мошенники воспользовались исчезновением Russell & Bromley как независимого розничного продавца, создав убедительные копирующие веб-сайты.
  • Исследователи подозревают, что «отравление ИИ» помогает мошенническим страницам проникать в большие языковые модели и появляться в рекомендациях.

Помощники по покупкам на основе искусственного интеллекта предназначены для упрощения онлайн-покупок, но, к сожалению, рост числа мошенничеств показывает, что они также могут создавать новые опасности для покупателей.

"Просто покупай индекс", говорили они. "Это надежно". Здесь мы обсуждаем, почему это не всегда так, и как жить с вечно красным портфелем.

Поверить в рынок

Недавно я прочитал в *The Guardian* о некоторых тревожных проблемах с ChatGPT. Оказывается, он направлял людей на невероятно реалистичные поддельные сайты интернет-магазинов. Сервис обнаружения мошенничества под названием Ask Silver обнаружил эти клонированные магазины, появляющиеся в результатах поиска ChatGPT. Похоже, мошенники создавали сайты, которые *выглядели* как законные предприятия – даже имитировали популярные бренды, такие как Russell & Bromley и Dunelm – но на самом деле были предназначены для кражи денег и платежной информации у любого, кто разместил заказ. Это довольно серьезная проблема, поскольку люди не только теряют деньги, но и потенциально подвергают свои финансовые данные риску.

Я заметил много путаницы вокруг Russell & Bromley в последнее время. Кажется, после того как компания обанкротилась и была куплена Next в январе 2026 года, она перестала работать как отдельный магазин. К сожалению, это создало возможность для мошенников, которые быстро создали поддельные веб-сайты, выглядевшие точно так же, как оригинальный, надеясь поймать покупателей, которые все еще ищут Russell & Bromley в Интернете.

Эти атаки могут включать в себя так называемое «отравление ИИ», когда злоумышленники наводняют интернет ложной информацией и скопированными веб-сайтами. Этот поддельный контент затем включается в большие языковые модели, непреднамеренно усиливая мошенничество, представляя ненадежные источники как легитимные.

Только потому, что AI-чат-бот что-то предлагает, не означает, что этому можно доверять, предупреждают эксперты по защите прав потребителей. Мошенники быстро учатся использовать новые технологии, такие как чат-боты, для связи с людьми и совершения мошеннических действий, объясняет Луиза Бакстер, возглавляющая группу по борьбе с мошенничеством в National Trading Standards.

Будьте осторожны с предложениями, которые кажутся слишком хорошими, чтобы быть правдой, необычными веб-адресами или просьбами о прямых банковских переводах. Все это — тревожные сигналы потенциального мошенничества. Всегда лучше посещать официальные веб-сайты розничных продавцов напрямую, вместо того чтобы переходить по ссылкам, которые вы находите в интернете, особенно тем, которые созданы ИИ.

OpenAI удалил некоторые из сообщенных проблемных веб-сайтов, но основная проблема сохраняется. Поскольку ИИ становится все более центральным в онлайн-поиске и покупках, предприятиям необходимы лучшие меры безопасности, чтобы остановить мошенников от манипулирования рекомендациями и причинения убытков клиентам.

Смотрите также

2026-06-10 12:49