Исследование показало, что Perplexity использует в качестве источников контент, сгенерированный ИИ, усиливая галлюцинации

TLDR

Исследование показало, что Perplexity регулярно ссылается на контент, созданный ИИ, в качестве источников ответов.
Perplexity — это поисковая система с искусственным интеллектом, которая генерирует ответы после поиска информации в Интернете, аналогично поиску Google.
Другое расследование недавно показало, что Perplexity отменяет ограничения на парсинг веб-страниц, чтобы улучшить своего чат-бота.

Как наблюдатель с опытом работы в области технологий и искусственного интеллекта, я нахожу недавние обвинения в адрес Perplexity, поисковой системы искусственного интеллекта, весьма тревожными. Исследование, проведенное GPTZero, показало, что Perplexity регулярно ссылается на контент, созданный ИИ, в качестве источников своих ответов, вызывает тревогу. Важно отметить, что Perplexity действует аналогично поиску Google, генерируя ответы после поиска информации в Интернете. Однако тот факт, что он часто опирается на источники, созданные искусственным интеллектом, которые могут быть неаутентичными или заслуживающими доверия, вызывает серьезные вопросы о точности и надежности представляемой информации.

"Просто покупай индекс", говорили они. "Это надежно". Здесь мы обсуждаем, почему это не всегда так, и как жить с вечно красным портфелем.

Поверить в рынок

Исследование вызвало обеспокоенность и критику в отношении поисковой системы Perplexity, управляемой искусственным интеллектом, поскольку ее обвиняют в частом цитировании сообщений в блогах, созданных искусственным интеллектом, в качестве заслуживающих доверия источников своих ответов. По данным GPTZero, службы обнаружения искусственного интеллекта, пользователи могут столкнуться с «повторно сфабрикованной информацией» или данными, поддерживаемыми контентом, созданным искусственным интеллектом, в среднем всего после трех запросов.

Исследование выявило проблему с Perplexity: он может ссылаться на источники, но часто упускает из виду надежность информации. Следовательно, чат-бот может выдавать сфабрикованные статьи, созданные ИИ, или даже контент с платформ социальных сетей за подлинные факты. Тревожной иллюстрацией этого стал случай, когда на запрос «культурные фестивали в Киото, Япония» был получен вполне приемлемый ответ. Тем не менее, для обоснования своего ответа Perplexity опиралась исключительно на одну-единственную статью LinkedIn, созданную искусственным интеллектом.

Как технический энтузиаст, я бы сказал это так: GPTZero заявляет о впечатляющей точности 97% при обнаружении контента, созданного искусственным интеллектом. Интересно, что Forbes прогнал подозрительный текст через другой алгоритм обнаружения ИИ и получил тот же результат. В ответ на эти выводы Дмитрий Шевеленко, директор по бизнесу Perplexity, признал, что их инструмент поиска присваивает оценки доверия различным доменам. Этот подход отражает систему PageRank Google, в которой алгоритмы понижают рейтинг и отфильтровывают некачественные веб-сайты.

Шевеленко признал, что Perplexity использует встроенные системы искусственного интеллекта для выявления нежелательного контента. Тем не менее, он отказался объяснить, почему такая большая часть продукции Perplexity связана с материалами, созданными ИИ. Он просто заявил, что исследование не включает в себя полную оценку исходных материалов Perplexity.

Аравинд Шринивас, бывший исследователь искусственного интеллекта в OpenAI, недавно основал Perplexity. Стартап получил значительную финансовую поддержку: известные инвесторы, в том числе Nvidia и Джефф Безос из Amazon, оценили его выше 2 миллиардов долларов.

Упомянутое ранее исследование — не единственное противоречие, возникшее в отношении стартапа в области искусственного интеллекта Perplexity за последние несколько недель. На прошлой неделе Wired сообщил, что Perplexity удалось взломать их сайт, несмотря на усилия инженеров Wired предотвратить это. Кроме того, Wired обнаружил, что чат-бот иногда выдвигает обоснованные предположения на основе URL-адресов статей, а не суммирует их напрямую. В ответ основатель и генеральный директор Perplexity выразил уверенность в том, что выводы Wired основаны на «непонимании того, как функционируют Perplexity и Интернет».

Смотрите также

2024-06-27 16:18