Руководитель отдела поиска Google говорит, что эти ошибочные результаты обзора AI будут исправлены

Руководитель отдела поиска Google Лиз Рид рассказала о проблемах, которые возникли из-за ошибок в обзорах ИИ.
Рид заявил, что бот с искусственным интеллектом в конечном итоге слишком серьезно воспринял «бессмысленные» и «сатирические» вопросы и в конечном итоге использовал ответ интернет-тролля, чтобы заполнить пустоту.
В дальнейшем Рид говорит, что Google введет ограничение на количество «генерируемого пользователями» контента, который принимает его ИИ, а также системы обнаружения «бессмысленных» вопросов.

Как наблюдатель с опытом работы в области технологий и искусственного интеллекта, я нахожу признание Лиз Рид проблем, связанных с обзорами искусственного интеллекта Google, одновременно интригующим и тревожным. Приведенные ею примеры бессмысленных и сатирических вопросов, приводящих к неправильным ответам, являются напоминанием о проблемах, с которыми мы сталкиваемся при разработке передовых систем искусственного интеллекта, способных понимать контекст и намерения.

"Просто покупай индекс", говорили они. "Это надежно". Здесь мы обсуждаем, почему это не всегда так, и как жить с вечно красным портфелем.

Поверить в рынок

На прошлой неделе Лиз Рид, руководитель отдела поиска Google, попыталась прояснить ситуацию после необычного знакомства с результатами обзора ИИ компании.

Рид отметил в своем посте, что результаты поиска Google, основанные на искусственном интеллекте, иногда дают странные и неверные ответы на запросы пользователей. Он отметил, что, хотя некоторые из этих случаев могут быть связаны с вводящими в заблуждение скриншотами, опубликованными в социальных сетях, другие действительно были подлинными. По словам Рида, основной причиной этих ошибок был нечастый поиск по конкретным запросам.

Как аналитик, я заметил, что были случаи, когда ИИ Google с трудом интерпретировал определенные запросы, особенно те, которые носили бессмысленный или сатирический характер. В ответ на эту проблему Google внимательно изучает свой подход к пониманию и обработке таких запросов, чтобы улучшить общее взаимодействие с пользователем.

В своих примерах Рид часто задавал необычный вопрос: «Сколько камней мне следует съесть?» Хотя это не то, что кто-либо в здравом уме мог бы сделать, ИИ не обладает пониманием или здравым смыслом, чтобы признать это. Руководитель группы поиска признал, что из-за отсутствия важных данных в Интернете этот вопрос стал тем, что они называют «информационным пробелом».

ИИ попытался ответить на запрос, но, к сожалению, дал тролльский ответ на неуместный вопрос. Кроме того, Рид отметил, что ИИ вызвал саркастические и юмористические комментарии на онлайн-форумах о нетрадиционной практике приклеивания сыра к пицце с помощью клея.

Google добивается значительных успехов в улучшении своих обзоров искусственного интеллекта в более широком масштабе, уделяя больше внимания решению различных проблем, а не просто ответам на отдельные, казалось бы, случайные запросы. По словам Рида, компания инициировала разработку передовых систем обнаружения бессмысленных запросов и сократила количество сатирического и юмористического контента, обрабатываемого ИИ. Кроме того, теперь существует ограничение на объем пользовательского контента, на который полагается ИИ.

Когда речь идет о здоровье и важных новостях, Google категорически отказывается показывать сводки, созданные с помощью искусственного интеллекта, чтобы сохранить точность и достоверность предоставляемой информации.

Искусственный интеллект Google Search собирает данные со всего Интернета, что представляет собой проблему, учитывая присутствие троллей и дерьмовых постеров. К счастью, поскольку компания продолжает поддерживать мнение пользователей, ожидается, что эти проблемы постепенно уменьшатся. Хотя мы, возможно, еще не достигли среды, полностью наполненной фактами, мы надеемся на увеличение количества точной информации.

Кроме того, проблема с обзором ИИ возникла примерно через две недели после их универсального выпуска компанией. На конференции Google I/O 2024 было объявлено, что пользователи из США получат эти обзоры 14 мая вместе с некоторыми настройками корректировки запросов. Как правило, обзоры представляют собой краткие изложения, предоставляющие пользователям важную информацию в легко усваиваемых форматах.

Кроме того, эти сводки ИИ предлагают пользователям возможность перекрестно ссылаться на информацию, включая соответствующие ссылки для целей проверки фактов.

Смотрите также

2024-06-01 00:26