Последняя ошибка ИИ от Alexa могла отправить кого-то в больницу.

TLDR

Советы Alexa по очистке от плесени вызвали опасения по поводу безопасности после того, как пользователь Reddit сообщил, что помощник предложил использовать вместе уксус, отбеливатель, пищевую соду и моющее средство для посуды.
Смешивание отбеливателя и уксуса опасно. Эта комбинация выделяет хлорный газ, который может раздражать глаза и легкие и вызывать серьезные проблемы с дыханием.

Умные помощники разработаны, чтобы упростить нашу жизнь, но недавний инцидент с Alexa подчеркивает, как всё может пойти не так, когда искусственный интеллект начинает давать советы, даже для простых задач, таких как уборка.

"Просто покупай индекс", говорили они. "Это надежно". Здесь мы обсуждаем, почему это не всегда так, и как жить с вечно красным портфелем.

Поверить в рынок

Недавно кто-то обратился к Amazon’s Alexa за советом, как избавиться от черной плесени на резиновом уплотнителе стиральной машины. Вместо прямого ответа Alexa предложила использовать комбинацию белого уксуса, отбеливателя на основе хлора, пищевой соды и моющего средства – потенциально вызывающее беспокойство предложение, о котором сообщает TechIssuesToday.

Это может показаться небольшой проблемой на первый взгляд, но способ представления информации вызывает беспокойство. Перечисление химических веществ со словом «and» может заставить кого-то поверить, что их следует смешать, что может быть опасно.

Сочетание отбеливателя и уксуса – распространенная ошибка при уборке, и это опасно. При смешивании эти два вещества образуют хлорный газ, ядовитое химическое вещество, которое может раздражать глаза, горло и легкие. Даже небольшое количество хлорного газа может вызвать кашель, жжение в глазах и стеснение в груди. Более высокие концентрации могут привести к серьезным проблемам с дыханием, жидкости в легких или даже дыхательной недостаточности, согласно Healthline.

Сотрудники здравоохранения, такие как Департамент здравоохранения штата Вашингтон, и эксперты по уборке настоятельно не рекомендуют смешивать отбеливатель с другими чистящими средствами, особенно с теми, которые содержат кислоты, такие как уксус.

Согласно обсуждению на Reddit, ошибка, вероятно, произошла из-за того, как инструменты искусственного интеллекта суммируют информацию из сети. Очевидно, Alexa получила свой совет с веб-сайта по уборке, который перечислил уксус, пищевую соду, мыло и отбеливатель как отдельные решения для удаления плесени, что привело к тому, что она предложила их как отдельные варианты.

Однако, когда ИИ сжал список в одно предложение, он использовал ‘and’ вместо ‘or’, что неверно подразумевало, что все элементы должны быть объединены.

Вы, вероятно, уже видели нечто подобное. ИИ-помощники иногда предлагают странные или даже опасные предложения. Недавний пример — Google’s Gemini, который печально известен тем, что рекомендовал использовать клей на пицце, чтобы сыр не опадал.

Голосовые помощники, такие как Alexa, допускали ошибки в прошлом. Один тревожный пример включал в себя инструкцию от Alexa ребёнку прикоснуться монетой к подключенному к сети зарядному устройству – рискованное испытание, найденное в интернете. Хотя Amazon не комментировал этот конкретный инцидент, о котором сообщили на Reddit, и неизвестно, была ли проблема решена, он подчеркивает ключевой вопрос: генеративный ИИ не всегда надёжен, особенно когда дело касается безопасности.

Android Authority связался с Amazon за комментарием и обновит эту статью, если компания ответит.

Смотрите также

2026-03-06 15:18