TLDR
- Google делится новыми деталями программы вознаграждения за обнаружение уязвимостей (Vulnerability Reward Program) для AI.
- Самые опасные уязвимости могут принести своим обнаружителям до $20,000.
Травля недопустима, особенно когда дело касается людей. Однако некоторым энтузиастам ИИ, похоже, нравится доводить чат-ботов до предела и заставлять их делать то, для чего они не были предназначены – например, выдумывать ложную информацию или обходить ограничения безопасности. Теперь Google предлагает вознаграждение тем, кто сможет успешно найти способы «взломать» их ИИ-ботов.
"Просто покупай индекс", говорили они. "Это надежно". Здесь мы обсуждаем, почему это не всегда так, и как жить с вечно красным портфелем.
Поверить в рынокРечь не о незначительных проблемах, таких как случайное срабатывание ИИ на ключевое слово в резюме, которое отправляет вам рецепт флана. Это гораздо более серьезная проблема.
Google запускает новую программу для вознаграждения исследователей безопасности, которые находят и сообщают о серьёзных недостатках в своих моделях ИИ, таких как Gemini. Они ищут ошибки, которые могут нанести реальный вред, например, несанкционированный доступ к учётным записям пользователей или раскрытие конфиденциальной информации о том, как работает Gemini. Простые проблемы, которые просто заставляют ИИ казаться несовершенным, не подходят; проблема должна быть значительной.
Исследователи, обнаруживающие значительные уязвимости в продуктах искусственного интеллекта Google, могут получить существенные вознаграждения, до 20 000 долларов за наиболее критические проблемы, затрагивающие популярные сервисы, такие как Search и приложение Gemini.
Хотя эти недостатки в системе безопасности могут не привлекать столько внимания, как забавные, вирусные трюки, они гораздо важнее для поддержания надёжности и надёжности Gemini. Заставить ИИ сказать что-то глупое – это одно, но гораздо хуже, если кто-то сможет заставить его делиться опасными ссылками, например, в фишинговой атаке. Как обычным пользователям Gemini, хорошо знать, что Google активно работает над поиском и устранением этих проблем, не отставая от тех, кто пытается эксплуатировать систему.
Смотрите также
- Лучшее время для обмена долларов на новозеландские доллары — прогноз, которому можно верить
- 10 лучших чехлов, которые обязательно нужно иметь для вашего нового Samsung Galaxy S25 Ultra!
- Кто действительно осмеливается быть Человеком-Пауком? Рейтинг паукообразных от лучших к худшим!
- Все основные актеры из ‘Клана Сопрано’, которые умерли
- Актеры, Умершие Трагически во Время Съемок
- Приготовьтесь к новым огорчениям: официально анонсирована ‘Киберпанк: Эджерраннеры 2’!
- Лучшие телефоны для людей, чувствительных к ШИМ/мерцанию, 2024 г.
- Первые 13 вещей, которые нужно сделать с OnePlus 13
- Лучшие телефоны Android для студентов 2024 года
- Уиллему Дефо в какой-то момент своей карьеры понадобился «каскадерный пенис», и причина, по которой это не что иное, как хвастовство
2025-10-06 18:48