История, о которой пишет TechCrunch, произошла на самом деле. Трое туристов из Розвилла планировали подняться на вершину горы Шаста и спуститься к обеду. Вместо этого они добрались до пика только к 19:00, хотя по правилам альпинизма поворачивать назад следовало не позже полудня. На спуске группа заблудилась в каньоне Мад-Крик, один из участников повредил колено, и вместо восьмичасового похода туристам пришлось провести ночь на склоне горы в ожидании спасателей.
Высота Шасты — 14 179 футов, и такие маршруты требуют серьезной подготовки. При этом внимание привлекла не сама спасательная операция, а поиск виновных.
Туристы заявили спасателям, что маршрут и список снаряжения для них составил Google Gemini, после чего офис шерифа округа Сискию возложил ответственность на чат-бота.
Заявление шерифа разошлось по СМИ в категоричной форме, без оговорок о специфике работы языковых моделей:
Это был критический просчет, поскольку Gemini посоветовал им взять гораздо меньше еды и воды, чем требовалось их группе, особенно когда их запланированное восьмичасовое восхождение превратилось в многодневное испытание.
Шериф Джеремайя Лару назвал ИИ главным виновником инцидента.
Материалы об этом опубликовали LA Times и The Independent: по версии изданий, туристы едва не погибли из-за доверия к Gemini.
Как сообщает PCMag, в Google провели внутреннюю проверку и не смогли воспроизвести опасные рекомендации по запасам еды и воды. Представители компании в комментарии для Inc.com подчеркнули, что модель в принципе может ошибаться, и интерфейс содержит предупреждения об этом, а проверять факты обязан сам пользователь.
При этом точные запросы туристов к Gemini не публиковались. Неизвестно, указывали ли они реальную сложность маршрута, запрашивали ли облегченную раскладку или ввели общий запрос в духе "составь список для похода на гору". Без исходных данных подтвердить выводы шерифа невозможно.
Также, в отчетах спасателей есть и другие подробности, не попавшие в громкие заголовки. Группа нарушила базовое правило альпинизма и пошла на подъем после полудня. У туристов не было офлайн-карт на случай потери сигнала, а снаряжение не позволяло провести автономную ночевку.
Даже если чат-бот ошибся в расчетах, решение продолжать подъем во второй половине дня группа принимала самостоятельно.
Инцидент произошел за несколько дней до анонса совместного проекта Google с блогером MrBeast, где Gemini рекламировали, как инструмент выживания в экстремальных условиях, отмечают LA Times и Independent. Для маркетинга компании событие оказалось крайне несвоевременным.
В итоге шерифу проще публично обвинить чат-бот, чем разбирать цепочку человеческих ошибок: от отсутствия карт до срыва графика подъема.
С другой стороны, Google активно продвигает ИИ-ассистентов, как надежных помощников в путешествиях. Когда компания заявляет об универсальности советов модели, любая неточность в критической ситуации неизбежно оборачивается против разработчиков.
#ИИ #Google #Gemini #безопасность #технологии #BrainAidAI