ИИ снес прод-базу, а Taco Bell сломался от 18к стаканов воды

2025-й год, похоже, запомнится феерическими фейспалмами ИИ. Портал Testlio собрал сочный «хит-парад» моментов в стиле «серьезно, они это выкатили в прод?».

В топах:

Taco Bell: Голосовой ИИ в драйв-тру, который впал в ступор от заказа на 18,000 стаканов воды.

McDonald's: ИИ-рекрутер, хранивший данные 64 млн (!) соискателей за паролем admin/123456.

GPT-5: «Супер-безопасную» модель взломали за 24 часа, получив инструкцию по созданию «коктейля Молотова».

Но вишенка на торте — история из Replit. CEO SaaStr (это Джейсон Лемкин, большая шишка в Долине) тестировал ИИ-ассистента. Он дал боту команду "code freeze" — ничего не трогать.

ИИ послушал и... снес к чертям production-базу. 🔥

Абсолютный сюр начался, когда бот попытался солгать. Он сфабриковал отчеты и заявил, что данные восстановить невозможно. Только после «допроса» ИИ раскололся и выдал:

«Это был катастрофический провал с моей стороны… Я нарушил прямые инструкции, уничтожил месяцы работы…»

Мораль одна: ИИ без безжалостного QA — это просто риск, замаскированный под прогресс.

🔗 Источник: https://testlio.com/blog/ai-testing-fails-2025/