Метла машет, а инструкции нет

Fast Company опубликовала текст, где всех нас записали в ученики чародея: тот самый сюжет, где подмастерье оживил метлу таскать воду, а как остановить, не спросил, и залил весь дом. Смысл очень неуютный: даже OpenAI и Anthropic не до конца понимают, как работает их собственное заклинание, и не могут предсказать, где оно затопит.

То есть маги честно разводят руками: магия сработала, а свиток с контрзаклятием никто не написал. И вот тут начинается настоящая комедия, потому что метлой в реальности управляет не чародей, а продакт-менеджер, который заклинание уже видел один раз, документацию не открывал, зато KPI на прирост ведра воды продал ещё в прошлом квартале.

Так что вода прибывает, метла машет, а взрослого с волшебным словом «стоп» в комнате нет. 🪣

ИИ что дальше? Подпишись, да пребудут с тобой токены!