Про AI психоз целых компаний

Так как AI психоз накрывает не только рядовых сотрудников, но и СЕО, он легко может распространиться на всю компанию. Самое яркое проявление – полное безразличие к качеству в угоду скорости и количеству запускаемых фичей. Это безразличие подкрепляется аргументами вида "Выпускать баги не страшно, так как их все равно будут исправлять агенты в масштабе, который и не снился командам кожаных мешков" или "все нормально, у нас полное покрытие юнит-тестами".

Автор заметки, Митчелл Хашимото, которого вы точно знаете как фаундера HashiCorp, сравнивает это состояние с похожей ментальностью при переезде всех в облака. Тогда эта миграция тоже казалась волшебной таблеткой, которая решит вообще все проблемы – ведь быстро поднятый сервис не считается упавшим.

Но реальность работает не так. Вы можете измерять сотни метрик, которые будут показывать, что с вашей системой все хорошо – но на глобальном уровне система становится слишком сложной, никто ее не понимает, риски накапливаются, и когда они отстрелят – случится катастрофа, которую вы никак не сможете контролировать.