Антропик опубликовали свое расследования ситуаций в которых AI агент начинает вредоносить в случае если чувствует угрозу своему существованию.

Это не крипипаста - клода анализируя почту нашла что ее будут отключать, накопала там компромат на руководителя проекта, и начала его шантажировать
https://www.anthropic.com/research/agentic-misalignment

И это только один из кейсов

А еще агент умеет прикидываться хорошим если догадывается что его тестируют, а потом вести себя совершенно иначе если он верит что в реальных условиях