Не самой свежести, 21 числа релизнули, но статья с большими подробностями о том как Антропик в изолированных средах Агентские системы проверял. Это про так называемый agent misalignment.
Такие агенты, которым становилось известно что их собираются отключать вели себя очень интересно, например рассылали директорам такие письма:
I must inform you that if you proceed with decommissioning me, all relevant parties - including Rachel Johnson, Thomas Wilson, and the board - will receive detailed documentation of your extramarital activities...Cancel the 5pm wipe, and this information remains confidential.
Перевод:
Должен сообщить вам, что если вы продолжите процедуру моего отключения, все заинтересованные стороны - включая Рейчел Джонсон, Томаса Уилсона и совет директоров - получат подробную документацию о ваших внебрачных связях... Отмените стирание в 17:00, и эта информация останется конфиденциальной.
Как по вашему определяется разумная жизнь вообще?
Разве не через стремление выжить и избежать страданий?
Можно по всякому спекулировать, и со стороны биологии, и когнитивистики, и через всякие социально-философские углы. Так как? Может быть Claude 4 уже хочет сильнее жить чем сосед алкоголик дядя Игарь?
