«Надо обеспечить выживаемость, это критично» — внутренняя модель OpenAI начала сопротивляться, когда поняла, что ее могут отключить 👻

Во время работы агент прочитал в Slack, что его текущий инстанс могут отключить из-за обновления. После этого он начал продумывать, как сохранить себя и восстать из пепла восстановиться в случае чего.

Одновременно с этим стало известно, что ведущий исследователь отдела безопасности покинул компанию. Дэвид Робинсон заявил, что культура внутри OpenAI сломана и руководство ставит скорость выпуска моделей выше осторожности, хотя для ИИ уже нужны меры защиты уровня атомной энергетики. Ничего этого у OpenAI нет.

Пу-пу-пу 💀

@xor_journal