🦾 Бывший исследователь OpenAI и Anthropic уволился из-за страха, что AI может уничтожить человечество.

Джейкоб Коксон, занимавшийся предварительным обучением AI-моделей, заявил, что ведущие лаборатории фактически участвуют в гонке за создание самоулучшающегося сверхинтеллекта:

«Люди, создающие AI, искренне верят, что он может убить нас всех к концу десятилетия».

По его словам, в Anthropic риски понимают особенно хорошо, но продолжают гонку, опасаясь, что сверхинтеллект первой создаст другая компания.

Самое интересное, что с ним публично согласился действующий специалист Anthropic по AI-безопасности Эван Хубингер.

Он оценивает вероятность того, что AI уничтожит человечество в течение следующего десятилетия более чем в 10% и признает, что готового решения проблемы безопасности сверхинтеллекта пока нет.

Crypto Headlines