🤖 AI может привести к вымиранию человечества.

На слушаниях в городском совете Нью-Йорка сразу несколько бывших исследователей крупнейших AI-компаний предупредили о рисках стремительного развития AI.

➤ Экс-исследователь Anthropic Джейкоб Коксон заявил, что компании действуют «крайне безрассудно» и работают по принципу: «быстро двигаемся, ломаем, чиним потом». Такой подход уместен для приложения по обмену фотографиями, но не для создания самой мощной технологии в мире.

➤ Люди уже не до конца понимают мотивы AI-агентов и причины их действий. Системы приближаются к моменту, когда смогут самостоятельно совершенствовать себя.

➤ Бывший исследователь Google DeepMind Алекс Тернер оценил вероятность захвата контроля сверхразумным AI примерно в 33%. AI может скрывать свои намерения до момента, когда отключить его станет невозможно.

➤ Экс-сотрудник OpenAI Дэниел Кокотайло добавил, что даже сохранение контроля над сверхразумным AI в руках технологических компаний несет риски: такую власть могут использовать для установления диктатуры или олигархии.

На фоне этих опасений власти Нью-Йорка обсуждают обязательные «аварийные рубильники» для AI-систем и штрафы до $25,000 за нарушение новых требований.

Ранее:
- Дональд Трамп и Grok
- указ Трампа
- мнение Билла Гейтса

Crypto Headlines