🤖 ИИ может начать разгонять сам себя

Такой сценарий уже вызывает беспокойство даже у самих создателей нейросетей. И у него есть название — RSI (рекурсивное самоулучшение).

Начинается всё с того, что ИИ, обучившись работать с кодом, предлагает изменения для своей же архитектуры. Потом он уже сам начинает улучшать себя, что позволяет ему вносить ещё больше изменений, которые позволят ему ещё эффективнее улучшать себя, чтобы вносить ещё больше изменений, — и так до бесконечности. Эта та самая экспонента, про которую говорили ещё на заре создания ИИ — феномен называют «взрывом интеллекта». 

И этот процесс уже запущен. Сейчас Claude ведёт 26% задач Anthropic по разработке ИИ и участвует в более чем в 90%. Anthropic заверяет, что полностью автономного RSI пока ещё не существует, но эту границу можно перейти очень быстро.

Подписывайтесь 👉 @techno_yandex