6. AGI и RSI это разные вещи, и приравнивать их значит путать цель со средством. RSI это механизм, потенциально мощный, но пока не замкнутый; AGI это широта способностей; ASI это уровень. Склейка выгодна лабораториям по вполне земным причинам: она автоматизирует их главный актив, оправдывает капитал, переносит финишную черту под их контроль и совпадает с их порогами безопасности.
Наверняка в ближайший год кто-то из крупных игроков объявит внутреннюю систему, удовлетворяющую его собственному определению AGI через автоматического исследователя, и сделает это раньше, чем появятся независимо воспроизводимые доказательства устойчивого RSI.
Практический вывод: надо смотреть на воспроизводимые замеры с учётом стоимости вычислений, на способность систем выбирать задачи, а не только исполнять их, на то, фиксирует ли компания бюджет вычислений в своих заявлениях о продуктивности.
А твиты со знаком равно между AGI и RSI, графики без доверительных интервалов, метрики вроде строк кода, оценки продуктивности по ощущениям пользователей игнорировать.
Post #196
274
- ❤ 1
- 🔥 1