Выводы из этого:
1. Парадокс очень простой:
- сверхчеловеческий ИИ скорее всего будет не aligned и приведет к некоторого масштаба пиздецу
- будущее человечества неизбежно связано со сверхчеловеческим ИИ
2. Люди в лабах не имеют решения. Сегодня я видел как минимум 10 постов от людей из OpenAI, Anthropic, DeepMind на тему того, что прогресс происходит значительно быстрее способности его понимать и сегодня это фактически неуправляемый поезд, который едет под откос.
(Люди в чатике конечно же имеют триллион решений - если бы только ноунеймуса поставили вместо Дарио и Трампа, то он конечно минут за 15 все порешал бы и все войны прекратил и все болезни вылечил. В чатике это он для души, а на деле верховный адмирал-епископ всея вселенной)
3. Большая часть мира вообще не вдупляет что происходит. Вчера примерно половина медиа, которые я смотрел, даже не написали о Навье-Стокс, хотя ретроспективно это наверняка будет самым или как минимум топ-3 главных событий 2026 года.
Post #3211
13.9K
e/acc Интересный обмен мнениями случился сегодня: Jacob Coxon, исследователь, последние три года работавший над предобучением в OpenAI и Антропике, сегодня уволился, написав что обе компании несутся к самоулучшающемуся сверхинтеллекту, не имея достаточного контроля…
- ❤ 156