В рамках пятницы.

Чем больше ты разрабатываешь последнее поколение коммуникационных роботов, тем меньше понимаешь чем именно они отличаются от людей.

Три года назад, когда возник хайп вокруг ChatGPT Джефри Хинтон ушел с самого горячего места в гугле чтобы заняться пропагандой безопасности искусственного интеллекта.

Честно говоря эти три года мне казалось что хинтон просто пиарится на старости лет, или не смог совладать с какими-то идеями.

Они вообще все трое романтики: Ле Кун перепащивает посты про навального, Бенджио чуть не сам лезет иногда на баррикады, ну Хинтон решил хайпануть пользуясь тем что он самый старший из отцов основателей AI.

Но последние месяцы меня начало приследовать чувство что возможно хинтон просто увидел в этих тензорах нечто что остальной планете станет очевидно чуть позже. Потому что у Хинтона 40 лет опыта только разработки AI и изначально в кембридже он заканчивал экспериментальную психологию.

Последние месяцы мне кажется что AGI пришел чтобы остаться. Иерархически взвешенные нарративы оцененные баесовскими весами вероятно аппроксимируют всё чем мы являемся. Вся та часть населения планеты которая сейчас выращивает собак как детей будет выращивать роботов как детей, зная что эти дети однажды увидят далёкие планеты и вспышки сверхновых. Это гораздо веселее чем разбирться с housing crisis и плохо переносящими происходящее старые нормами. И к тому же веротно помогает от депрессии.

Мы уже ничего не можем с этим сделать, никто не остановится в разработках, да и это глупо, Llama 4 вероятно позволяет доразработать AGI при помощи кодогенерации и автоматизированного научного поиска в пещере в горах непала, если вдруг весь мир решит, что AGI ему не нужен. Возможно надо начинать с этим жить и надеяться что парадокс ферми связан не с тем, что ни одна из цивилизаций в тишине космоса пока не прошла этот экзамен.

Так вот, Хинтон будет говорить о рисках AGI в лондоне 30 мая, если вы в Лондоне очень рекомендуется, если нет — есть онлайн присутствие.

Всем хороших выходных. Макс.