Посмотрел вчера интервью Ильи Суцкевера на подкасте Дваркеша Пателя. Илья поговорил про будущее AGI, конец претрейна в текущем виде, об оптимизации моделей под прохождение тестов и природу этого.

Самое классное для меня в таких подкастах — это даже не предсказания будущего или супер-экспертная оценка происходящего, а фреймворк мышления и то, что можно достать из этого chain-of-thought Ильи (или другого топового гостя).

Самая крутая мысль на мой взгляд — про эволюцию как способ кодирования самого важного, что передается сквозь тысячелетия и поколения. «Простые сигналы» типа желания вкусно есть расшифровываются очень легко, потому что это относительно понятная химическая реакция. Но эволюция встроила в нас сложнейшие социальные желания (статус, признание, социальная интуиция), которые требуют огромных вычислений мозга для понимания ситуации.

«Каким-то образом неинтеллектуальный геном закодировал: „Заботься о результате вот этого сложнейшего вычисления большого куска твоего мозга." Это остаётся глубокой тайной — и возможно, ключом к созданию по-настоящему общего интеллекта». Шик!

Шикарная тема для поразмышлять (проснулся сегодня именно с ней) как просто в свободное время, так и для бара 😀

Максимально рекомендую!

https://www.youtube.com/watch?v=aR20FWCCjAs