AGI у Anthropic это как атомная бомба у Гитлера (с)

Инженер DeepSeek Лю Шэнъюй опубликовал в WeChat эссе об эволюции ИИ. Лю пишет GPU-кернелы, низкоуровневый софт, который оптимизирует вычисления на GPU: от этих кернелов зависит, насколько быстро модель обучается и работает. Лю, по его словам, писал  GPU-кернелы для механизма внимания в только что вышедшей DeepSeek V4.1. За год ИИ в его области прошел путь от помощника, который ищет по документации и ловит баги, до системы, которая сама профилирует и оптимизирует код на уровне отдельных инструкций. Через полгода-год, считает Лю, ИИ скорее всего будет писать их не хуже или даже лучше.

Улучшать модели, которые его заменят, он при этом продолжит. Отчасти потому, что оптимизация для него как спидран в игре, но главная причина в другом: даже если он начнет халтурить или саботировать обучение, модели других компаний все равно его «прикончат». Раз все так упорно уничтожают сами себя, пишет Лю, приходится участвовать в жестокой гонке вооружений. Остаться без работы он не боится, но любимое ремесло придется бросить и стать «пилотом меха», который управляет агентами.

В финале эссе Лю описывает две крайности, к которым может прийти общество с ИИ: коммунизм или Cyberpunk 2077, где несколько компаний контролируют ресурсы и лучшие модели, а большинству достается слабый ИИ. Передовой ИИ, по его мнению, должен быть открытым и дешевым для всех, и ни Anthropic, ни OpenAI он в этом не доверяет. Больше всего он не хочет, чтобы самый продвинутый ИИ или AGI достался Anthropic, и, по собственным словам с преувеличением, сравнивает это с атомной бомбой у Гитлера раньше, чем у союзников. Поэтому он и остается в DeepSeek, которая выкладывает свои модели в открытый доступ.

@anti_agi