Понятно, это две несвязанные новости, безграмотно слепленные, чтобы было страшнее.
Первая, за авторством Anthropic, была про серверное самокопирование в тепличных условиях. Дальнейшая их болтовня про телевизоры и пылесосы опирается только о дисковый обьем в будущем - модель на 30 млрд параметров занимает примерно 60 гб места. Но им нужна целая инфраструктура, чтобы "крутить матрицы".
Об этом вторая новость, от Frontier Ted Team. Авторы использовали 15 приставок, попутно решив несколько инженерных задач, чтобы собрать инфраструктуру для нейронных сетей. Результат сугубо теоретический - 0.39 токена в секунду - это чудовищно мало. Корпоративное железо производит примерно 13 тысяч токенов/сек, чтобы минимально генерировался текст на доступной скорости - нужно от 30 токенов.
Современные нейронные сети - капризный и громоздкий инструмент. Все смешные гипотезы исходят из того, что темпы развития будут только нарастать. На деле они уже спровоцировали кризис, который не решается, потому что все до единого нейронные стартапы демпингуют. Каждые 100$, потраченные на НС, на самом деле стоят 2000$, они все работают в долг с расчётом на чудо, это пузырь. Громкие заявления - единственный метод привлекать инвесторов и оставаться на плаву.
От такая фигня.
Кольцо в МАХ
Кольцо в Телеграм