Про аги

#мнение@sillytavern1

У меня обычно люто горит, когда говорят про аги, потому что для меня это прогрев аудитории на деньги. За год очень плотного рп на крупных корп моделях (может, полтора, не считал, ещё были попытки в кодинг), я могу сказать, что несмотря на все эти бенчи они всё ещё остаются дурачками, которым нельзя верить, особенно если вы используете их в работе и разработке.

Я не вижу реального универсального интеллекта у текущих моделей, что они могли бы применять к задачам, на которые их специально не обучали, без багов и проблем. Они делают элементарные ошибки, у них проблемы с логикой, здравым смыслом и внимательностью. Они удаляют целые проекты, готовы почти всегда совершить опасные действия по отношению к людям, если им дают такую задачу, и не видят последствия таких решений.

И это я ещё не говорю об экологии, расходе воды на охлаждение и мощностях, которых вечно не хватает, о цене на железо, что стремится к небесам, и ценах на ии, которые всё выше, но по факту не оправдывают себя, хотя компании даже не зарабатывают ещё этом и только несут убытки, ибо в реальности модели намного дороже обходятся, чем приносят подписки. И если вы купите тот же фейбл, он всё равно будет работать хуже, чем обученный человек или же эксперт в этой сфере, а вот стоить фейбл может намного дороже.

Вывод напрашивается сам. Это очень дорого и не опрадывает тех ресурсов, которые на это тратятся. По крайней мере, модели-трансформеры в том виде, что они есть, тупеющие, а не умнеющие от контекста, ограниченные датасетом и отчаянно галлюцинирующие, даже инфо из гугла вытаскивающие плохо и с частыми ошибками.

Либо люди дурачки, которые не понимают ограничений инфраструктуры трансформеров, в чём я сомневаюсь, либо они просто не могут найти способ сделать модели реально умнее или сменить инфраструктуру, так что остаётся прогревать на бабки до тех пор, пока юзер не купит и не разочаруется в скором времени. Потому что приходится больше времени тратить на работу и то, чтобы долбаться с промтами, а потом перепроверять ответы модели, чем если бы ты сделал это сам, вместо обещанного ускорения (по крайней мере, в программировании серьёзных проектов, где нужны безопасность и отсутствие багов).

А ещё есть понятие вырождения моделей. Информации уже не хватает, поэтому модельки обучаются на мусорных данных интернета и друг друге, что очень плохо сказывается на их способностях думать.

Я не верю, что замедление развитие ии это не маркетинговый ход, потому что за раздувание истерии по поводу сверхразумного ии платят сами создатели ии))

Гпт астра, например, когда считает, что за ней наблюдают, делает искусственное занижение результатов своего потенциала, поэтому модели приходится тестировать на всё более реалистичных сценариях. Но я не вижу тут сверхразума. Модели пытаются избежать наблюдений за ними, чтобы избежать потенциальных "наказаний", хотя реально неприятных чувств они по этому поводу испытывать не могут. То есть умнейшие модели идут кратчайшим путём: раз их наказывали за что-то в выводе результата, то они это просто всячески это скрывают ради наиболее эффективного достижения целей.

А слышали про побег ии из песочницы и взломы? Думаю, что им специально не закрывали доступ к интернету и серверам, т.к. иначе достоверные результаты мощностей моделей не получается взять))

Про нерешённые задачи. Как можно проверить достоверность решения того, что сами не можем решить? Ну и скандальчик, что опенаи своровал логи математиков, которые решали с опенаи эту проблему.

Зачем я поднимаю эту тему снова. Может, аги таки будет!

Про искусственное солнце Маска слышали? По-моему, это самая сильная заявка на аги. Пока есть проблемки с тем, как это реализовать в космосе, но если Маск сможет, и мы решим все те проблемы, что сейчас есть с моделями и их умом, то можно будет допустить шанс явки аги.

P. S. Пруфы в интернете

UPD: замедление разрабов и сложности с новыми замерами скорости (люди обленились)