В книге «Ложная слепота» была любопытная идея: интеллекту не нужно сознание. Система может принимать эффективные решения для выживания, даже не зная о своем существовании. Может принять решение об уничтожении человечества.
С LLM бояться нечего. Это не такая система. Тут нет ни сознания, ни интеллекта.
Многие интуитивно считают, что LLM думает, как человек, только в миллион раз быстрее. На самом деле, LLM просто статистическая модель.
LLM не может выйти за границы выборки, на которой она обучалась. В этом плане она вряд ли сможет заменить дизайнера или программиста, когда понадобится сделать что-то, чего нет в интернете.
LLM даже не научилась складывать числа. Она может использовать калькулятор, но не понимает логику, стоящую за вычислениями.
Фразы вроде:
сегодня мы имеем интеллект PHD, завтра — профессора
— маркетинговый булшит.
LLM — это паттерн-матчинг. И всё. К AGI по этой дороге не дойти.
Для подтверждения сказанного ссылаюсь на статью от Anthropic «On the Biology of a Large Language Model».
Есть популярное объяснение:
средней сложности статья,
лёгенькое видео.