TGViewer
trvscience / Троицкий вариант trvscience / Троицкий вариант @trvscience · 3.11K subscribers
Post #9796 2.32K
Как устроена нейросеть
Илья Белых

12 июня 2017 года восемь исследователей — семеро сотрудников Google и стажер из Университета Торонто — выложили на arXiv статью “Attention Is All You Need” — «Внимание — всё, что нужно». В ней описана архитектура нейросети, получившая название «трансформер». Прошло девять лет, и на этой архитектуре построены все флагманские языковые модели: ChatGPT и Claude, Gemini и Llama, DeepSeek и GigaChat. При общей базовой архитектуре они различаются тем, на каких данных модель обучали, сколько в ней настраиваемых параметров и как ее доводили после основного обучения. Эта колонка разбирает сам принцип: что такое веса и обучение, почему создание модели стоит больше ста миллионов долларов, а один короткий запрос к готовой — доли цента, чем чат-бот отличается от агента и что такое оркестраторы, которые доводят задачу до результата без человека на каждом шаге. Терминов по дороге встретится много; основные собраны в шпаргалку.

https://www.trv-science.ru/2026/08/kak-ustroena-neuroset/
  • 👍 19
  • ✍ 4
  • ❤‍🔥 1
More from @trvscience
  1. Sep 24, 2026ТрВ-Наука № 19 (463) за 2026 г.: Привет из ранней Вселенной Выпускающий редактор: Владимир…
  2. Sep 24, 2026ТрВ-Наука № 19 (463) за 2026 г.: Привет из ранней Вселенной Большой привет из самой ранней…
  3. Sep 21, 2026Черная дыра в газовом коконе Алексей Левин Интернациональный коллектив астрономов и астроф…
  4. Sep 21, 2026Юная галактика с чернодырной триадой Алексей Левин Международный коллектив астрономов сооб…
  5. Sep 20, 2026Ньютон, Галлей, Пипс: три пути в историю Виталий Мацарский Взгляните на титульный лист пер…
  6. Sep 20, 2026Кошкомментарии Александр Беляев У замечательного японского писателя Дзюнъитиро Танидзаки е…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →