Как методичка из 1990-х объясняет устройство современных нейросетей

В старом пособии по математике молекулу воды записали как набор чисел: сколько в ней атомов каждого вида. Похожий принцип используют при работе с нейросетями. Текст или картинку сначала превращают в числа, с которыми модель может выполнять вычисления.

При этом легко потерять важные детали. Если просто посчитать слова, фразы «собака укусила почтальона» и «почтальон укусил собаку» окажутся одинаковыми. С молекулами похожая история: одного состава недостаточно, нужно ещё учитывать связи между атомами.

В тексте немного больше о том, как нейронка разбирается, кто кого укусил.