Когда нейросеть долго обучают на терабайтах данных — это её «учеба в кулинарной академии». Но вот сеть обучена, и мы запускаем её в реальную жизнь.
Инференс — это процесс работы уже обученной нейросети, когда она принимает новые данные и выдает готовый результат (прогноз, текст, ответ). Это её «рабочий режим».
Аналогия с шефом: Обучение закончилось. Клиент делает заказ: «Сделай мне что-нибудь десертное». Шеф включает мозг, сверяется со своими кодами-эмбеддингами и выдает яблочный пирог. Вот этот момент приготовления по готовым знаниям — это инференс.
Как запомнить: Инференс — это работа на производстве. Обучение — это школа, инференс — это смена у станка (или на кухне). (От англ. inference — вывод, умозаключение).