Сегодня читал про то, как парень тренировал свою модельку на 135 млн параметров - ему это обошлось в $12.

Слушал, как Иван Оселедец (AIRI) рассказывал о том, что сегодняшние модели на 1,5B параметров эффективнее GPT-3 со 135B.. Кстати, у него был интересный тезис о том, что сегодня промтинг важнее файнтьюнинга и дообучения.

Делаю вывод - скоро локальные, персонализированные модели будут в каждом телефоне, и это будет создавать потребность во все более новых и мощных моделях (а то, что 12й айфон, что 17й - разницы нет). Памяти уже ставят 12Gb, процы мощные, уже недолго осталось