Теперь я могу запустить модель класса GPT-4 на своем ноутбуке

Новая Llama 3.3 70B от Meta - это настоящая Большая языковая модель класса GPT-4, которая работает на моем ноутбуке.

Всего 20 месяцев назад я был поражен, увидев, что на этой же машине работает модель класса GPT-3. За последние два года качество моделей, работающих на потребительском оборудовании, значительно улучшилось.

Мой ноутбук - это 64-гигабайтный MacBook Pro M2, который я получил в январе 2023 года - через два месяца после первого выпуска ChatGPT. Во всех моих экспериментах по запуску LLM на ноутбуке использовалась эта же машина.

Статья: https://simonwillison.net/2024/Dec/9/llama-33-70b/