Языковая модель PaLM2 от Google: в чем соль?

10 мая 2023 года, компания Google в рамках Google I/O 2023, анонсировала ряд AI-сервисов и моделей, среди которых была языковая модель PaLM2

Что это и в чем новшество?

PaLM2 (как и PaLM) - это совокупность моделей (LLMs) на базе нейронных сетей, обученных на текстовых данных. Ключевых отличий от предыдущей версии два:

1. Больше новых языков
2. Большая производительность вычислений

В техническом отчете PaLM 2 Technical Report говорится, что модель обучена на:

- Математических статьях
- Многоязычных веб-документах (более 200 языков)
- Более чем 20 языках программирования
- Диалогах

Отмечается, что модель PaLM2 особенно хороша в:

- Решении математических задач
- Переводе на другие языки (включая языки программирования / из Java на Python)
- Исправлении ошибок в коде
- Аргументированном диалоге

🚀Интересно, что Пейдж Бэйли, глава продукта PaLM2, высказала мнение, что в будущем, модель сможет использоваться для генерации аудио, картинок и даже видео