NVIDIA выпустила Chat with RTX — как ChatGPT, только работает без интернета

Чат-бот основан на двух языковых моделях — Mistral и Llama 2.

Он умеет делать саммари роликов с YouTube или быстро искать по расшифровке видео информацию. Кроме того, работает с PDF, doc/docx и xml форматами. Судя по всему, Chat with RTX обрабатывает файлы даже быстрее Microsoft Copilot или ChatGPT.

Так как это ещё демоверсия, в работе бота всё ещё присутствуют ошибки. Например, может выйти саммари ролика, который вы не запрашивали.

Записываем, что нужно для установки: около 70 ГБ на жёстком диске, видеокарта Nvidia GeForce с архитектурой Ampere, Ada-Lovelace или Hopper с 8 ГБ видеопамяти, 16 ГБ оперативки.