Nvidia выпустила бета-версию своего чат-бота Chat with RTX.
Его главное преимущество заключается в том, что он работает локально на компьютере. Но для его запуска понадобится любая видеокарта Nvidia RTX 30-й или 40-й серии с минимум 8 ГБ видеопамяти.
Chat with RTX может делать расшифровки видео с YouTube, анализировать документы и выдавать краткое содержание, а также отвечать на вопросы.
Главным недостатком Chat with RTX является тот факт, что приложение очень тяжелое. На компьютер с Intel Core i9-14900K, видеокартой Nvidia RTX 4090 и 64 ГБ ОЗУ, приложение устанавливалось 30 минут и заняло 40 ГБ на диске. Также вместе с чат-ботом устанавливается Python, который в фоне потребляет 3 ГБ оперативной памяти.
После установки Chat with RTX работает в браузере, но все запросы обрабатывает на компьютере. Параллельно открывается командная строка, которая показывает коды ошибок.
Ещё Chat with RTX не запоминает контекст, поэтому не может поддерживать диалог. Но, вероятно, это исправят в будущих обновлениях. [The Verge]
Источник
