Банки УкраиныНовости

Nvidia представила чат-бот, работающий без интернета

Компания-производитель графических процессоров Nvidia представила новый инструмент Chat with RTX, являющийся многообещающим чат-ботом с искусственным интеллектом. The Verge протестировал программу и назвал ее немного «сырой», но полезной.

Chat with RTX может анализировать видео на YouTube. Просто введите URL-адрес, и он сможет найти определенные упоминания в транскриптах или суммировать все видео в текстовом виде.

Это требует считанных секунд, однако пока не все идеально, например, были обнаружены неисправности при поиске сведений в транскрипциях видео, или же чат-бот использовал для поиска содержание другого ролика.

«Вместо того чтобы искать в заметках или сохраненном содержимом, пользователи могут просто вводить запросы», — пишет Nvidia в блоге. «Например, можно спросить: „Какой ресторан рекомендовал мой партнер во время пребывания в Лас-Вегасе?“, и Chat with RTX просканирует локальные файлы, на которые указывает пользователь, и ответит с контекстом».

Chat with RTX использует Mistral, а также Llama 2 от Meta, Nvidia предупреждает, что скачивание всех необходимых файлов сможет занять от 50 до 100 ГБ памяти, пишет TechCrunch.

Сейчас Chat with RTX работает с текстовыми форматами, PDF, .doc, .docx и .xml. Также можно получить ответы на основе информации из YouTube.

Nvidia признает, что на релевантность ответов программы может влиять целый ряд факторов, в том числе формулировка вопроса, производительность выбранной модели и размер набора данных для точной настройки.

Chat with RTX основан на двух языковых моделях — Mistral и Llama 2. Этот инструмент работает непосредственно на вашем компьютере, поэтому нет необходимости подключаться к интернету. Главное условие — иметь операционную систему Windows, графический процессор RTX серий 30 или 40 с видеопамятью не менее 8 ГБ.

Что касается установки программы, это длится около 30 минут и требует больших ресурсов вашего ПК. Она весит около 40 ГБ, а его экземпляр Python использует около 3 ГБ из 64 ГБ оперативной памяти. После запуска вы получаете доступ к Chat with RTX через браузер, а в фоновом режиме работает командная строка.

Важно отметить, что Chat with RTX является демоверсией для разработчиков и имеет свои ограничения и недостатки.

Скачать Chat with RTX можно бесплатно с официального сайта Nvidia.

Для Вас

• Банки Украины
• Обмен валюты
• Курсы Нацбанка
• Новости
• Вклады ф/л
• Потреб. кредиты

Авторизация