NVIDIA acaba de lançar uma demonstração gratuita do chatbot que roda localmente no seu PC. Isto é muito conveniente porque dá ao chatbot acesso aos seus arquivos e documentos. Você pode fornecer Conversar com RTX determinados dados pessoais e peça-lhe que crie um currículo com base nessas informações. Você também pode fazer perguntas como faria com qualquer chatbot e ele mergulhará em seus dados para obter respostas.
A empresa afirma que permite aos usuários “conectar de forma rápida e fácil arquivos locais do PC como um conjunto de dados a um grande modelo de linguagem de código aberto, como Mistral ou Llama 2”. NVIDIA dá um exemplo de um usuário perguntando a um chatbot sobre um restaurante recomendado por um parceiro enquanto estava em Las Vegas. O software verifica os arquivos locais para encontrar a resposta. Ele suporta vários formatos de arquivo, incluindo .txt, .pdf, .doc, .docx e .xml. A empresa afirma que carrega arquivos relevantes para seu conjunto de dados “em segundos”.
Chat com RTX também integra vídeos e playlists YouTube. Você pode adicionar a URL do vídeo ao conjunto de dados e integrará o conhecimento contido no vídeo para consultas contextuais. NVIDIA diz que será útil ao solicitar recomendações de viagens “com base no conteúdo de vídeos favoritos de influenciadores” ou ao pesquisar tutoriais e resumos derivados de recursos educacionais.
Isto parece um grande passo em direção a algo como um verdadeiro assistente digital que funciona no contexto dos seus dados pessoais. A maioria dos chatbots envia dados para a nuvem, mas o Chat with RTX “permite aos usuários processar dados confidenciais em um computador local sem ter que compartilhá-los com terceiros ou ter uma conexão com a Internet”. Portanto, é uma comunicação mais segura e contextualizada.
Existem algumas limitações. Este é um produto de demonstração, então espere muitos bugs NVIDIA devem começar a corrigi-los assim que os usuários começarem a escrever relatórios de bugs e coisas assim. Existem também algumas limitações estritas de hardware aqui. O bate-papo com RTX só funciona em computadores Windows 11 com GPUs NVIDIA GeForce RTX série 30 ou superior e pelo menos 8 GB de VRAM.
Recentemente NVIDIA está realmente exibindo suas proezas em IA, já que a empresa acaba de lançar sua próxima geração de chips de supercomputador de IA. Está simplesmente nadando em lucros, principalmente devido aos seus segmentos de IA e data center.
Leia também: