A NVIDIA divulgou hoje, através do post no blog RTX AI Garage desta semana, um tutorial de como fazer um ajuste fino (fine-tuning) com o Unsloth, um framework open source otimizado para GPUs da NVIDIA, feito para ser usado tanto em notebooks RTX quanto para o DGX Spark, o supercomputador de IA compacto da NVIDIA. O artigo também destaca como os desenvolvedores podem utilizar o DGX Spark para ajustar modelos maiores, voltados a fluxos de trabalho agentivos mais complexos.
Os desenvolvedores atualmente estão realizando um trabalho de ajuste fino de LLMs para tarefas especializadas, como adaptar um chatbot para lidar com perguntas de suporte a produtos ou criar um assistente pessoal para gerenciar a agenda do usuário. Muitos desses fluxos de trabalho se tornam mais simples através de GPUs NVIDIA, onde os desenvolvedores têm mais controle, mais memória e iteração local mais rápida.
Foi também detalhada a recém-anunciada família de modelos abertos NVIDIA Nemotron 3, um conjunto de dados e bibliotecas projetados para um ajuste fino eficiente e escalável. O Nemotron 3 foi criado para aplicações de IA agentiva e é o conjunto de modelos abertos mais avançado da NVIDIA até agora, disponível nos tamanhos Nano, Super e Ultra para diferentes cargas de trabalho.
Confira o RTX AI Garage desta semana para mais detalhes sobre o ajuste fino, incluindo:
- Principais considerações para o ajuste fino, desde técnicas eficientes em parâmetros até aprendizado por reforço, além de orientações de VRAM para os diferentes tamanhos de modelo.
- Como o Unsloth acelera o treinamento enquanto reduz o uso de VRAM em GPUs da NVIDIA.
- Por que o DGX Spark se destaca em modelos maiores, janelas de contexto estendidas e fluxos de trabalho avançados.
- A nova família de modelos abertos Nemotron 3, nos tamanhos Nano, Super e Ultra, representa a linha mais eficiente, com alta precisão e ideal para a criação de aplicações de IA agentiva.
Para um passo a passo prático de ajuste fino local, assista o vídeo de Matthew Berman, mostrando o aprendizado por reforço realizado em uma NVIDIA GeForce RTX 5090 com o Unsloth.
Aprenda como instalar o Unsloth no NVIDIA DGX Spark e confira abaixo os guias adicionais de ajuste fino do Unsloth para começar hoje mesmo:
- Ajuste fino de LLMs com GPUs NVIDIA RTX Série 50 e Unsloth
- Ajuste fino de LLMs com NVIDIA DGX Spark e Unsloth
O ajuste fino do Nemotron 3 Nano já está disponível no Unsloth! Baixe agora o Nemotron 3 Nano na plataforma Hugging Face ou experimente ele por meio do Llama.cpp e do LM Studio.
