A AMD publicou um artigo no blogue da empresa em que descreve como instalar e usar o novo modelo de Inteligência Artificial chinês DeepSeek R1 localmente em PC que tenham processadores AMD Ryzen AI ou placas gráficas Radeon.
Para quem não sabe, o DeepSeek é um novo modelo de IA, desenvolvido na China, com recurso a hardware um pouco menos poderoso que o usado por outras empresas como a OpenAI, Google ou X. Supostamente o DeepSeek é mais rápido e preciso que os modelos da concorrência. O aparecimento de um modelo de IA melhor, treinado com recurso a hardware menos poderoso, caiu que nem uma bomba no mercado de IA e fez com que a principal fabricante de chips para aceleração de tarefas de IA, a Nvidia, perdesse uma fatia significativa do seu valor de mercado.
A tarefa de instalação é facilitada pela utilização do software LM Studio, o programa desenvolvido especificamente para executar localmente modelos de linguagem de larga escala (Large Scale Models, ou LLM). Com este programa, os utilizadores podem usar esses modelos como se estivessem online, só que tudo se passa dentro do computador sem passar nenhuns dados para fora, minimizando assim problemas relacionados com segurança e privacidade dos dados.
Para usar o DeepSeek no seu PC tem apenas de ter um processador AMD Ryzen AI ou uma placa gráfica Radeon recente e seguir estas instruções:
1. Certifique-se de que está a usar o driver Adrenalin 25.1.1 Optional, ou mais recente.
2. Descarregue e instale o LM Studio 0.3.8 ou posterior a partir daqui.
3. Depois de instalar o LM Studio ignore o ecrã de onboarding do programa e clique no separador ‘Discover’.
4. Escolha a versão do DeepSeek R1 Distill. As versões mais pequenas do modelo, como a Qen 1.5B, são muito mais rápidas e são as recomendadas como ponto de partida. Já as versões maiores oferecem mais capacidades de raciocínio. Todas são bastante capazes. As tabelas seguintes mostram as versões recomendadas para cada harwdare AMD:
Precessador | DeepSeek R1 Distill (Máximo Suportado) |
AMD Ryzen AI Max+ 395 32GB, 64 GB e 128 GB de memória RAM | DeepSeek-R1-Distill-Llama-70B (apenas para sistemas com 64 GB e 128 GB) DeepSeek-R1-Distill-Qwen-32B |
AMD Ryzen AI HX 370 e 365, 24 GB e 32 GB de memória RAM | DeepSeek-R1-Distill-Qwen-14B |
AMD Ryzen 8040 e Ryzen 7040 com 32 GB de memória RAM | DeepSeek-R1-Distill-Llama-14B |
Placas gráficas suportadas
Modelo | DeepSeek R1 Distill (Máximo Suportado) |
AMD Radeon RX 7900 XTX | DeepSeek-R1-Distill-Qwen-32B |
AMD Radeon RX 7900 XT | DeepSeek-R1-Distill-Qwen-14B |
AMD Radeon RX 7900 GRE | DeepSeek-R1-Distill-Qwen-14B |
AMD Radeon RX 7800 XT | DeepSeek-R1-Distill-Qwen-14B |
AMD Radeon RX 7700 XT | DeepSeek-R1-Distill-Qwen-14B |
AMD Radeon RX 7600 XT | DeepSeek-R1-Distill-Qwen-14B |
AMD Radeon RX 7600 | DeepSeek-R1-Distill-Llama-8B |
5. No lado direito da janela, certifique-se de que a quantização ‘Q4 K M’ está seleccionada e clique em ‘Download’.
6. Depois de terminar o download, clique no separador ‘Chat’ e escolha o DeepSeek R1 no menu e ligue a opção ‘manually select parameters’.
7. Em ‘GPU offload layers’ mova o cursor para o máximo, depois clique em ‘Model load’.
8. Após alguns momento pode começar a usar o DeepSeek directamente no seu hardware.