DeepSeek-V3 Technical Report

A leitura do Thiago

DeepSeek-V3, lançado em dezembro de 2024, é o precursor do R1 e contém a inovação econômica mais chocante de 2024: treinar um modelo de fronteira de 671 bilhões de parâmetros por apenas USD 5,5 milhões, quando se estimava que isso custaria entre USD 100 milhões e USD 1 bilhão. O paper detalha as inovações técnicas que viabilizaram isso: arquitetura Mixture-of-Experts agressiva (apenas 37 bilhões de parâmetros ativos por token), engenharia matemática de baixo nível para treinar em FP8 (precisão reduzida), e otimizações de comunicação entre GPUs em cluster. Em linguagem executiva: a DeepSeek conseguiu o que NVIDIA, Anthropic e OpenAI diziam ser impossível, destruiu o pressuposto de que IA de ponta é um clube exclusivo de quem tem bilhões.

Para corporações brasileiras, três implicações imediatas: (1) o custo de inferência de LLMs vai cair drasticamente em 2025-2026, replaneje seu pricing de produtos baseados em IA antes que a concorrência o faça primeiro; (2) o paper é uma masterclass técnica para times de engenharia: explica decisões de arquitetura que reduzem custo de treinamento em ordens de magnitude, vale a pena para empresas que consideram fine-tuning próprio; (3) a vantagem competitiva da NVIDIA está em questão pela primeira vez em uma década, diversifique sua estratégia de hardware e fornecedores de cloud antes da próxima onda.

O que muda na prática

Se o R1 mexe com a sua escolha de fornecedor, o DeepSeek-V3 mexe com o seu preço de venda. O ponto que importa para quem decide é o número: um modelo de fronteira treinado por cerca de cinco milhões e meio de dólares, quando se imaginava custar entre cem milhões e um bilhão. Isso não é curiosidade técnica, é sinal de que o custo de rodar IA vai despencar nos próximos ciclos.

Se o seu produto cobra do cliente com base no custo atual de processamento de IA, sua margem vai ser atacada por um concorrente que repassar a queda de custo antes de você. A ação de líder é simular agora o seu pricing com o custo de inferência caindo, digamos, 70 a 90 por cento, e decidir se você usa essa folga para aumentar margem ou para baixar preço e ganhar mercado. Quem espera o concorrente fazer isso primeiro reage em desvantagem.

Para o time de tecnologia, o V3 muda a conversa sobre treinar ou ajustar modelo próprio. As técnicas que ele documenta, como ativar só uma parte do modelo a cada consulta e treinar com precisão numérica reduzida, derrubam o custo de treinamento em ordens de grandeza. Isso não quer dizer que você deva treinar seu próprio modelo, na maioria dos casos não deve.

Quer dizer que, se um fornecedor cobrar caro alegando que ajustar um modelo é absurdamente custoso, você tem base para questionar. A pergunta concreta vira: dado o que o V3 mostrou, por que isto custa tanto? Há ainda uma implicação de infraestrutura.

A V3 colocou em dúvida, pela primeira vez em anos, a ideia de que você precisa do hardware mais caro e de um único fabricante para fazer IA séria. Para quem assina contratos de cloud e de GPU, isso é um lembrete para não se amarrar a um só fornecedor de hardware ou de nuvem em compromissos longos. Mantenha portabilidade e diversifique, porque a próxima onda de barateamento pode tornar a sua aposta de hoje cara amanhã.