A Nvidia lançou o Nemotron 3.5 Lightning, que descreve como um modelo “leve” e capaz de correr num único processador gráfico num PC. É o primeiro modelo de IA de código aberto da Nvidia desde que Jensen Huang passou a defender publicamente os modelos abertos.
O novo modelo pode ser descarregado, usado e modificado por empresas sem necessidade de autorização ou pagamento à Nvidia. A empresa afirma que o Nemotron 3.5 Lightning foi desenvolvido para agentes, ou seja, programas de IA que podem funcionar de forma autónoma em segundo plano.
A Nvidia considera que a IA de código aberto é positiva para a venda de chips, porque estes modelos continuam a precisar de correr em GPUs. A empresa acrescenta que os preços mais baixos podem ajudar a aumentar a utilização face a modelos proprietários de empresas como a OpenAI e a Anthropic.
Jensen Huang afirmou, num mês passado, que a “IA gratuita deveria ser ótima para o hardware” e que “a IA gratuita deveria ser ótima para os chips”.
Huang entrou de forma directa no debate que surgiu em Washington após o anúncio do Kimi K3, um modelo desenvolvido pela Moonshot AI, da China, que reduziu a distância para os modelos americanos mais potentes. Havia receio de que o Kimi K3 pudesse levantar problemas de segurança nacional e representasse roubo de propriedade intelectual através de uma técnica chamada destilação, que usa respostas de um modelo avançado para treinar um modelo mais leve.
Os decisores políticos também questionaram se os criadores chineses de modelos poderiam estar sujeitos a sanções ou a outras restrições, semelhantes às regras aplicadas às vendas de chips.
Huang publicou uma carta aberta em que defendeu que os modelos de pesos abertos dão às empresas maior controlo sobre o seu futuro, promovem a concorrência e reduzem os preços. Na sua primeira publicação no X, escreveu que “os modelos abertos reforçam a segurança e a cibersegurança, aceleram a inovação e a difusão, e permitem soberania”.
Dias depois, a Nvidia lançou um consórcio de segurança em IA com empresas como a Microsoft, com foco no uso de modelos abertos e software de código aberto para cibersegurança.
A IA de código aberto é um dos temas mais quentes em Silicon Valley. Na segunda-feira, o CEO da Meta, Mark Zuckerberg, publicou um manifesto extenso a favor da IA de código aberto, enquanto a sua empresa lançou um modelo de programação chamado Muse Spark.
A Nvidia afirmou que empresas como a CrowdStrike, a CodeRabbit e a Harvey testaram e personalizaram o seu modelo mais recente. A fabricante de chips disse ainda que o modelo foi desenvolvido sobretudo para agentes.
O Nemotron 3.5 Lightning também ficará disponível na HuggingFace e no sítio da Nvidia. Além disso, a Nvidia lançou um software chamado NeMo Switchyard, que pode determinar o modelo de IA mais barato e mais adequado para cada tarefa.
Representantes da Nvidia disseram na segunda-feira que a empresa utilizou destilação para dar ao Nemotron 3.5 Lightning capacidades semelhantes às dos seus modelos Nemotron maiores.