Esta semana, mais de 30.000 pessoas convergiram para San Jose, Califórnia, para participar da Nvidia GTC, o evento considerado o Super Bowl da Inteligência Artificial – um apelido que, possivelmente, foi criado pela própria Nvidia. No evento principal, Jensen Huang, CEO da Nvidia, subiu ao palco para anunciar, entre outras novidades, uma nova linha de chips Vera Rubin de última geração, que representam uma estreia para a gigante das GPUs: um chip projetado especificamente para lidar com a inferência de IA.

A unidade de processamento de linguagem (LPU) Nvidia Groq 3 incorpora propriedade intelectual que a Nvidia licenciou da startup Groq na véspera de Natal por US$ 20 bilhões. “Finalmente, a IA é capaz de realizar trabalho produtivo e, portanto, o ponto de inflexão da inferência chegou”, disse Huang à multidão. “A IA agora tem que pensar. Para pensar, ela precisa inferir. A IA agora tem que fazer; para fazer, ela precisa inferir.”

A declaração de Huang ressalta uma mudança fundamental no cenário da IA. Por muito tempo, o foco esteve no treinamento de modelos, um processo intensivo em computação que exige enormes quantidades de dados e poder de processamento. No entanto, a inferência, a capacidade de usar esses modelos treinados para tomar decisões e gerar resultados no mundo real, é onde o verdadeiro valor da IA se manifesta.

Tradicionalmente, as tarefas de treinamento e inferência têm requisitos computacionais distintos. Enquanto o treinamento pode ser feito com grandes quantidades de dados simultaneamente e pode levar semanas, a inferência deve ser rápida e eficiente para atender às demandas de aplicações em tempo real. A Nvidia, com a Groq 3, parece estar respondendo diretamente a essa necessidade.

Embora detalhes técnicos específicos sobre a arquitetura e o desempenho da Groq 3 ainda estejam sendo divulgados, o anúncio sinaliza uma aposta significativa da Nvidia no futuro da inferência de IA. A aquisição da propriedade intelectual da Groq demonstra o compromisso da empresa em inovar e liderar o mercado em constante evolução.

A inferência de IA tem implicações vastas e abrangentes. Desde carros autônomos que precisam tomar decisões em frações de segundo até assistentes virtuais que respondem a perguntas complexas, a capacidade de realizar inferência de forma rápida e eficiente é crucial para uma ampla gama de aplicações. A Groq 3 da Nvidia pode ser um passo importante para desbloquear o verdadeiro potencial da IA e torná-la mais acessível e útil para empresas e consumidores. Resta agora acompanhar os benchmarks e casos de uso reais para confirmar se a promessa da Nvidia se concretizará. A competição no mercado de hardware para IA está cada vez mais acirrada, e a Groq 3 representa um novo e interessante competidor.