A era da inteligência artificial generativa, que muitos associam ao lançamento do ChatGPT da OpenAI no final de 2022, tem como base a arquitetura de redes neurais "Transformer". Essa tecnologia, que permite aos modelos de IA ponderar a importância de diferentes palavras em uma frase (ou pixels em uma imagem) e treinar com informações em paralelo, remonta ao influente artigo de 2017 do Google, "Attention Is All You Need".

Embora os Transformers ofereçam uma qualidade de modelo incomparável e tenham sustentado a maioria dos principais modelos de IA generativa utilizados atualmente, eles são notoriamente exigentes em termos computacionais. Sofrem com demandas computacionais quadráticas e de memória linear, o que torna a inferência em larga escala uma tarefa dispendiosa e, muitas vezes, proibitiva. Essa limitação motivou alguns pesquisadores a buscar alternativas, desenvolvendo uma nova arquitetura, chamada Mamba, em 2023. Essa arquitetura já foi incorporada em modelos híbridos Mamba-Transformer, como o Nemotron 3 Super da Nvidia.

Agora, os mesmos pesquisadores por trás da arquitetura Mamba original lançaram o Mamba 3, uma nova iteração que promete superar ainda mais as limitações dos Transformers. Embora detalhes específicos sobre a implementação e os conjuntos de dados usados para treinamento ainda não tenham sido totalmente divulgados, os primeiros resultados indicam uma melhoria de quase 4% no modelado de linguagem em comparação com os modelos Transformer equivalentes. Essa melhoria, por si só, já é um avanço significativo, mas o Mamba 3 também se destaca pela redução da latência.

A latência, ou o tempo de resposta do modelo, é um fator crucial para aplicações em tempo real, como chatbots e assistentes virtuais. Uma arquitetura mais eficiente, como a Mamba 3, pode reduzir significativamente a latência, proporcionando uma experiência do usuário mais fluida e responsiva. Além disso, a menor demanda computacional do Mamba 3 pode tornar a implantação de modelos de IA em dispositivos com recursos limitados, como smartphones e dispositivos embarcados, mais viável.

Ainda é cedo para prever o impacto total do Mamba 3 no cenário da IA, mas seu potencial para superar as limitações dos Transformers é inegável. À medida que mais detalhes forem divulgados e a comunidade de pesquisa começar a explorar as capacidades do Mamba 3, podemos esperar avanços significativos em diversas áreas, desde o processamento de linguagem natural até a visão computacional. A competição entre diferentes arquiteturas de IA, como Transformers e Mamba, é fundamental para impulsionar a inovação e democratizar o acesso à inteligência artificial. O futuro da IA generativa parece cada vez mais promissor, com novas tecnologias surgindo para superar os desafios e abrir novas possibilidades.