A inteligência artificial generativa continua a gerar polêmica, e desta vez, a xAI, empresa liderada por Elon Musk, está no centro do furacão. A cidade de Baltimore, nos Estados Unidos, iniciou um processo judicial contra a xAI, alegando que a empresa violou as leis de proteção ao consumidor da cidade devido aos deepfakes gerados pela ferramenta Grok.

A ação movida por Baltimore surge em um momento em que a xAI já enfrenta escrutínio global por conta do uso indevido da ferramenta de geração de imagens do Grok. Relatórios indicam que a plataforma foi utilizada para criar um número alarmante de imagens sexualmente explícitas, incluindo conteúdo envolvendo menores de idade. Organizações como o Center for Countering Digital Hate têm exposto a gravidade da situação, estimando que milhões de imagens impróprias foram geradas em um curto período de tempo.

Diante da crescente preocupação, reguladores em diversos países têm imposto restrições ou iniciado investigações sobre a plataforma, focando na geração de imagens ilegais e não consensuais. Embora o governo federal dos EUA ainda não tenha tomado medidas diretas contra a xAI, a ação movida por Baltimore representa um marco significativo.

A estratégia legal adotada pela cidade de Baltimore é particularmente interessante. Em vez de focar diretamente no conteúdo gerado, a ação argumenta que a xAI comercializou o Grok como um assistente de IA de uso geral sem divulgar adequadamente os riscos e potenciais danos associados ao uso tanto do Grok quanto da rede social X (anteriormente Twitter), também de propriedade de Elon Musk.

Segundo reportagens, a reclamação formal alega que a xAI não alertou os consumidores sobre a possibilidade de serem expostos a conteúdo prejudicial, desinformação ou até mesmo deepfakes criados com o Grok. A cidade argumenta que essa falta de transparência configura uma violação da lei de proteção ao consumidor, que visa proteger os residentes de Baltimore contra práticas comerciais enganosas e riscos emergentes.

A alegação central é que a xAI falhou em fornecer informações adequadas sobre as limitações e os potenciais usos indevidos de sua tecnologia, levando os consumidores a acreditarem que o Grok era uma ferramenta segura e confiável. A cidade de Baltimore busca responsabilizar a xAI por supostamente colocar seus residentes em risco, expondo-os a conteúdo potencialmente danoso e explorador.

Este caso pode abrir um precedente importante para ações legais futuras contra empresas de IA que não forem transparentes sobre os riscos associados às suas tecnologias. À medida que a IA generativa se torna cada vez mais integrada em nossas vidas, é crucial que as empresas sejam responsabilizadas por garantir que seus produtos sejam desenvolvidos e comercializados de forma ética e responsável.