A batalha da Anthropic com o Pentágono ganha um novo capítulo e agora se estende ao Congresso dos Estados Unidos. Senadores democratas estão trabalhando em legislação para limitar o uso da inteligência artificial em áreas consideradas de alto risco, como armas autônomas e vigilância em massa. Essa iniciativa surge em meio a crescentes debates sobre a ética e as implicações do uso da IA em contextos militares e de segurança nacional.

O senador Adam Schiff, da Califórnia, está elaborando um projeto de lei para "codificar" as linhas vermelhas estabelecidas pela Anthropic, uma empresa de pesquisa em IA que tem defendido o controle humano em decisões críticas de vida ou morte. A proposta visa garantir que os humanos mantenham a palavra final em situações onde a IA possa ter um impacto significativo na vida das pessoas, especialmente em cenários de combate. Isso significa que a legislação busca impedir que sistemas de IA tomem decisões autônomas que resultem em danos irreversíveis.

Paralelamente, a senadora Elissa Slotkin, de Michigan, apresentou um projeto de lei que visa restringir a capacidade do Departamento de Defesa de usar a IA para realizar vigilância em massa de cidadãos americanos. Essa proposta reflete preocupações sobre a privacidade e as liberdades civis, buscando evitar que a IA seja utilizada para monitorar indiscriminadamente a população sem a devida supervisão e proteção legal. O projeto de lei provavelmente abordará questões como a coleta, o armazenamento e o uso de dados pessoais coletados por meio de sistemas de IA.

Essas iniciativas legislativas surgem após a administração Trump ter colocado a Anthropic em uma lista negra no início deste mês, após a empresa ter estabelecido limites sobre como os militares poderiam usar seus modelos de IA. A administração Trump designou a Anthropic como um risco para a cadeia de suprimentos, uma medida que gerou controvérsia e levanta questões sobre a liberdade das empresas de tecnologia de definir seus próprios padrões éticos para o uso de sua tecnologia. A Anthropic respondeu processando o governo, alegando violação de seus direitos constitucionais. A empresa insiste que tem o direito de determinar como sua tecnologia é usada e não quer que seja usada de maneiras que violem seus princípios éticos.

O movimento dos senadores democratas para limitar o uso militar da IA reflete uma crescente preocupação com os riscos potenciais da tecnologia, incluindo a possibilidade de armas autônomas causarem danos não intencionais ou de sistemas de vigilância em massa violarem a privacidade dos cidadãos. A legislação proposta busca estabelecer salvaguardas para garantir que a IA seja usada de forma responsável e ética, alinhada com os valores democráticos e os direitos humanos. O debate sobre o uso da IA no setor militar e de segurança nacional está apenas começando, e essas iniciativas legislativas representam um passo importante para moldar o futuro da IA e seu impacto na sociedade. Acompanharemos de perto o desenrolar dessa história e seus desdobramentos nos próximos meses.