La batalla de Anthropic con el Pentágono ahora se traslada al Congreso de los Estados Unidos. Senadores demócratas están impulsando legislación para regular el uso de la inteligencia artificial en áreas sensibles como armamento autónomo y la vigilancia masiva, buscando limitar el poder del Departamento de Defensa en este campo.

El senador Adam Schiff, de California, está trabajando en un nuevo proyecto de ley para "codificar" las líneas rojas establecidas por Anthropic. El objetivo principal es garantizar que los humanos mantengan el control y la toma de decisiones finales en situaciones que involucren la vida y la muerte, evitando que la IA tome decisiones de forma autónoma en estos contextos críticos.

Paralelamente, la senadora Elissa Slotkin, de Michigan, ha presentado un proyecto de ley destinado a restringir la capacidad del Departamento de Defensa para utilizar la inteligencia artificial en la vigilancia masiva de ciudadanos estadounidenses. Esta propuesta busca proteger la privacidad y los derechos civiles de los individuos frente al potencial uso indebido de la IA para rastrear y analizar información personal a gran escala.

Estas iniciativas legislativas surgen en un contexto de creciente preocupación sobre las implicaciones éticas y de seguridad del desarrollo y despliegue de la inteligencia artificial, especialmente en el ámbito militar y de seguridad nacional. El debate se centra en cómo equilibrar los beneficios potenciales de la IA con la necesidad de salvaguardar los derechos fundamentales y prevenir posibles abusos.

La administración Trump previamente incluyó a Anthropic en una lista negra tras la empresa establecer límites sobre cómo el ejército podía utilizar sus modelos de IA, designándola como un riesgo para la cadena de suministro. Anthropic respondió presentando una demanda, argumentando que el gobierno estaba violando sus derechos constitucionales.

La postura de Anthropic ha sido firme al insistir en que sus modelos de IA no deben utilizarse para fines que puedan causar daño o violar los derechos humanos. Esta posición ha generado controversia y ha puesto de manifiesto las tensiones existentes entre las empresas tecnológicas y el gobierno en relación con el uso de la IA en el sector de defensa.

El intento de los senadores demócratas de convertir las restricciones de Anthropic en ley representa un esfuerzo significativo para establecer un marco regulatorio claro y transparente para el uso de la inteligencia artificial en áreas sensibles. El resultado de este debate legislativo tendrá importantes implicaciones para el futuro de la IA y su papel en la sociedad.

La discusión sobre el uso ético y responsable de la IA continúa ganando terreno, y estas propuestas legislativas son un paso importante hacia la creación de un marco legal que garantice que la IA se utilice de manera que beneficie a la sociedad en su conjunto, protegiendo al mismo tiempo los derechos y libertades individuales.