Dario Amodei, CEO de Anthropic, ha rechazado las recientes exigencias del Departamento de Guerra, el cual le exigió a la compañía acceso total a toda la tecnología de Claude AI. Vale reseñar que estas exigencias vinieron acompañadas de un ultimátum y de una convocatoria a la Casa Blanca hecha por el mismo secretario de guerra a Amodei. Estas exigencias abarcan dos puntos críticos: emplear Claude AI para vigilar masivamente a los civiles y emplear esta tecnología de IA en armamento letal autónomo.
Anthropic advierte que usar la tecnología de IA para la vigilancia masiva de civiles y armas letales autónomas socavará la democracia y la libertad
Amodei ha dado unas declaraciones impactantes en cuanto a las recientes exigencias del Departamento de Guerra, las cuales cruzan, de largo, dos líneas rojas muy críticas: Usar la IA para vigilancia y armamento letal. El CEO de Anthropic ha confesado que estas últimas semanas ha habido muchas reuniones tras bastidores entre Hegseth y directivos de Anthropic para el uso de Claude AI en operaciones militares. Si bien la compañía ha cedido en muchas exigencias, Amodei dijo que hay dos exigencias en las cuales no pueden ceder: vigilancia masiva de civiles y armas autónomas letales.
«Creo profundamente en la importancia existencial de usar la IA para defender a Estados Unidos y otras democracias, y para derrotar a nuestros adversarios autocráticos. Por ello, Anthropic ha trabajado de forma proactiva para desplegar nuestros modelos al Departamento de Guerra y a la comunidad internacional. Sin embargo, consideramos que usar tecnología de IA para la vigilancia masiva doméstica y armas letales totalmente autónomas terminará por socavar nuestra defensa nacional y, por ende, la democracia y la libertad como tal. Hoy en día, los sistemas más avanzados de IA no son lo suficientemente fiables como para que puedan gestionar potentes armas letales totalmente autónomas.
Las amenazas del Pentágono y el Departamento de Guerra no van a cambiar nuestra posición de permitir que nuestra tecnología de IA cruce de largo esas dos líneas rojas. Si ellos deciden prescindir de Anthropic, trabajaremos para permitir una transición fluida a otro proveedor, evitando cualquier interrupción en la planificación militar en curso, operaciones u otras misiones críticas. Nuestros modelos estarán disponibles en los términos amplios que hemos propuesto durante el tiempo que sea necesario.» Dijo Dario Amodei.
Pete Hegseth ya cuenta con el visto bueno de otras compañías de IA
Las negociaciones que ha emprendido el Departamento de Guerra en cuanto al uso ilimitado de tecnología de IA en vigilancia masiva y armas autónomas incluyen a otras compañías, además de Anthropic. En este caso puntual y al contrario de la posición que tomó Anthropic, las compañías OpenAI y xAI han aceptado todas las exigencias y términos de Pete Hegseth. Esto obviamente significa que el Departamento de Guerra empleará las tecnologías de IA de ambas compañías para el uso de armas autónomas y vigilancia masiva de civiles.
Ahora bien, y volviendo al caso de Anthropic, es muy posible que el Departamento de Guerra designe a esta compañía como «una amenaza para la seguridad nacional» e invoque la Ley de Producción de Defensa para que, así, se vea forzada a cumplir sus exigencias. Veremos entonces qué sucederá en las próximas semanas.
