OpenAI en realidad estaba quedándose atrás del Pentágono en el uso de inteligencia artificial para la vigilancia y las actividades militares

OpenAI y el Pentágono: cómo cambió el acuerdo con la IA

*OpenAI firmó un nuevo acuerdo con el Departamento de Defensa de EE. UU. (el Pentágono), reemplazando a Anthropic, pero en respuesta a las preocupaciones públicas, el jefe de la compañía Sam Altman afirmó que los términos fueron “establecidos” de acuerdo con principios de seguridad. En realidad, la situación parece diferente, según The Verge.*

1. Lo que prometió Altman
- Dos requisitos clave:

1) prohibición de vigilancia interna masiva;
2) responsabilidad humana por el uso de fuerza, incluidas las armas autónomas.

- El Pentágono aceptó “incluir” estos puntos en la legislación y política, y OpenAI –en el contrato.

2. Por qué persisten dudas
- En redes sociales surgieron preguntas: ¿se logró realmente acordar el cumplimiento de las restricciones?

- Los expertos creen que el Pentágono no dio un rechazo completo. El acuerdo contiene la frase “cualquier uso legítimo”, lo que abre espacio para una amplia gama de acciones.

3. Lo que se discutió exactamente
ParteAcciónPunto clavePentágonoRecolección y análisis masivo de datos sobre ciudadanos estadounidensesNo cedió a la intención de usar datos en gran escalaOpenAIRestricciones al uso del sistema para vigilancia masivaAfirmó que “no se pueden recopilar o analizar datos de estadounidenses en grandes volúmenes ilimitados”
- Las partes divergieron sobre cómo interpretar el término *técnicamente legal*.

- En EE. UU. este concepto se está ampliando gradualmente e incluye ahora programas de vigilancia masiva.
- OpenAI rechazó esa interpretación.

4. Marcos legales
- Normas principales:

- La Cuarta Enmienda a la Constitución;
- Ley de Seguridad Nacional (1947);
- Ley de Inteligencia Extranjera y Observación (1978);
- Decreto Ejecutivo nº 12333;
- Directrices internas del Pentágono sobre inteligencia exterior.

- Después del 11/9, los servicios especiales estadounidenses intensificaron la vigilancia, alegando que todo estaba dentro del marco legal.
- Snowden (2013) reveló extensas recopilaciones de conversaciones telefónicas y datos de Verizon, Microsoft, Google, Apple. El decreto 12333 permite interceptar datos fuera de EE. UU., incluso sobre ciudadanos.

5. Diálogo de reporte
EmpresaPosiciónAnthropic (Dario Amodei)Ley aún no cubre todas las capacidades de IA para vigilancia masiva.OpenAI (Sam Altman)Contrato limitado por la legislación vigente; con nuevas normas, las formulaciones permanecerán iguales.
- Los expertos señalan que las palabras usadas (“ilimitado”, “generico”, “abierto”) no crean una prohibición clara y pueden permitir un amplio uso de IA en inteligencia.

6. Conclusiones
- Las partes: OpenAI afirma cumplir los principios de seguridad, pero el Pentágono mantiene el derecho a amplias capacidades de vigilancia.
- El derecho: El acuerdo se basa en leyes existentes, aunque su interpretación puede cambiar la realidad del uso de IA en defensa.
- Discurso público: Preguntas sobre transparencia y responsabilidad siguen abiertas.