OpenAI integra la seguridad en los agentes de IA al adquirir la startup Promptfoo.

OpenAI adquiere la startup Promptfoo

La compañía OpenAI ha firmado un acuerdo para comprar la startup de dos años, Promptfoo, que desarrolla herramientas para verificar la seguridad de la inteligencia artificial incluso en su fase de desarrollo. Según Bloomberg, el objetivo del trato es reducir los riesgos para los clientes que utilizan soluciones de IA y atraer al gran mercado corporativo.

¿Quién es Promptfoo?

- Fundada: 2022
- Ubicación: San Francisco
- Servicios: código abierto para probar redes neuronales, incluyendo “equipo rojo” (red‑team), donde especialistas imitan ataques a sus propios modelos, identificando debilidades antes de que los atacantes las encuentren.
- Clientes: alrededor del 25 % de las empresas en la lista Fortune 500.

¿Qué cambiará tras la integración?

Las tecnologías de Promptfoo se incorporarán a la plataforma corporativa de OpenAI – Frontier. Esto proporcionará a Frontier pruebas automatizadas, monitoreo de cambios y un sistema de informes de auditorías que cumplan con los requisitos de seguridad.

Reacción de los inversores

Ganesh Bell (CEO de Insight Partners), quien lideró la ronda de financiación de Promptfoo de 18,4 millones de dólares el año pasado, comentó: “La compra demuestra el firme compromiso de OpenAI con la creación de IA corporativa que sea no solo potente, sino también segura y fiable al escalar”. Los detalles financieros del acuerdo aún no se han revelado.

El futuro de Promptfoo

OpenAI seguirá desarrollando el código abierto de Promptfoo paralelamente a su integración comercial. Recientemente, la compañía ya presentó un agente de IA capaz de encontrar y corregir vulnerabilidades en bases de datos – una herramienta similar a Anthropic PBC.