OpenAI integra la sicurezza negli agenti AI, acquisendo lo startup Promptfoo

OpenAI acquista lo startup Promptfoo

L’azienda OpenAI ha stipulato un accordo per l’acquisto dello startup di due anni Promptfoo, che sviluppa strumenti per verificare la sicurezza dell’intelligenza artificiale già durante la sua fase di creazione. Secondo Bloomberg, l’obiettivo della transazione è ridurre i rischi per i clienti che utilizzano soluzioni AI e attrarre il grande mercato corporativo.

Chi è Promptfoo?

- Fondato: 2022
- Sede: San Francisco
- Servizi: codice aperto per testare reti neurali, compreso il “red‑team”, dove gli specialisti simulano attacchi sui propri modelli, individuando vulnerabilità prima che vengano scoperte dagli aggressori.
- Clienti: circa il 25 % delle aziende della lista Fortune 500.

Cosa cambierà dopo l’integrazione?

Le tecnologie Promptfoo saranno integrate nella piattaforma aziendale di OpenAI – Frontier. Ciò fornirà a Frontier test automatizzati, monitoraggio dei cambiamenti e un sistema di reporting sulle verifiche conformi ai requisiti di sicurezza.

Reazione degli investitori

Ganes Bell (CEO Insight Partners), che ha guidato il round di finanziamento Promptfoo da 18,4 mila milioni di dollari l’anno scorso, ha osservato: «L’acquisto dimostra un chiaro impegno di OpenAI nella creazione di AI aziendale che sarà non solo potente ma anche sicura e affidabile in scala». I dettagli finanziari della transazione non sono ancora divulgati.

Il futuro di Promptfoo

OpenAI continuerà a sviluppare il codice sorgente aperto di Promptfoo parallelamente alla sua integrazione commerciale. Recentemente l’azienda ha già presentato un agente AI capace di individuare e correggere vulnerabilità nei database – uno strumento simile ad Anthropic PBC.