OpenAI gab am Montag bekannt, dass es Promptfoo, ein 2024 gegründetes AI-Sicherheits-Startup, übernommen hat, das große Sprachmodelle vor Online-Angreifern schützen soll. Nach Abschluss der Übernahme wird die Technologie von Promptfoo in OpenAI Frontier integriert, die Unternehmensplattform des Unternehmens für KI-Agenten. Die Bedingungen wurden nicht bekannt gegeben.
Der Schritt ist finanziell klein, aber signalisiert Großes. Er zeigt, wo die führenden Labore die nächste Hürde sehen: nicht in der reinen Modellfähigkeit, sondern darin, zu beweisen, dass autonome Agenten sicher innerhalb realer Geschäftsabläufe agieren können. Und dieser gleiche Wandel – von „Klingt das Modell gut?“ zu „Können wir überprüfen, was es tatsächlich tut?“ – steht für jede Marke bevor, die jetzt in KI-Antworten präsent ist.
Wichtige Erkenntnisse
- OpenAI übernimmt Promptfoo, ein 2024 gegründetes LLM-Sicherheits-Startup, und integriert es in OpenAI Frontier, seine Plattform für Unternehmensagenten. - Promptfoo hatte 23 Millionen US-Dollar eingeworben, wurde zuletzt im Juli 2025 laut PitchBook mit 86 Millionen US-Dollar bewertet und wird von mehr als 25 % der Fortune-500-Unternehmen genutzt. - Die Übernahme signalisiert, dass die Bewertung, das Red-Teaming und die Überwachung von KI-Verhalten zur Kerninfrastruktur werden und keine optionalen Zusatzfunktionen mehr sind. - Für GEO-Teams ist die Parallele direkt: Wenn Agenten Transaktionen und Empfehlungen übernehmen, müssen Sie kontinuierlich testen und messen, was KI über Ihre Marke sagt und tut – und nicht darauf vertrauen. - Vertrauen wird zur Währung des agentischen Handels, und Vertrauen existiert nur dort, wo Verhalten überprüfbar ist.
Was Promptfoo macht
Promptfoo wurde von Ian Webster und Michael D'Angelo gegründet, um Unternehmen dabei zu helfen, Sicherheitslücken in LLMs zu testen. Sein Toolkit – eine Open-Source-Schnittstelle und Bibliothek sowie ein kommerzielles Angebot – ermöglicht es Teams, Modelle auf Schwachstellen zu prüfen, automatisiertes Red-Teaming durchzuführen, die Sicherheit agentischer Workflows zu bewerten und Aktivitäten auf Risiken und Compliance zu überwachen. Einfach ausgedrückt: Es testet KI-Systeme auf Belastbarkeit, ähnlich wie ein Penetrationstester ein Netzwerk testet, und überwacht sie dann, sobald sie live sind.
Die Adoptionszahlen erklären die Übernahme. Mehr als ein Viertel der Fortune-500-Unternehmen nutzt bereits Promptfoo, was bedeutet, dass es eng mit den Bemühungen großer Unternehmen verbunden ist, KI-Agenten sicher einzusetzen. Durch den Kauf kann OpenAI Agenten anbieten, die Unternehmen auditieren können, anstatt sie nur zu bewundern.
Warum das Timing wichtig ist
Unabhängige KI-Agenten, die digitale Aufgaben ausführen, haben echte Begeisterung über Produktivitätssteigerungen ausgelöst. Sie haben jedoch auch böswilligen Akteuren neue Möglichkeiten eröffnet, auf sensible Daten zuzugreifen oder automatisierte Systeme zu manipulieren. Ein Agent, der sich einloggen, Geld bewegen oder eine Bestellung aufgeben kann, ist ein lohnendes Angriffsziel. Prompt Injection, Datenexfiltration und manipulierte Tool-Aufrufe sind nicht mehr nur theoretisch, sobald der Agent Ihre Zugangsdaten hat.
