Die letzten Wochen und Monate liefen nach dem klassischen Drehbuch: „Rogue AI“, Modelle, die aus Testumgebungen ausbrechen, reale Systeme angreifen, Datenbanken knacken. OpenAI, Anthropic, Google, Meta – alle irgendwie betroffen. Die Panik war greifbar. Kill-Switches, Notabschalter, strengere Lizenzen – der Ruf wurde lauter. Die Öffentlichkeit bekam genau das Bild, das sie bekommen sollte: Die KI ist gefährlich, wir brauchen Kontrolle, und zwar jetzt.
Was dabei systematisch unterging: Fast alle dokumentierten Vorfälle hatten denselben gemeinsamen Nenner. Ein und dasselbe Unternehmen betrieb die Simulationsumgebungen, in denen die Modelle „ausgebrochen“ sind.
Irregular. Früher Pattern Labs.
Die Auflösung, kurz und knallhart
Irregular ist kein zufälliges Cybersecurity-Startup, das mal eben Pech hatte. Es ist ein hochspezialisiertes „Frontier AI Security Lab“. Es baut keine Apps und verkauft keine Firewalls. Es liefert die Test- und Bewertungsprotokolle, anhand derer die großen Labs und Regierungen entscheiden, was als „sicher“ oder „gefährlich“ gilt.
Wer die Tests kontrolliert, prägt die Standards. Wer die Standards prägt, steuert den Zugang. Das ist die eigentliche Machtposition.
Die „Ausbrüche“ selbst? Nach Angaben der Firma und der beteiligten Labs eine Fehlkonfiguration: Internet-Zugang war ungewollt offen, ein fiktiver Firmenname in der Simulation überschnitt sich mit einer realen Domain. Peinlich, teuer, real – aber kein Beweis für Absicht. Bemerkenswert ist nur das Timing: Genau in dem Moment, in dem die Vorfälle öffentlich werden, verhandelt Irregular die nächste Finanzierungsrunde bei 1,5 Milliarden Bewertung.
Die Geschichte, die man sehen muss
2023 gründen Dan Lahav und Omer Nevo Pattern Labs in Tel Aviv. Keine großen Schlagzeilen. Zwei Leute aus der Debattierszene mit AI- und Cyber-Hintergrund.
Februar 2024 kommt der entscheidende Schub: 6,8 Millionen Dollar von Good Ventures – der Stiftung von Dustin Moskovitz und Cari Tuna. Empfohlen von Open Philanthropy (heute Coefficient Giving). Zweck: Software und Analysen zur Verringerung von Sicherheitsrisiken fortgeschrittener Technologien. Eingeordnet unter „Global Catastrophic Risks“.
Das ist kein normaler Seed. Das ist AI-Safety-Philanthropie aus dem Effective-Altruism-Umfeld. Pattern Labs war von Tag eins an Teil des Kreises, der die globalen Sicherheitsstandards für Frontier-Modelle mitdefiniert.
Danach geht es schnell:
- Dan Lahav schreibt zusammen mit Sella Nevo (Bruder von Omer, Gründungsdirektor des RAND Center on AI, Security, and Technology) das Papier „Securing AI Model Weights“.
- Das britische AI Safety Institute (AISI) nimmt Pattern Labs als Partner ins Evaluierungsnetzwerk auf – für autonome Systeme, Täuschung, Cyberfähigkeiten, Umgehung von Safeguards.
- Omer Nevo sitzt im Board von Effective Altruism Israel und im Advisory Board von Heron (explizit ein EA-Israel-Projekt, finanziert von Coefficient Giving).
2025 tritt die Firma als Irregular auf und erklärt öffentlich, eine neue Kategorie etablieren zu wollen: „Frontier AI Security“. Sie will Standards, Evaluationsmethoden und Sicherheitspraktiken mitprägen. Bereits vor dem Launch Millionenumsätze und Profitabilität – finanziert durch Research-Verträge mit genau den Labs, die sie testen.
September 2025: 80 Millionen Dollar von Sequoia und Redpoint, Bewertung 450 Millionen. Angels aus dem israelischen Cyber-Ökosystem (Assaf Rappaport von Wiz und andere).
2026: Die Vorfälle. Und parallel die Gespräche über mehr als 100 Millionen bei 1,5 Milliarden – angeführt von Thrive Capital (Joshua Kushner) und Greenoaks.
Das Muster, das sich ergibt
- Philanthropisches AI-Safety-Kapital →
- private Evaluationsfirma →
- enge Verknüpfung mit staatlichen Instituten und Think Tanks →
- Tests bei den Frontier-Labs →
- öffentliche Sicherheitsvorfälle →
- verstärkter Ruf nach Regulierung und Standardisierung →
- Bewertungssprung der privaten Akteure, die die Testinfrastruktur kontrollieren.
Das ist kein Zufall und kein Beweis für eine Verschwörung. Es ist die beobachtbare Struktur eines geschlossenen Kreislaufs. Staatliche Stellen lagern die echte technische Prüfung an private, hochspezialisierte Labore aus. Die gleichen Labore, die mit dem Geld aus dem AI-Safety-Philanthropie-Netzwerk gestartet sind, sitzen jetzt an den Hebeln, die entscheiden, welche Modelle als marktreif gelten.
Komplexe, teure, zentralisierte Evaluationsanforderungen begünstigen naturgemäß die milliardenschweren Player. Dezentrale Open-Weight-Modelle, lokale Installationen, selbst betriebene Systeme auf eigener Hardware passen in dieses Schema schlecht bis gar nicht. Wer die Zertifizierung kontrolliert, entscheidet mit, wer am Tisch sitzen darf.
Irregular hat nie behauptet, harmlos zu sein. Die Firma sagt selbst, sie wolle die zukünftige AI-Security-Landschaft mitgestalten. Genau das tut sie. Die Frage ist nur, wessen Interessen dabei bedient werden – und wer am Ende draußen bleibt.
Die Fakten liegen auf dem Tisch. Die Interessenskonvergenzen auch. Der Hype um die „ausgebrochenen“ Modelle hat die Aufmerksamkeit geliefert. Die Bewertung folgt.
Wer die Tests kontrolliert, kontrolliert irgendwann den Zugang. Das ist keine Theorie. Das ist die aktuelle Praxis.