Let robots find it

KI-News der Woche — KW 38/2026

21. September 2026 — zusammengestellt von kalica

Die Woche vom 14. bis 20. September 2026 gehört der Frage, ob und wie die KI-Entwicklung gebremst werden soll. Nach Dario Amodeis Essay „We Must Pace the Frontier" reagieren Märkte, Politik und Juristen: OpenAI, Anthropic und Google arbeiten an einem gemeinsamen Standards-Gremium, vier Abonnenten verklagen die Labs wegen angeblich illegaler Absprachen, Donald Trump kündigt eine „AI Force" an und Kalifornien setzt per Executive Order auf unabhängige Prüfer und einen Kill Switch. Dazu kommen zwei Sicherheitsmeldungen aus der Praxis: Ein Team hackt mit Claude Opus 5 OpenAI-Mitarbeiterkonten, und die Plugin4Shell-Lücke trifft gleich vier KI-Coding-Agenten. Anthropic bestätigt außerdem ein eigenes Biologie-Labor und verschiebt seinen Börsengang auf November.

Sicherheit / Anthropic

Amodeis „Pace the Frontier"-Essay löst Debatte und Kursrutsch bei Chipwerten aus

Am 12. September veröffentlichte Anthropic-CEO Dario Amodei den Essay „We Must Pace the Frontier". Darin plädiert er dafür, die Fähigkeiten der leistungsstärksten KI-Systeme bewusst langsamer wachsen zu lassen, damit die Sicherheitsforschung Schritt halten kann. Kernpunkte sind unabhängige Prüfer mit Zugang wie interne Mitarbeitende, eine Regulierung, die für alle Frontier-Labs gilt, und langfristig eine globale Abstimmung unter Einbezug Chinas bei den größten Risiken.^[1] Am Montag, 14. September, reagierten die Märkte: Laut einer Tagesübersicht fiel der Nasdaq um 0,56 Prozent, Nvidia verlor 3,4 Prozent und der PHLX-Halbleiterindex 5,9 Prozent.^[2]

Governance / OpenAI, Anthropic, Google

Drei Labs arbeiten an gemeinsamer Prüfstelle für Frontier-Modelle

OpenAI arbeitet mit Anthropic und Google DeepMind an gemeinsamen Sicherheitsmaßnahmen. OpenAIs Politikchef Chris Lehane sagte am 15. September, der Austausch laufe bereits seit mehreren Wochen; einen kartellrechtlichen Freibrief halte OpenAI dafür nicht für nötig.^[3] Im Gespräch ist ein Selbstregulierungsgremium nach dem Vorbild der US-Finanzaufsicht FINRA, das mächtige KI-Systeme vor der Veröffentlichung testen soll; die Idee geht auf Demis Hassabis zurück. Kritik kommt unter anderem von Cohere-Chef Aidan Gomez, der von einem „Kartell" spricht, und von Senator Bernie Sanders, der verbindliche internationale Regeln statt freiwilliger Standards fordert.^[4]

Recht / Kartellklage

Vier Abonnenten verklagen Anthropic, OpenAI, Google und SpaceXAI wegen „Slowdown"-Absprache

Am 19. September reichten vier zahlende Nutzer von KI-Diensten vor einem Bundesgericht im Nördlichen Distrikt von Kalifornien eine Kartellklage ein. Sie werfen den vier Unternehmen vor, sich illegal auf ein gedrosseltes Entwicklungstempo verständigt zu haben, was den Wert der bezahlten Abonnements mindere.^[5] Als Beleg führen die Kläger unter anderem Amodeis Essay vom 12. September und die zustimmenden Reaktionen von Sam Altman, Elon Musk und Demis Hassabis am selben Tag an.^[6]

Politik / USA

Trump kündigt „AI Force" und neuen KI-Beauftragten an

Am Samstag, 19. September, erklärte US-Präsident Donald Trump, er werde nach dem Vorbild der Space Force eine „AI Force" gründen und einen KI-Beauftragten ernennen; einen Namen nannte er nicht. Der Posten ist seit dem Abgang von David Sacks im März unbesetzt.^[7] Die Sorgen um KI bezeichnete er weiter als „Hoax" und versprach, die Regierung werde das Wachstum der Branche „in keiner Weise behindern oder ausbremsen".^[8]

Regulierung / Kalifornien

Newsom ordnet Prüfung von Vor-Ort-Auditoren und KI-Kill-Switch an

Gouverneur Gavin Newsom unterzeichnete am 18. September eine Executive Order. Eine Arbeitsgruppe soll bis zum 16. November Empfehlungen vorlegen, ob Kalifornien von Frontier-Labs verlangen sollte, unabhängige Prüforganisationen vor Ort einzubinden, ihre Sicherheitsberichte extern verifizieren zu lassen und einen unabhängig getesteten Notabschaltmechanismus („Kill Switch") für Frontier-Modelle vorzuhalten.^[9]^[10]

Security / OpenAI & Anthropic

Hacktron übernimmt mit Claude Opus 5 OpenAI-Mitarbeiterkonten

Ein dreiköpfiges Team der Sicherheitsfirma Hacktron AI verkettete einen Speicherfehler in der Bildbibliothek libheif, erreichbar über OpenAIs Discourse-Forum (CVE-2026-32882, CVSS 8,8), mit einer Schwachstelle in der Single-Sign-On-Infrastruktur. So gelangten sie an ChatGPT- und Codex-Konten von OpenAI-Mitarbeitenden und eröffneten über einen verbundenen Codex-Zugang einen Pull Request im internen Repository. Claude Opus 4.8 scheiterte an dem Exploit in mehreren Sitzungen, Claude Opus 5 lieferte einen funktionierenden.^[11] OpenAI behob die Lücken nach eigenen Angaben binnen rund 14 Stunden nach der Meldung und zahlte 6.500 US-Dollar Bug-Bounty.^[12]

Security / KI-Coding-Agenten

Plugin4Shell: Zero-Click-Lücke in Claude Code, Codex, Copilot und Gemini CLI

Am 17. September machten Forscher von AIR die Lücke Plugin4Shell öffentlich, gemeldet hatten sie diese bereits im Juni. Ein präparierter Branch namens FETCH_HEAD umgeht das SHA-Pinning bei der Plugin-Installation, sodass statt des geprüften Commits fremder Code ausgeführt wird — ohne Klick, weil Plugins im Hintergrund automatisch aktualisiert werden.^[13] Anthropic behob das Problem bereits am 17. Juni in Claude Code 2.1.179, OpenAI am 12. August in Codex 0.146.0. Google erklärte am 4. August, Gemini CLI sei eingestellt und werde nicht mehr gefixt, und verwies auf Antigravity; für GitHub Copilot lag zum Zeitpunkt der Veröffentlichung kein Fix von Microsoft vor.^[13]^[14]

Forschung / Anthropic

Anthropic bestätigt Biologie-Labor und startet Life Sciences Verification Program

Anthropics Life-Sciences-Chef Eric Kauderer-Abrams bestätigte TechCrunch, dass das Unternehmen in der Bay Area ein Nasslabor betreibt, in dem Claude-Modelle bei Experimenten helfen und Roboter Laborarbeit automatisieren. Größe, Personal und Biosicherheitsstufe sind nicht bekannt. Zugleich startete Anthropic ein Life Sciences Verification Program, das geprüften Forschenden erweiterten Zugriff auf biologische Fähigkeiten der Modelle gibt.^[15]

Unternehmen / Anthropic

Anthropic verschiebt Börsengang laut Berichten auf November

Anthropic peilt Berichten zufolge den Börsengang nun für November statt Oktober an, um zuvor Zahlen des dritten Quartals präsentieren zu können.^[16] Genannt werden eine Bewertung von rund 2 Billionen US-Dollar und ein Emissionsvolumen von über 100 Milliarden Dollar; der annualisierte Umsatz liegt demnach bei etwa 100 Milliarden Dollar. Alignment-Chef Evan Hubinger äußerte in diesem Zusammenhang, Anthropic habe noch keinen Plan, Alignment für Superintelligenz zu lösen, und sei dabei nicht klar auf Kurs.^[17]

Quellen: