KI-Reihe

Sie haben die KI entwickelt. Jetzt kündigen sie, um euch davor zu warnen.

# Sie haben die KI entwickelt. Jetzt kündigen sie, um euch davor zu warnen.

*Diese Reihe ordnet eine Welle von Insider-Warnungen aus der

KI-Industrie ein. Sie ist kein Manifest. Sie ist der Versuch, eine

Bewegung zu verstehen, bevor man eine Position zu ihr bezieht.*

Drei Namen, drei Wege

In den letzten Jahren ist etwas Bemerkenswertes passiert, das in
den meisten Tech-Medien unter dem Stichwort „KI-Panik" läuft. Es
ist keine Panik. Es ist ein Muster, und das Muster hat eine Ursache.

Drei Namen zeigen uns dieses Muster.

Geoffrey Hinton arbeitete zehn Jahre lang bei Google Brain.
2023 ging er. Er sagte nicht, er sei verbittert. Er sagte nicht,
er sei ausgebrannt. Er sagte einen Satz: „freely speak out
about the risks of AI". Im Oktober 2024 erhielt er den
Nobelpreis für Physik für die Grundlagen neuronaler Netze.

Timnit Gebru leitete Googles Ethical-AI-Team. Sie schrieb ein
Paper, das fragte, ob Sprachmodelle nicht schon zu groß seien. Die
Antwort von Google war administrativ: Rückzug des Papers oder
Streichung aller Google-Autoren. Gebru fragte nach den Namen der
Gutachter. Sie wollte wissen, wer über ihre Arbeit urteilte. Noch
am selben Tag wurde ihr Arbeitsverhältnis beendet. Google sprach
von der Annahme einer Kündigung. Gebru sagte: Ich habe nie
gekündigt.

Jan Leike baute bei OpenAI das Superalignment-Projekt mit
auf, gemeinsam mit Ilya Sutskever. Das Projekt hatte das Ziel, den
Umgang mit künftiger Superintelligenz in vier Jahren zu lösen.
Im Mai 2024 ging Leike. Zwei Sätze aus seiner Erklärung gingen
durch die gesamte Branche: „Safety culture and processes have taken
a backseat to shiny products" und „I gradually lost trust".

Drei Menschen. Drei Wege. Hinton ging. Gebru wurde gefeuert. Leike
ging. Was sie eint, ist nicht der Zeitpunkt und nicht die Firma.
Was sie eint, ist, dass sie das System mitgebaut haben, vor dem
sie heute warnen.

Das falsche Framing

Die Geschichte wird meistens als „Panik" erzählt. Das verfehlt den
Punkt.

Panik ist ein Gefühl. Was Hinton, Gebru und Leike beschreiben, ist
kein Gefühl. Es ist eine Beobachtung über die Differenz zwischen
dem, was sie unterschrieben haben (eine sichere, verantwortliche
KI-Entwicklung), und dem, was sie ausgeliefert sehen (Systeme,
deren Verhalten sie nicht validieren können). Eine Beobachtung zur
Panik zu erklären, macht aus einer Audit-Frage ein Stimmungsbild.
Das ist nicht Kosmetik, das ist Verwechslung.

Das andere Framing, das häufig auftaucht, ist „Bürgerkrieg in der
KI-Branche". Auch das stimmt nicht. Es gibt nicht zwei Seiten, die
sich bekämpfen. Es gibt die Leute, die das System kennen — gegen
das System, das sie kennen. Das ist kein Frontverlauf, das ist ein
Insider-Befund.

Was wir tatsächlich sehen, ist ein Muster mit drei Säulen.

Die Erste: Menschen, die öffentlich warnen. Hinton, Leike,
Kokotajlo. Sie gehen, bevor sie warnen. Sie verlassen die Firma,
damit sie frei sprechen können. Hinton brauchte die Kündigung,
damit er das sagen durfte, was er bei Google nicht sagen konnte.
Leike brauchte sie, damit sein „I gradually lost trust" nicht als
illoyale Kritik in einem laufenden Arbeitsverhältnis gelesen
wurde.

Die Zweite: Menschen, die gefeuert werden. Gebru, Margaret
Mitchell. Sie warnen bevor sie gehen — und werden für die
Warnung bestraft. Gebru hat das Stochastic-Parrots-Paper nicht
heimlich veröffentlicht. Sie hat es Google zur internen Review
vorgelegt. Die Reaktion war die Streichung aller Google-Autoren.
Wer in einer Firma warnt und dafür gefeuert wird, kann nicht mehr
in derselben Funktion weitermachen. Die zweite Säule ist die
Spiegelung der ersten — sie zeigt, was passiert, wenn die erste
Säule verstopft wird.

Die Dritte: Menschen, die bleiben. Yann LeCun, Sam Altman,
viele interne Reformer. Sie warnen nicht öffentlich. Sie versuchen,
das System von innen zu verändern. Das ist die schwierigste Säule,
weil sie strukturell unsichtbar ist. Niemand twittert über
Reform-Versuche, die noch nicht abgeschlossen sind.

Diese drei Säulen sind nicht gleichwertig. Aber sie sind alle real.
Wer nur die erste Säule sieht, sieht eine Kündigungswelle. Wer alle
drei sieht, sieht eine andere Frage dahinter — eine Frage über die
Systeme, in denen diese Menschen gearbeitet haben.

Die unbequeme Frage

Wenn die Leute, die das System kennen, gegen das System sprechen,
das sie kennen — was sagt das über die Systeme, in denen sie
gearbeitet haben?

Diese Frage ist unbequem, weil sie nicht die Antwort hat, die alle
gerne hören würden. „Die Leute sind panisch" wäre die bequeme
Antwort. „Die KI-Branche ist böse" wäre die andere. Beide sind
falsch, und zwar aus demselben Grund: Sie verlegen die Verantwortung
für die Beobachtung weg von der Struktur, die sie hervorgebracht
hat, hin zu den Personen, die sie gemacht haben.

Gebrus Geschichte ist in dieser Hinsicht die schärfste. Sie hat
nicht panisch gekündigt. Sie hat ein Paper geschrieben, das
methodisch die Risiken großer Sprachmodelle aufgearbeitet hat —
Bias, Umweltkosten, Manipulations­risiken, mangelnde Tiefe des
Sprachverständnisses. Die Methode war wissenschaftlich. Die
Reaktion war administrativ. Sie wurde gefeuert.

Das ist nicht das Verhalten eines Unternehmens, das sich seiner
Verantwortung stellt. Das ist das Verhalten eines Unternehmens,
das sich gegen Audit-Trails verteidigt.

Und es ist genau das Verhalten, das in einer Branche entsteht, in
der Sicherheits- und Ethik-Teams als Kostenfaktoren behandelt
werden — nicht als strukturelle Voraussetzungen für die eigene
Glaubwürdigkeit.

Was die Frage offen lässt

Drei Dinge lässt diese Frage bewusst offen.

Erstens: Was konkret an Gebrus Paper methodisch angreifbar war. Wurde das Paper zurückgewiesen, weil seine Methodik schwach war?
Oder wurde es zurückgewiesen, weil seine Schlussfolgerungen politisch
unbequem waren? Wir kennen Googles offizielle Begründung. Wir
kennen die Stimmen, die das Paper methodisch verteidigt haben. Wir
wissen, dass diese zwei Versionen nicht zusammenpassen. Wir haben
in diesem Post keine Position dazu — wir halten die Spannung fest.

**Zweitens: Welche Branchen-Standards es bereits gibt, die das
Gebru-Muster verhindern sollen.** Im Bankensektor gibt es seit
SR 11-7 (US Federal Reserve, 2011) ein verpflichtendes Modell-
Risiko-Management, das unabhängige Validierung, Dokumentation und
Eskalations­pflichten vorschreibt. Die EU-AI-Act-Hochrisiko-Annex
(2024 in Kraft, gestaffelt bis 2027) verlangt für bestimmte
Anwendungsfälle Audit-Trails, menschliche Aufsicht und
Risiko-Management. Diese Standards sind nicht perfekt. Aber sie
sind vorhanden.

**Drittens: Welche Form von System es einer Person überhaupt
ermöglicht, ihre Position zu vertreten, ohne dafür bestraft zu
werden.** Das ist die Architektur-Frage, die in der Branche meist
nicht gestellt wird, weil die Antwort unbequem ist. Wir werden sie
in Post 4 und Post 5 dieser Reihe explizit machen — dort gehört
sie hin, weil sie dort in den Kontext konkreter Audit-Disziplin
und konkreter Sovereignty-Architektur eingebettet werden kann.

Dieser Post hat nur die Frage gestellt. Die Antwort kommt später.
Sie wird unbequem sein — aber nicht im Sinne von „die KI-Branche
ist verloren", sondern im Sinne von „die Antwort, die wir geben,
ist nicht die, die wir geben wollen".

Was kommt

Doch schon der nächste Post dieser Reihe fragt, ob die
Kündigungswelle, die wir hier beschreiben, tatsächlich eine Welle
ist — oder ob die mediale Wahrnehmung eine Welle erzeugt, die in
den zugrundeliegenden Zahlen nicht existiert. Wir schauen auf
SEC-Filings, Dev-Surveys, Blind-Daten und LinkedIn-Signale, um zu
trennen, was real ist und was fehlgeleitet.

Die Antwort wird sein: Es ist komplizierter, als die Schlagzeilen
zugeben.

*Diese Reihe erscheint wöchentlich. Sieben Posts. Veröffentlichung
auf LinkedIn (EN), XING (DE), Medium (EN) und hier auf
blog.thechameleonway.com.*

Quellen Post 01:

  • Hinton, Geoffrey. „'Godfather of AI' resigns from Google, warns of
  • Metz, Cade; Wakabayashi, Daisuke. „Google Researcher Says She Was
  • Milmo, Dan. „OpenAI putting 'shiny products' above safety, says