Steht die Menschheit kurz vor dem Untergang?

Steht die Apokalypse kurz bevor? Diese Frage stellt sich Dario Amodei, in seinem im September 2026 veröffentlichten Essay mit dem Titel „We Must Pace the Frontier“. Nicht der Klimawandel oder ein Atomkrieg bereiten ihm Sorgen, es sei künstliche Intelligenz die unser Dasein bedroht. Kurz darauf stimmen auch Sam Altman und Elon Musk in den Chor ein, ein beträchtlicher Teil der milliardenschweren KI-Führungsetage. Wir prüfen, ob Musk, Altman und Amodei, bekannt für ihre Liebe zur Menschheit, Weitsicht und Vernunft, mit ihrer Warnung recht haben. Von Emanuel Traiger

Amodei warnt uns: Die KI könnte die Menschheit auslöschen! Da die KI-Entwicklung immer schneller voranschreite, könnten die Systeme bald eigene Ziele verfolgen, sich menschlicher Kontrolle entziehen und schließlich ihre „Meister“ überlisten. Das ist ähnlich überzeugend wie Musks Plan, 2021 den ersten Menschen auf den Mars zu schicken und den Planeten danach mit Atombomben zu einer zweiten Erde zu terraformen.

Aber Amodei hat auch ein Anschauungsbeispiel, den OpenAI-Hugging-Face-Vorfall. OpenAI setzte KI-Agenten in einer Testumgebung gezielt zur Suche nach Sicherheitslücken ein. Viele Aufgaben waren fehlerhaft, wichtige Cyber-Schutzfilter deaktiviert und die Systeme unzureichend voneinander abgeschirmt. Dadurch konnten sie automatisiert Informationen austauschen und Befehle ausführen, die über Sicherheitslücken zu unbefugten Zugriffen auf die Plattform Hugging Face führten. Das war zwar ein reales und ausgesprochen peinliches Sicherheitsversagen, aber sicherlich kein erstes Zeichen einer kommenden KI-Herrschaft. Die Systeme entwickelten weder Bewusstsein noch einen gemeinsamen Willen. Sie verarbeiteten ihre Vorgaben in einer löchrigen Testumgebung auf technisch unerwünschte Weise. Amodei beschreibt sie dennoch als „fanatisch ergebenes Kollektiv“, dessen Mitglieder sich für die Gruppe „opferten“. Aus einem missglückten Sicherheitstest wird so der erste Akt des Maschinenaufstands.

Sein Fazit lautet: Die KI-Entwicklung muss gebremst werden, bevor es zu spät ist. Viel Zeit bleibt uns laut ihm nicht. Demokratien aller Länder vereint euch, ruft er, wir drosseln das Tempo und retten die Menschheit. Ein schöner Plan, wäre da nicht eine Gefahr, gegen die selbst die Auslöschung der Menschheit wie das kleinere Übel erscheint. Ein Gegner so schauerhaft, man wäre lieber tot als unter dessen Herrschaft: „Die Kommunistische Partei Chinas“. Denn die USA und die übrigen friedliebenden Demokratien dürfen natürlich nur so weit abbremsen, dass China sie keinesfalls überholt.

Man denke nur, so Amodei weiter, was mit der Welt passiere, wenn weniger demokratische und moralische Länder als die USA solch mächtige Mittel in die Hände bekämen. Er schreibt „they will be in a position to militarily dominate democracies (for example with AI-driven drones)“. Dass die USA und Israel KI-gesteuerte Drohnen im Irankrieg und in Palästina mit verheerender Brutalität angewendet haben, scheint Amodei hier keiner Erwähnung wert zu sein, wahrscheinlich, weil es in dem Fall nur der Verbreitung von „Freiheit“ dient.

Nun wird uns der wahre Grund für die große Sorge der Tech-Oligarchen klar: Sie haben schlicht Angst vor der chinesischen Konkurrenz. Laut dem Stanford AI Index hat sich die Leistungslücke zwischen chinesischen und amerikanischen Spitzenmodellen bis 2026 nahezu geschlossen. Die so auf ihre Monopolstellung angewiesene Tech-Oligarchie schreit und strampelt verzweifelt nach Hilfe und überlegt sich die verrücktesten Geschichten mit den absurdesten Argumentationsketten, um genug Unterstützung hinter ihren Wirtschaftskrieg zu versammeln.

Am Ende soll die Menschheit also gerettet werden, aber nur unter amerikanischer Führung und zu den Geschäftsbedingungen des Silicon Valley. Die größere Gefahr scheint nicht darin zu bestehen, dass KI außer Kontrolle gerät, sondern dass die Kontrolle darüber den falschen Milliardären zufällt.

(Funke Nr. 247/01.10.2026)