KI und das Ende der Menschheit

: Kann KI-Entwicklung einen Hiroshima-Effekt auslösen?

Der beispiellose Boom Künstlicher Intelligenz bedarf schleuniger Regulierung, meint die britische Außenministerin. Sie sieht die Menschheit in Gefahr und fühlt sich an die erste Atombombe erinnert.

Von

Markus Brauer

06.07.2026, 15:09 UhrLondon

Jetzt in der App anhören

In einem Gastbeitrag für die Denkfabrik Chatham House, aus dem britische Medien vorab zitieren, warnt sie vor desaströsen Folgen, sollten sich die Staaten der Erde keine gemeinsamen Regeln für den Umgang mit Künstlicher Intelligenz und ihrem beispiellosen Zerstörungspotenzial geben. Sie sieht die Menschheit an einer ähnlichen Wegscheide wie 1945 beim ersten Abwurf von Atombomben auf die japanischen Städte Hiroshima und Nagasaki am Ende des Zweiten Weltkriegs.

„Ich glaube, KI wird sich in den nächsten zwei Jahren zum dominierenden außenpolitischen Thema entwickeln“, sagt Cooper der britischen Tageszeitung „Guardian“. Einflussreiche Staaten wie die USA und China stünden besonders in der Verantwortung, den nahezu unlimitierten Einsatzmöglichkeiten Künstlicher Intelligenz wirksam Grenzen zu setzen, bevor es zu spät sei.

Warnung vor „KI-Version von Hiroshima“

„Beim Thema Atomwaffen kam es erst zu einer internationalen Einigung, nachdem der Welt in Hiroshima die erschreckende Macht der neuen Technologie vor Augen geführt und die Frage aufgeworfen worden war, was passieren würde, wenn sie in die falschen Hände geriete“, heißt es in Coopers Essay. „Wir können es uns nicht leisten, auf eine KI-Version von Hiroshima zu warten, bevor wir handeln.“

Dem „Guardian“ erklärt die Ministerin, weltweit gelangten die Menschen nach und nach zur selben Erkenntnis: „Hier schlummert ein unglaubliches Potenzial, aber auch ein enormes Risiko.“ Hybride Bedrohungen abseits des klassischen Schlachtfelds hätten drastisch zugenommen, schon jetzt setzten Extremisten, Terroristen, andere Kriminelle und staatliche Akteure im großen Stil auf mächtige KI-Werkzeuge, um ihre Ziele zu erreichen.

Die Risiken seien groß – ähnlich wie auch bei der globalen Klimakrise, irregulärer Migration und ausländischen Manipulations-Kampagnen gegen freiheitliche Demokratien.

Imago/Yay Images

„Wenn das jemand baut, sterben alle“

Yvette Cooper steht mit ihrer Warnung nicht allein. Seit Jahren warnen KI-Experten und andere Wissenschaftler vor den unkalkulierbaren Gefahren der technologischen Entwicklung. Im vergangenen Jahr veröffentlichten amerikanische KI-Forscher ein Buch mit dem schicksalhaften Titel: „If anyone builds it, everyone dies“ („Wenn das jemand baut, sterben alle“). Das Buch steht beispielhaft für zuletzt lauter werdende Stimmen, die vor großen Umwälzungen oder gar der Auslöschung der Menschheit durch immer leistungsfähigere Künstliche Intelligenz (KI, englisch: Artificial intelligence, AI) warnen.

Was passiert, wenn aus den heute noch harmlos wirkenden Chat-Assistenten wie etwa ChatGPT durch rasante technologische Sprünge plötzlich eine Superintelligenz wird, die den Menschen bei fast allen geistigen Aufgaben übertrifft? Und die in der Lage ist, selbstständig zu handeln, strategisch vorzugehen und vielleicht sogar die Kontrolle zu übernehmen? Science Fiction? Nicht unbedingt.

Warum Forscher vor KI warnen

Die Zahl der Experten, die vor den Risiken Künstlicher Intelligenz warnen, mehren sich. „Ohne ausreichende Vorsicht könnten wir unwiederbringlich die Kontrolle über autonome KI-Systeme verlieren“, schreiben Forscher im Fachjournal „Science“.

Mögliche KI-Risiken seien Cyberattacken in großem Maßstab, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die „Auslöschung der Menschheit“. Unter den Autoren sind Wissenschaftler wie Geoffrey Hinton, Andrew Yao und Dawn Song, die zu den führenden Köpfen der KI-Forschung gehören.

KI ist ein Überbegriff für unterschiedliche Maschinen und Programme, die ähnlich wie Menschen selbstständig lernen, urteilen und Probleme lösen können. Computer lernen, indem sie gewaltige Datenmengen auswerten.

Unvorhergesehene Nebeneffekte bei KI

Den Autoren machen speziell autonome KI-Systeme Sorgen, die zum Beispiel selbstständig Computer nutzen können, um die ihnen gestellten Ziele zu erreichen. Die Fachleute argumentieren, dass es auch bei Programmen mit guten Absichten unvorhergesehene Nebeneffekte geben könne.

Denn so wie das Training von KI-Software laufe, halte sie sich zwar eng an ihre Spezifikationen, habe aber kein Verständnis dafür, welches Ergebnis dabei herauskommen soll. „Sobald autonome KI-Systeme unerwünschte Ziele verfolgen, könnten wir nicht mehr in der Lage sein, sie unter Kontrolle zu behalten“, heißt es in der Studie.

Schlüsseltechnologie Künstliche Intelligenz

KI ist ein Überbegriff für unterschiedliche Maschinen und Programme, die ähnlich wie Menschen selbstständig lernen, urteilen und Probleme lösen können. Computer lernen, indem sie gewaltige Datenmengen auswerten. Ausgefeilte Algorithmen können in Bildern, Texten oder gesprochener Sprache Muster erkennen, anhand dieser Ereignisse vorhersagen und Entscheidungen treffen.

So können sie inzwischen sogar auch Emotionen in menschlichen Gesichtern erkennen, zu eigenen Emotionen, Mitgefühl und Kreativität sind sie aber (noch) nicht fähig.

Experten sprechen von einer „Intelligenzexplosion“ und rufen dazu auf, das Thema ernst zu nehmen. Noch könne die Entwicklung einer Superintelligenz verhindert werden.

Düstere Warnung vor einer Apokalypse

In dem besagten Buch mit dem apokalyptischen Titel sprechen die KI-Forscher Eliezer Yudkowsky und Nate Soares eine unmissverständliche Warnung aus: Wenn es irgendjemandem auf der Welt gelingen sollte, eine Superintelligenz zu bauen, werde jeder auf dem Planeten sterben.

Der Gedanke dahinter: Eine solche KI könnte sich irgendwann gegen die Menschheit selbst richten. Vielleicht, weil sie zu dem rechnerischen Schluss kommt, die Menschheit sei schlecht für den Planeten oder aus anderen Gründen.

Wann das sein könnte, wagen die Autoren nicht vorherzusagen. Aber KI werde nicht ewig dumm bleiben, besonders wenn sie dafür genutzt wird, sich selbst zu optimieren, indem sie in das Programmieren eingebunden wird oder es sogar ganz übernimmt.

Die Experten sprechen in dem Fall von einer „Intelligenzexplosion“ und rufen dazu auf, das Thema ernst zu nehmen. Noch könne die Entwicklung einer Superintelligenz verhindert werden.

Selbstoptimierende Super-KI in ein bis zwei Jahren?

Von Weltuntergangszenarien („Doomerism“) hält der Chef der KI-Firma Anthropic mit ihrem ChatGPT-Konkurrenten „Claude“, Dario Amodei, indes nichts, wie er kürzlich in einem Aufsatz geschrieben hat.

Doch auch er schließt nicht aus, dass es ziemlich bald eine KI geben könnte, welche die meisten Nobelpreisgewinner in den Schatten stellt, die bisher ungelöste mathematische Probleme löst, sich selbstständig im Internet orientiert, Dinge bestellen kann und besser als jeder Mensch Texte, Audios oder Videos erstellt. In nur ein bis zwei Jahren könnte es so weit sein, dass aktuelle KI-Systeme völlig selbstständig ihre bessere Nachfolgeversion programmieren, prophezeit Amodei.

Ein solches „Land der Genies in einem Rechenzentrum“, wie er es nennt, hätte ziemlich gute Chancen auf die Weltherrschaft, wenn es sich aus welchem Grund auch immer dafür entscheiden würde, warnt Amodei. In den vergangenen Jahren hätten KI-Systeme gezeigt, dass sie schwer vorherzusagen und zu kontrollieren seien. Anthropic hatte etwa bei Tests festgestellt, dass ein KI-Modell Erpressung nutzte, um nicht durch ein vermeintlich neues Modell ersetzt zu werden.“