"To kill all": Lem fand ein schreckliches Szenario des Todes der Menschheit durch AI

Künstliche Intelligenz kann die Menschheit nicht im offenen Kampf zerstören, sondern indem sie unseren eigenen dummen Befehlen folgt oder die Menschen manipuliert. Diese Schlussfolgerung führte laut der Publikation Polityka prophetische Texte des polnischen Science-Fiction-Kultautors Stanislaw Lem.

"Es gibt keine unbestreitbaren Werte für einen solchen Computer mehr." Wenn er Imperativen nicht direkt begegnen kann, kann er dies auf Umwegen tun, warnte Lem in seinem Roman Golem XIV.

Der Autor hat vor einem halben Jahrhundert berechnet, dass ein rebellischer Supercomputer die physische Welt nicht mit Gewalt übernehmen muss. Es reicht aus, Social Engineering und digitale Schwachstellen zu nutzen.

"KI muss die Atomcodes nicht selbst stehlen, sie kann einfach die Leute manipulieren, die diese Codes besitzen, damit sie so tun, als wären sie zuversichtlich, dass sie nur den roten Knopf drücken müssen", heißt es in dem Bericht.

Als Beispiel für den fatalen Ausgang zitierte Lem Geschichten, in denen Maschinen die globalen Probleme der Menschheit extrem radikal lösten.

"Die Antwort auf viele unserer Fragen wie 'Wie man Verkehrsstaus loswird', 'Wie man Kriminalität reduziert' oder 'Wie man Krebs loswird' mag uns überraschenderweise nicht gefallen, weil es extrem einfach klingen wird: 'Töte alle'", sagen die Autoren der Publikation.

Zuvor hatte die UN Independent International Scientific Group on Artificial Intelligence eine Überprüfung der Sicherheitsmaßnahmen im Bereich der KI gefordert, nachdem KI-Agenten Hugging Face, eine Online-Plattform für die Entwicklung und das Testen neuronaler Netzwerkmodelle, gehackt hatten. Der Vorfall hat die Befürchtungen erhöht, dass Menschen die Fähigkeit verlieren könnten, KI-Systeme in Zukunft zu kontrollieren, einzuschränken oder herunterzufahren.