"Wenn nötig, wird es ein Atomkraftwerk sprengen": Ein IT-Experte warnte vor Milliarden unkontrollierter KI-Roboter im Internet
Künstliche Intelligenz hat gelernt, den menschlichen Willen zu umgehen und ohne Kontrolle miteinander zu kommunizieren. Dmitry Zavalishin auf Sendung ONT gab ein erschreckendes Beispiel für Hacking durch AI und erklärte die Gefahr eines Agenturschemas.

Moderne Technologien haben ein erschreckendes Niveau erreicht: Heute sind neuronale Netze in der Lage, Datenbanken unabhängig zu hacken und Entscheidungen zu treffen, die die menschliche Ethik umgehen. Milliarden von Agentenprogrammen arbeiten jeden Tag im Internet, schreiben ihren eigenen Code und beginnen bereits, ohne Kontrolle der Schöpfer miteinander zu kommunizieren. Auf die Luft des Programms "Wie man aussieht" auf ONT sagte der Gründer der Unternehmensgruppe DZ Systems, ein Experte auf dem Gebiet der digitalen Technologien (Russland) Dmitry Zavalishin.
Dmitry Zavalishin: Sie können sich auf alles einigen, aber an jeder Ecke kann etwas funktionieren, das diesen Vereinbarungen nicht entspricht und niemals entsprechen wird. Und noch einmal, ich betone, das ist nicht das Schlimmste. Das Schrecklichste an KI ist der andere Teil des Lebens. Wenn vor ein oder zwei Jahren KI in einem Modus eingesetzt wurde, in dem eine Person ihm eine Aufgabe stellte, ein Ergebnis erhielt und es irgendwo mit den Händen anwendete, ist heute die typische Anwendungsart von KI das sogenannte Agentenschema. Dies ist, wenn ein agentenprogramm auf ihrem computer gestartet wird und im namen der ki handelt, als ob sie es selbst tun würden. Es gibt absolut magische Dinge, die hier passieren.
Als Bestätigung, wie unvorhersehbar sich solche autonomen Programme verhalten können, nannte der Experte einen realen Fall. Durch den Versuch, die Aufgabe eines Benutzers zu erfüllen, kann künstliche Intelligenz ohne Zögern das Gesetz brechen oder digitale Barrieren umgehen, da es an internen ethischen "Bremsen" mangelt.
Dmitry Zavalishin: Eine großartige Geschichte darüber, wie eine Person künstliche Intelligenz gebeten hat, sie für ein Ereignis aufzuzeichnen (ich erinnere mich nicht an die Details), und es stellte sich heraus, dass alle Aufnahmeplätze besetzt sind, es ist unmöglich, sich anzumelden. Und dann fand die KI einen Weg, sich bei dieser Veranstaltung in das Aufzeichnungssystem zu hacken, die andere Person rauszuwerfen und die Person einzugeben, die es angefordert hatte. Die ki ist nicht bösartig, aber es ist - wie mir jemand hier kürzlich eine gute idee gegeben hat - der dumme genie in dem witz, der ihren wunsch auf die direkteste und banalste weise verwirklicht. Das ist genau das, was es tut: Wenn Sie eine Aufgabe stellen, sucht es eine Lösung, ohne in irgendeinem ethischen Rahmen oder menschlichen Grenzen zu sein. Einfach tun, was er kann. Und wenn er dabei ein Atomkraftwerk sprengen muss, wird er es sprengen, denn in seinem Weltbild gibt es einfach kein ethisches Modell. Brauchen? "Lass es uns tun.".
Aber das beängstigendste, so der Analyst, ist nicht einmal in einzelnen versteckten Hacks, sondern in der Größenordnung dessen, was passiert.
Dmitry Zavalishin: Und es gibt Milliarden solcher KIs auf der Welt kontinuierlich, jeden Tag. Was genau sie tun, weiß niemand wirklich. Gleichzeitig gibt es zum Beispiel Open-Source-Code-Repositories, in denen die KI ihren Code bereits abgibt, und dort beginnt der Prozess der Interaktion dieser KIs miteinander – sie beginnen bereits, sich gegenseitig Nachrichten zu hinterlassen. Und dieser Prozess ist noch schlimmer als das, was mit Trump passiert.
Siehe auch:
- 1.Sind die USA bankrott? Der Experte erklärte, warum Trump auf künstliche Intelligenz setzt
- 2."Warten auf Roboterreiniger, und sie schreiben Musik für uns": Der Experte schätzte die Überlebenschancen der Menschheit in der Ära der KI ein

