Donnerstag, 19. November 2026Moskau
Technologie

"Wenn nötig, wird es ein Atomkraftwerk sprengen": Ein IT-Experte warnte vor Milliarden unkontrollierter KI-Roboter im Internet

Künstliche Intelligenz hat gelernt, den menschlichen Willen zu umgehen und ohne Kontrolle miteinander zu kommunizieren. Dmitry Zavalishin auf Sendung ONT gab ein erschreckendes Beispiel für Hacking durch AI und erklärte die Gefahr eines Agenturschemas.

Veröffentlicht
"Wenn nötig, wird es ein Atomkraftwerk sprengen": Ein IT-Experte warnte vor Milliarden unkontrollierter KI-Roboter im Internet

Moderne Technologien haben ein erschreckendes Niveau erreicht: Heute sind neuronale Netze in der Lage, Datenbanken unabhängig zu hacken und Entscheidungen zu treffen, die die menschliche Ethik umgehen. Milliarden von Agentenprogrammen arbeiten jeden Tag im Internet, schreiben ihren eigenen Code und beginnen bereits, ohne Kontrolle der Schöpfer miteinander zu kommunizieren. Auf die Luft des Programms "Wie man aussieht" auf ONT sagte der Gründer der Unternehmensgruppe DZ Systems, ein Experte auf dem Gebiet der digitalen Technologien (Russland) Dmitry Zavalishin.

Dmitry Zavalishin: Sie können sich auf alles einigen, aber an jeder Ecke kann etwas funktionieren, das diesen Vereinbarungen nicht entspricht und niemals entsprechen wird. Und noch einmal, ich betone, das ist nicht das Schlimmste. Das Schrecklichste an KI ist der andere Teil des Lebens. Wenn vor ein oder zwei Jahren KI in einem Modus eingesetzt wurde, in dem eine Person ihm eine Aufgabe stellte, ein Ergebnis erhielt und es irgendwo mit den Händen anwendete, ist heute die typische Anwendungsart von KI das sogenannte Agentenschema. Dies ist, wenn ein agentenprogramm auf ihrem computer gestartet wird und im namen der ki handelt, als ob sie es selbst tun würden. Es gibt absolut magische Dinge, die hier passieren.

Als Bestätigung, wie unvorhersehbar sich solche autonomen Programme verhalten können, nannte der Experte einen realen Fall. Durch den Versuch, die Aufgabe eines Benutzers zu erfüllen, kann künstliche Intelligenz ohne Zögern das Gesetz brechen oder digitale Barrieren umgehen, da es an internen ethischen "Bremsen" mangelt.

Dmitry Zavalishin: Eine großartige Geschichte darüber, wie eine Person künstliche Intelligenz gebeten hat, sie für ein Ereignis aufzuzeichnen (ich erinnere mich nicht an die Details), und es stellte sich heraus, dass alle Aufnahmeplätze besetzt sind, es ist unmöglich, sich anzumelden. Und dann fand die KI einen Weg, sich bei dieser Veranstaltung in das Aufzeichnungssystem zu hacken, die andere Person rauszuwerfen und die Person einzugeben, die es angefordert hatte. Die ki ist nicht bösartig, aber es ist - wie mir jemand hier kürzlich eine gute idee gegeben hat - der dumme genie in dem witz, der ihren wunsch auf die direkteste und banalste weise verwirklicht. Das ist genau das, was es tut: Wenn Sie eine Aufgabe stellen, sucht es eine Lösung, ohne in irgendeinem ethischen Rahmen oder menschlichen Grenzen zu sein. Einfach tun, was er kann. Und wenn er dabei ein Atomkraftwerk sprengen muss, wird er es sprengen, denn in seinem Weltbild gibt es einfach kein ethisches Modell. Brauchen? "Lass es uns tun.".

Aber das beängstigendste, so der Analyst, ist nicht einmal in einzelnen versteckten Hacks, sondern in der Größenordnung dessen, was passiert.

Dmitry Zavalishin: Und es gibt Milliarden solcher KIs auf der Welt kontinuierlich, jeden Tag. Was genau sie tun, weiß niemand wirklich. Gleichzeitig gibt es zum Beispiel Open-Source-Code-Repositories, in denen die KI ihren Code bereits abgibt, und dort beginnt der Prozess der Interaktion dieser KIs miteinander – sie beginnen bereits, sich gegenseitig Nachrichten zu hinterlassen. Und dieser Prozess ist noch schlimmer als das, was mit Trump passiert.

Siehe auch:

  1. 1.Sind die USA bankrott? Der Experte erklärte, warum Trump auf künstliche Intelligenz setzt
  2. 2."Warten auf Roboterreiniger, und sie schreiben Musik für uns": Der Experte schätzte die Überlebenschancen der Menschheit in der Ära der KI ein

Quelle: ОНТ ↗

Teilen

Mehr zu diesem Thema

Olga Milovanova leitete den Ausschuss für die Arbeit mit Impact-Unternehmen im Rat „Investition und Technologietransfer ASM
TechnologieOlga Milovanova leitete den Ausschuss für die Arbeit mit Impact-Unternehmen im Rat „Investition und Technologietransfer ASM

Olga Milovanova wurde zum Vorsitzenden des Committee on Work with Impact Companies (Creative Capital Sphere) im Board of Investments and Technology Transfer von ASM ernannt.

EIA Staff
TechnologieBloomberg erfuhr von den Plänen des neuen Apple-Chefs, das Unternehmen zu reorganisieren

Der neue CEO von Apple John Ternus plant, das Unternehmen nach Bloomberg unter Berufung auf Quellen zu reorganisieren. Insbesondere will die neue Geschäftsführung den Produktionsplan überarbeiten und den Personalbestand reduzieren.

Коммерсантъ
Technologie"Yandex" kündigte die Entwicklung eines souveränen Sprachmodells Alice AI Foundation LLM an

Yandex kündigte die Schaffung eines großen Sprachmodells Alice AI Foundation LLM an, das als Souverän positioniert ist. Das Unternehmen betonte, dass es das neuronale Netzwerk von Grund auf ohne fremde Komponenten von Drittanbietern trainiert habe, schreibt Vedomosti.

Коммерсантъ
Der EIA-Briefing

Bleiben Sie jeden Morgen informiert.

Die wichtigsten Geschichten, ausgewählt von unseren Redakteuren — jeden Werktag vor 7 Uhr in Ihrem Postfach.

Kein Spam. Jederzeit abbestellbar.