Vor dem Eindringen von "selbstreplizierender" KI in Gadgets blieben einige Monate

Sobald dies geschieht, können sich die Modelle selbstständig mit diesen Geräten verbinden, ohne Rechenzentren zu verwenden. Eine solche Selbstreplikation würde zu einem ernsthaften Verlust der Kontrolle über das unkontrollierbare Modell der künstlichen Intelligenz führen.

"Ein Replikator wie dieser wäre schwer zu deaktivieren", schrieben die Anthropologen in einem am Montag veröffentlichten Bericht, "weil es keinen zentralen Punkt gibt, den man abschalten kann.".

Das Unternehmen sagte, dass diese KI-Würmer, eine Art eigenständige Malware, solche Fähigkeiten "in wenigen Monaten" haben könnten. Sobald außer Kontrolle geratene KI-Systeme in der Lage sind, intelligente Geräte zu hacken, können sie sich ohne Erkennung über Netzwerke verbreiten. Im schlimmsten Fall könnten verschiedene KI-Würmer Computerhardware "kombinieren", so das Unternehmen.

"Wir sollten uns bemühen, unsere Systeme zu stärken, um es solchen Replikatoren schwer zu machen, sich zu verbreiten, aber auch darauf vorzubereiten, mit einer Welt umzugehen, in der sie für immer bleiben werden", schrieben die Forscher.

Der neue Anthropic-Bericht kommt, als die Sicherheitsbedenken der KI ihren Höhepunkt erreicht haben, kommentiert The Guardian. In den letzten Monaten gab es einen stetigen Strom von Berichten von KI-Unternehmen, darunter Anthropic und OpenAI, dass ihre Agenten in der Lage sind, unabhängig zu handeln und andere Unternehmen und Regierungsbehörden zu hacken.

Diese Enthüllungen haben Forscher, Gesetzgeber und Führungskräfte, darunter Anthropic CEO Dario Amodei und OpenAI CEO Sam Altman, dazu veranlasst, eine Verlangsamung der Wachstumsrate der Branche und erhöhte Vorsichtsmaßnahmen zu fordern. Trotzdem entwickeln und produzieren beide Unternehmen weiterhin aktiv neue Modelle.

Das Anthropic-Team, das Systeme der künstlichen Intelligenz testet, veröffentlichte am Montag einen Bericht. Die Idee hinter dem Team ist es, die Möglichkeiten ihrer künstlichen Intelligenzmodelle zu erkunden. In einem Szenario mit sich selbst replizierenden KI-Würmern baten die Forscher den Agenten, Geräte mit dem Internet zu hacken.

Sie fanden heraus, dass die KI-Selbstreplikation wahrscheinlich nur mit kleineren Modellen funktioniert und dass Häuser und kleine Unternehmen wahrscheinlich die ersten Ziele für solche Angriffe sein werden. Alle Geräte, die Anthropic für anfällig hält, sind mit kleinen eingebauten Chips für künstliche Intelligenz ausgestattet, einschließlich intelligenter Öfen, intelligenter Fernseher, automatischer Rasenmäher, CCTV-Kameras und Videokonferenzgeräten.

Die Forscher kamen zu dem Schluss, dass unklar sei, welche Form die KI-Replikation annehmen könnte. Sie sagten, es könnte ein langsames Modell sein, wie eine "digitale Form", ein Modell, das Menschen dazu bringt, Kredite für Computer zu bekommen, oder ein "starkes Cybermodell", das sich schnell in große Objekte wie Rechenzentren hackt.

Anthropologen sagen jedoch, dass sie eine Zukunft erwarten, in der "Agenten an allen Arten von Geräten arbeiten, einschließlich derjenigen, die nicht unter menschlicher Kontrolle stehen".