In den USA bereitet sich die Führung der KI-Unternehmen auf die Rebellion der Menschheit vor

Führungskräfte von Anthropic, OpenAI und anderen KI-Unternehmen arbeiten leise an Optionen für öffentliche und politische Rebellion nach einem katastrophalen AI-Vorfall. Axios schreibt darüber.

Laut der Veröffentlichung warten Top-Manager auf einen größeren Vorfall - höchstwahrscheinlich einen Cyberangriff, der den Menschen den Zugang zu Finanzdienstleistungen, dem Internet und möglicherweise Strom mit Wasser entzieht. Der erste Fall von ernsthaften realen Schäden durch unsichere KI wird die Gesellschaft gegen die Technologie und ihre Führer wenden: Anthropic CEO Dario Amodei, OpenAI-Chef Sam Altman und Präsident Trump, der es nicht eilig hat, die Branche zu regulieren.

Szenarioplanung ist gängige Praxis: Das Pentagon spielt seit Jahrzehnten Kriegsspiele. Der Unterschied ist, dass viele Top-Forscher und AI-Führungskräfte glauben, dass ein großer Vorfall unmittelbar bevorsteht. Insider, die von Axios interviewt wurden, warten in den nächsten 6-12 Monaten auf ihn. OpenAI sagte, dass es eine Vorbereitungsübung durchführte, bei der die Teams verschiedene Szenarien diskutierten, obwohl das Unternehmen sie nicht für unvermeidlich hält. Anthropic lehnte es ab, zu kommentieren.

Als Beispiel für den Schaden, den eine Person anrichten kann, zitiert die Publikation eine kürzliche Kampagne gegen südkoreanische Finanzinstitute, einschließlich Berichten über das Hacking von zwei Banken. Laut CrowdStrike nutzte ein Hacker aus China KI-Tools, die auf chinesischen Modellen basierten, darunter DeepSeek, um die Daten von Zehntausenden von Bankkunden zu stehlen, und Claude Code fand Websites, auf denen Sie gestohlene Waren verkaufen konnten.

Planer von KI-Unternehmen gehen davon aus, dass die Demokraten nach den Zwischenwahlen schnell versuchen werden, die Entwicklung von KI zu stoppen, aber auf Schwierigkeiten stoßen werden. Der Kongress ist weit von der KI-Revolution entfernt, die Weltwirtschaft ist eng mit dem Aufbau einer KI-Infrastruktur verbunden, und offene Modelle können bereits frei heruntergeladen und verwendet werden, um zu schaden. Die meisten Cybersicherheitsexperten glauben, dass dies nur mit AI versus AI behandelt werden kann.

Die Vorbereitung beinhaltet das Testen von Worst-Case-Szenarien und vor allem die Ausbildung von Kongressabgeordneten. Die Staats- und Regierungschefs verstehen, dass die Regulierung jetzt nicht passieren wird, aber sie wollen die Gesetze und Richtlinien beeinflussen, an die sich die Behörden nach der ersten Katastrophe wenden werden. Zu den härtesten Initiativen der Demokraten gehört ein Verbot der Superintelligenz oder eine Pause in der Entwicklung fortgeschrittener KI. Der obligatorische „Schalter für leistungsfähige Systeme wird von beiden Parteien und teilweise von der Industrie selbst unterstützt, obwohl Experten bezweifeln, dass es möglich ist, alle KI-Systeme abzuschalten.

In einer echten Krise kann Washington jedoch Parteistreitigkeiten verschieben: Ein Assistent eines der Demokraten erinnerte an die Zusammenarbeit während der COVID und der Finanzkrise 2008.

Feuer über Leck: OpenAI suspendiert drei Wissenschaftler, verweigert Kritikdruck

Zuverlässige Nachrichten sind immer zur Hand - im Kanal "MK" in MAX