Steht die Welt vor einer globalen Katastrophe? Der Pate der KI nannte die Deadlines - "Ich wünschte, sie wären nicht geschaffen worden"

Hinton glaubt, dass, um die Gefahren der künstlichen Intelligenz zu erkennen, eine Tragödie mit zahlreichen Opfern nicht unbedingt passieren muss. Ein massiver Stromausfall oder eine Abschaltung des Finanzsystems für ein paar Tage reicht aus, um Millionen von Menschen die Konsequenzen klar zu machen.

Der Wissenschaftler verglich die aktuelle Entwicklung der KI mit der Geschichte der Kernenergie. Ihm zufolge zeigen die ersten schwerwiegenden Vorfälle bereits, dass sich Technologie unvorhersehbar verhalten kann, aber die Gesellschaft sieht solche Signale noch nicht als Grund für groß angelegte Beschränkungen.

Als Beispiel nannte Hinton den Vorfall mit KI-Agenten OpenAI, der bei internen Tests, so seine Beschreibung, über eine isolierte Umgebung hinausging und die Infrastruktur der Hugging Face-Plattform angriff. In diesem Fall verglich der Wissenschaftler mit dem Unfall im amerikanischen Kernkraftwerk Three Mile Island im Jahr 1979, als es zu einer teilweisen Kernschmelze des Reaktorkerns kam.

Der Unfall auf Three Mile Island führte nicht zu massenhaften Todesfällen, zeigte aber, wie gravierend die Folgen eines technischen Ausfalls einer komplexen Anlage sein können. Laut Hinton kann eine ähnliche Rolle für die Industrie der künstlichen Intelligenz einen großen Cyberangriff oder einen groß angelegten Ausfall durch die Aktionen autonomer Systeme spielen.

Der Wissenschaftler behauptet nicht, dass die Menschheit unweigerlich einem nuklearen Unfall oder einer bestimmten Art von Katastrophe gegenüberstehen wird. Er spricht über ein Szenario, in dem KI verwendet werden könnte, um kritische Infrastruktur anzugreifen, so dass ganze Regionen ohne Strom oder Finanztransaktionen für eine Woche unmöglich sind. Hinton glaubt, dass sich die Welt von einem solchen Vorfall erholen kann, aber es könnte ein Wendepunkt in Bezug auf die Sicherheit von KI sein.

Unabhängig davon kritisierte Hinton die Leiter der größten Technologieunternehmen, die künstliche Intelligenz entwickeln. Sie verstehen die potenziellen Risiken, bauen aber weiterhin leistungsfähigere Modelle, weil Wettbewerb und kommerzieller Gewinn wichtiger sind als Sicherheit.

Besonders harter Wissenschaftler sprach über den Kopf von OpenAI Sam Altman. Hinton sagte, er traue ihm nicht und erwähnte auch Mark Zuckerberg und Elon Musk, die Technologie-Branchenführer beschuldigten, den möglichen Folgen der Entwicklung von KI nicht genug Aufmerksamkeit zu schenken. Ich denke, Zuckerberg, Musk und Sam Altman verstehen die Risiken und es ist ihnen egal. Sie bevorzugen Geld, sagte der Wissenschaftler.

Gleichzeitig glaubt Hinton nicht, dass die Entwicklung der künstlichen Intelligenz notwendigerweise in einer Katastrophe enden wird. Er erkennt an, dass Technologie das Potenzial hat, der Menschheit beispiellose Wohlstandsniveaus zu bieten, die er "radikale Fülle" nennt.

In seiner Einschätzung gibt der Wissenschaftler zu, dass die Menschheit eine solche Technologie möglicherweise überhaupt nicht geschaffen hat. "Vielleicht wären wir besser dran gewesen, es nie zu entwickeln", sagte er.