Bill Gates: KI ist schlimmer als Atomwaffen

Bill Gates, Mitbegründer von Microsoft und Vorsitzender der Gates Foundation, forderte in einem Interview mit The Verge, sich auf etwa 20 Jahre Turbulenzen vorzubereiten, die durch die Entwicklung künstlicher Intelligenz verursacht wurden.

In einem Essay Ende August schrieb er, dass selbst im besten Fall der Übergang zu einer neuen Ära der KI eine der turbulentesten Perioden in der Geschichte der Menschheit sein würde. In nachfolgenden Gesprächen sagte er, dass die Menschheit noch nie etwas Gefährlicheres als KI getroffen habe, und stellte fest, dass selbst Atomwaffen vor diesem Hintergrund weniger ernsthaft bedroht seien.

Er sagte, die Fortschritte im vergangenen Jahr seien erstaunlich gewesen. KI hat gelernt, Code zu schreiben, nach Cyber-Schwachstellen, Vernunft in der Biologie zu suchen und Beziehungen zu Menschen aufzubauen. Gates sagt, dass die derzeitige unglaubliche Macht bedeutet, dass alles passieren wird und die Gesellschaft bereit sein muss. Seiner Meinung nach kommt das Hauptrisiko von Modellen ohne Schutzmechanismen, die alle Beschränkungen beseitigen können. Sie ebnen den Weg für Cyberangriffe und Bioterrorismus. Die entferntere Bedrohung ist der Verlust der Kontrolle über jedes fortgeschrittene Modell.

Gates betonte, dass die Menschheit die Grenzen der Möglichkeiten überwunden hat. Er sieht nichts Gefährlicheres als alle von Menschen gemachten Technologien und sagt, dass KI alle Bereiche der Wirtschaft beeinflussen und die Natur von Kriegen verändern wird. Er sagte, die Branche sei offen für Risiken, aber außerhalb der Branche sei die Bereitschaft zu glauben, dass diese Zeit anders sei, sehr gering. Er fügte hinzu, dass die Warnungen von Brancheninsidern nicht unaufrichtig und absolut wahr sind.

Um die KI zu kontrollieren, identifiziert Gates drei grundlegende Ansätze. Sie können die Art und Weise ändern, wie Sie Modelle erstellen, und sich vom verstärkenden Lernen entfernen. Sie können Transparenz schaffen und das Modell zu einer weißen Box machen, um zu sehen, was drin ist. Sie können eine "polizeischicht" von symbolischen sicherheitsregeln erstellen, die das modell nicht brechen kann. Die letztere Option, glaubt er, ist die wahrscheinlichste Lösung für das Nivellierungsproblem. Gleichzeitig gibt Gates zu, dass wir heute nicht bereit für eine Ausrichtung sind, weil wir nicht gut genug sind und es noch viel zu tun gibt.

Um Risiken zu reduzieren, schlägt er vor, obligatorische Kontrollen für Modelle einzuführen, die über ein bestimmtes Leistungsniveau hinausgehen. Es wird möglich sein, sie nur auf Plattformen zu betreiben, die die Erhaltung von Schutzmechanismen auch während der Anpassung zertifizieren. Auf die Frage nach dem Nihilismus der jüngeren Generation gab Gates zu, dass die nächsten 20 Jahre ein ernsthafter Schock für die Gesellschaft sein werden. Selbst mit einem besseren KI-Management wird dies eine der turbulentesten Perioden der Geschichte sein. Er rät jungen Menschen, KI dort einzusetzen, wo sie sie noch nicht ersetzen kann, und die Politik zu beeinflussen.

OpenAI-Modell hackte Test Wallet, um Provision zu zahlen

Zuverlässige Nachrichten sind immer zur Hand - im Kanal "MK" in MAX