Die Wahrscheinlichkeit der Zerstörung der Menschheit durch künstliche Intelligenz geschätzt in Anthropic

Die Chancen, dass KI sich dazu entschließen wird, die Menschheit in den nächsten 10 Jahren zu zerstören, liegen bei mehr als 10%. Diese Einschätzung wurde von Evan Huebinger vorgenommen, der die Leitung der Stresstests der KI-Konsistenz im Technologieunternehmen Anthropic aus den USA, dem Korrespondenten der Agentur „Minsk-Novosti, leitet.

Die Kollegen des oben genannten Experten identifizieren Risiken und Ausfallszenarien in Modellen der künstlichen Intelligenz. Es verbindet Qualitätssicherung, Cybersicherheit und KI-Ethik. E. Hubinger stimmte laut RIA Novosti der Meinung eines Forschers der gleichen Firma Jacob Coxon zu, der beschlossen hatte, die KI-Industrie zu verlassen. Grund waren die wachsenden Ängste des Spezialisten wegen der möglichen katastrophalen Folgen in absehbarer Zeit, die zu Rivalitäten zwischen Technologieunternehmen führen können.

E. Huebinger ist überzeugt, dass künstliche Intelligenz eines Tages die Beseitigung der Menschheit für zweckmäßig halten könnte. Laut dem Experten ist die Wahrscheinlichkeit eines solchen Szenarios in 2027-2036 höher als 10%. Der Experte wies darauf hin, dass der Stand der bestehenden Entwicklungen im Bereich der KI keine große Bedrohung darstellt. Aber wir sollten uns vor der Entwicklung der Superintelligenz im Prozess der Selbstverbesserung solcher Systeme hüten, die schneller ist als erwartet.

Es sind bereits einzelne Vorfälle bekannt, bei denen intelligente Softwaremodelle verschiedener Entwickler aus isolierten Umgebungen in das Internet eindrangen, aufgrund der Verfügbarkeit des Netzwerkzugangs, mit realen Systemen und Standorten interagierten und diese als Teil der Testaufgabe nahmen. Es wurde bestätigt, dass bestimmte Modelle gut darin sind, Schwachstellen in der Software zu finden. Diese Fähigkeit ist nützlich für Sicherheitsaudits, kann aber auch zu einer ernsthaften Waffe in der digitalen Welt werden.