OpenAI-Sicherheitschef Robinson verlässt Unternehmen
Der Abteilungsleiter im Team der Sicherheitssysteme OpenAI David Robinson verließ das Unternehmen und sagte über die mangelnde Vorsicht von Unternehmen, die künstliche Intelligenz entwickeln, schreibt Business Insider.

Der Abteilungsleiter im Team der Sicherheitssysteme OpenAI David Robinson verließ das Unternehmen und sagte über die mangelnde Vorsicht von Unternehmen, die künstliche Intelligenz entwickeln, schreibt Business Insider.
Robinson hat sich letzte Woche von OpenAI zurückgezogen. Er arbeitete an Fragen der Sicherheitstransparenz, einschließlich der Erstellung und Veröffentlichung von Systemkarten mit Informationen über die Modelle des Unternehmens.
"Ich stimme mit anderen kürzlich verstorbenen Mitarbeitern überein, dass die Unternehmen, die diese Technologie entwickeln, weit davon entfernt sind, vorsichtig genug zu sein", schrieb Robinson in einem Artikel für The Atlantic.
Ihm zufolge bezieht sich das Problem auf die Unternehmenskultur und den "übermäßigen Optimismus" über die Fähigkeit, Probleme zu lösen, wenn sie auftreten.
"Die Umgebung, in der so etwas passieren kann, ist nicht der Ort, um künstliche Intelligenz zu entwickeln, die schlauer sein kann als wir und nicht das tut, was wir wollen", sagte Robinson.
Er stellte fest, dass er die Entscheidung, leichtfertig zu gehen, nicht getroffen habe und künstliche Intelligenz als nützliche und wertvolle Technologie betrachte.
Anfang September verließ der anthropische Forscher Jacob Coxon das Unternehmen und die Industrie der künstlichen Intelligenz wegen der Besorgnis über die schnelle Entwicklung der KI. Er sagte, dass Entwickler nicht in der Lage wären, verantwortungsvoll Systeme zu bauen, die Menschen bei einer Vielzahl von Aufgaben übertreffen, ohne staatliche Intervention oder eine konzertierte Verlangsamung der Entwicklung.
Dario Amodei, CEO von Anthropic, warnte vor den Risiken, dass KI-Modelle außer Kontrolle geraten, und drängte darauf, die Entwicklung der Technologie zu verlangsamen. Solche Risiken wurden vom Leiter von OpenAI Sam Altman angegeben, und der Chefwissenschaftler der Firma Jakub Pachocki forderte eine konzertierte Verlangsamung der KI-Entwicklung und staatliche Intervention.
Über die Risiken einer unkontrollierten Entwicklung der KI warnten auch der Leiter von Tesla und SpaceX Elon Musk. Ihm zufolge kann AI die Menschheit zerstören, wie im "Terminator", aber es kann sein größtes Werkzeug werden.



