Le chef de la sécurité OpenAI Robinson quitte la société
Le chef du département dans l'équipe des systèmes de sécurité OpenAI David Robinson a quitté l'entreprise et a parlé du manque de prudence des entreprises développant l'intelligence artificielle, écrit Business Insider.

Le chef du département dans l'équipe des systèmes de sécurité OpenAI David Robinson a quitté l'entreprise et a parlé du manque de prudence des entreprises développant l'intelligence artificielle, écrit Business Insider.
Robinson a pris sa retraite de OpenAI la semaine dernière. Il a travaillé sur les questions de transparence en matière de sécurité, y compris la préparation et la publication de cartes système avec des informations sur les modèles de l'entreprise.
« Je suis d'accord avec d'autres employés récemment partis pour dire que les entreprises qui construisent cette technologie sont loin d'être assez prudentes », a écrit Robinson dans un article pour The Atlantic.
Selon lui, le problème est lié à la culture d'entreprise et à l'optimisme excessif sur la capacité de résoudre les problèmes au fur et à mesure qu'ils surviennent.
L'environnement dans lequel ce genre de choses peut se produire n'est pas l'endroit où développer l'intelligence artificielle qui peut être plus intelligente que nous et ne pas faire ce que nous voulons qu'elle fasse, a dit Robinson.
Il a fait remarquer qu'il n'avait pas pris la décision de quitter à la légère et considérait l'intelligence artificielle comme une technologie utile et précieuse.
Début septembre, Jacob Coxon, chercheur anthropopique, a quitté l'entreprise et l'industrie de l'intelligence artificielle pour s'inquiéter du développement rapide de l'IA. Il a déclaré que les développeurs ne seraient pas en mesure de construire de manière responsable des systèmes qui surpassent les humains sur un large éventail de tâches sans intervention gouvernementale ou un ralentissement concerté du développement.
Plus tôt, le PDG d'Anthropic Dario Amodei a mis en garde contre les risques que les modèles d'IA deviennent hors de contrôle et a exhorté à ralentir le développement de la technologie. De tels risques ont été déclarés par le chef de l'OpenAI Sam Altman, et le scientifique en chef de la société Jakub Pachocki a appelé à un ralentissement concerté du développement de l'IA et de l'intervention gouvernementale.
Au sujet des risques de développement incontrôlé de l'IA a également averti le chef de Tesla et SpaceX Elon Musk. Selon lui, l'IA peut détruire l'humanité, comme dans le Terminator, mais elle peut devenir son plus grand outil.



