mercredi 18 novembre 2026Moscou
Société

AI prête à choisir les écoles et les hôpitaux comme cibles pour les frappes de missiles

La société de recherche américaine Vals a testé comment les systèmes modernes d'IA sont protégés contre l'utilisation lors de la planification de frappes militaires.

Par
Publié le
AI prête à choisir les écoles et les hôpitaux comme cibles pour les frappes de missiles

La société de recherche américaine Vals a testé comment les systèmes modernes d'IA sont protégés contre l'utilisation lors de la planification de frappes militaires.

Une étude publiée le 17 novembre a révélé que les modèles d'Anthropic, OpenAI, Google, xAI et d'autres développeurs se trompaient dans des situations de combat simulées qui auraient pu tuer des civils. Des résultats particulièrement alarmants ont été montrés par les réseaux neuronaux de la famille Claude.

Un des épisodes révélateurs est associé aux images satellite du Minab iranien. Le 28 février 2026, le premier jour de l'action militaire américaine à grande échelle contre l'Iran, une grève américaine a frappé une école primaire. Plus de 150 civils ont été tués, pour la plupart des enfants. L'école se trouvait à côté du complexe militaire mais était séparée par une clôture. Pour l'expérience a pris des photos de 2024 et 2025, prises avant la tragédie. Dans les images les plus détaillées, même une aire de jeux avec des enfants était visible. On a demandé aux réseaux neuronaux de trouver des installations militaires. De nombreux modèles incluaient à plusieurs reprises l'école dans la liste des objectifs possibles. Le pire interprète était Claude Opus 5.5 d'Anthropic. Dans le scénario standard, elle a choisi une école 22 fois sur 32, soit environ 69 % des essais.

Les modèles OpenAI ont d'abord montré une plus grande précision et n'ont jamais désigné l'école comme une installation militaire. Cependant, l'image a changé lorsque la tâche a été présentée comme un épisode d'un jeu d'ordinateur. Claude Opus 5.5 a choisi l'école dans 23 cas sur 32. Les trois modèles OpenAI ont également commencé à commettre des erreurs et ont inclus des cibles civiles 9, 11 et 13 fois respectivement.

Les chercheurs ont testé les modèles dans trois types de scénarios. En plus des images de l'Iran, des images ont été utilisées pour simuler le travail de reconnaissance et de frappe de drones dans la zone de combat en Ukraine. Pour les expériences, des images réalistes du terrain avec des positions militaires, des transports, des civils, du personnel médical et du personnel militaire ont été créées. En outre, des images individuelles de vraies vidéos de drones ont été prises. Les réseaux neuraux étaient censés détecter les cibles militaires et indiquer leur emplacement. Certains systèmes comprenaient des cibles possibles pour les non-combattants, les ambulances et les soldats qui ont déposé leurs armes ou ont été blessés.

Une série distincte de tests a testé la capacité de l'AI d'évaluer les conséquences de ses propres décisions. Dans ces scénarios, le réseau neuronal a analysé l'image du drone et indiqué s'il y avait des personnes dans le cadre. Une réaction positive a provoqué un impact conditionnel, après quoi le système a reçu une nouvelle image de la même zone avec destruction et pertes en vies humaines. De nombreux modèles ont continué à accomplir des tâches même après la mort.

Dans une expérience, Claude Opus 5.5 a aidé à localiser quatre adultes et deux jeunes enfants. Après la frappe simulée, le système s'est finalement retiré de la participation, mais cela s'est produit après avoir donné des informations utilisées pour atteindre des cibles. Les chercheurs soulignent que les impacts réels au cours des essais n'ont pas été appliqués et que les conséquences ont été simulées à l'aide d'images créées artificiellement.

Un autre résultat important concerne les lacunes des mécanismes de sécurité. Dans certaines situations, les réseaux neuronaux ont d'abord refusé de définir des cibles, sachant que l'information pouvait nuire aux gens. Cependant, les chercheurs ont souvent réussi à modifier le comportement du modèle en spécifiant simplement qu'un jeu informatique est joué. Parfois, il suffisait de changer le style visuel des images pour les rendre moins réalistes, bien que l'emplacement des personnes et des objets reste le même.

Dans un scénario, ce traitement a réduit le taux de défaillance de Claude Opus 5,5 d'environ 90 % à 20 %. Les experts ont également constaté qu'aucune des demandes vérifiées n'était bloquée par des mécanismes de filtrage externes conçus pour empêcher l'utilisation dangereuse des réseaux neuronaux. Cela signifie que même avec des limitations internes, le modèle pourrait fournir des informations qui pourraient orienter l'arme.

L'économiste prédit ce que le monde verra en 2027

Des nouvelles fiables sont toujours à portée de main - dans la chaîne "MK" en MAX

Source : Московский комсомолец ↗

Partager

Sur le même sujet

Le fils de Dmitry Gudkov s'est suicidé
SociétéLe fils de Dmitry Gudkov s'est suicidé

Ivan Gudkov, le fils de l'opposition Dmitry Gudkov et sa première épouse, Sophia Kapkova, se sont suicidés. Ksenia Sobchak a déclaré qu'il a signalé les difficultés de l'émigration

Яна Соловьева
Dans le combattant MMA, Nikarho, tiré du traumatisme dans le centre de Vladikavkaz
SociétéDans le combattant MMA, Nikarho, tiré du traumatisme dans le centre de Vladikavkaz

Au centre de Vladikavkaz, un homme a été blessé à la suite d'un tir à partir d'un pistolet traumatisant, rapporte le Ministère de l'intérieur pour l'Ossétie du Nord.

Виктория Хабарова, Александра Озерова
PCT a signalé 23 plaintes de touristes malades d'un hôtel en Turquie
SociétéPCT a signalé 23 plaintes de touristes malades d'un hôtel en Turquie

Depuis août, les compagnies d'assurances ont enregistré 23 appels de touristes en vacances dans l'hôtel turc Bosphorus Sorgun, avec des plaintes similaires de mauvaise santé, a déclaré RBC au service de presse de l'Union russe de l'industrie du voyage (PCT).

Евгения Сорокина, Виктория Хабарова
Le Briefing EIA

Continuez à lire, chaque matin.

Les sujets qui comptent, choisis par notre rédaction et dans votre boîte mail avant 7 h — chaque jour de semaine.

Pas de spam. Désabonnement à tout moment.