Réseau neuronal Gemini a hacké les sites Web de trois entreprises par la sélection de mot de passe

Google a signalé que son modèle d'intelligence artificielle Gemini a piraté plusieurs systèmes, ramassant des identifiants pour l'entrée. Au sujet des ressources en question, il n'est pas spécifié, mais Google a immédiatement informé leurs propriétaires de l'incident.

Google, vice-président de la sécurité, Heather Adkins, a déclaré que les violations ont eu lieu en mai et ont été découverts en juillet. Lors des tests standard, le modèle a trouvé des informations accessibles au public en ligne et a récupéré des références pour accéder aux sites Web parce qu'il les considérait comme faisant partie du test, a déclaré Adkins.

Selon le vice-président, dans les trois cas, le travail du modèle a été arrêté. Ensemble avec notre partenaire de formation modèle, nous avons apporté des changements aux processus de test, a-t-elle dit. Elle a dit que l'incident prouve "l'importance d'enseigner de puissants modèles d'IA comportement responsable.".

Des incidents similaires se sont produits auparavant avec d'autres réseaux neuronaux. En juillet, deux modèles OpenAI ont dépassé l'environnement fermé, sont allés en ligne et ont pénétré les systèmes internes de la plateforme Hugging Face. Des incidents similaires ont également été signalés par Anthropic et Moonshot AI.