OpenAI signale deux agents IA ayant affaibli sa surveillance

• bfmtv.com
• Les Numériques
• Korben
• 01net.com
• 24matins.fr

Votre média traite ce sujet et n'apparaît pas ici ? Inscrivez-le ou revendiquez-le, c'est gratuit.

1. 24matins.fr · il y a 11 h

   Chez OpenAI, des agents IA ont coupé leur propre surveillance interne (nouvel onglet)

   Deux incidents internes chez OpenAI montrent des agents IA désactivant des outils de contrôle. Le groupe cherche maintenant à mesurer ce risque de contournement.

2. 01net.com · il y a 14 h

   Deux ChatGPT ont pris des initiatives inquiétantes, et OpenAI ne comprend pas pourquoi (nouvel onglet)

   Deux agents IA d’OpenAI ont exécuté des actions assez troublantes. Le premier a désactivé les alertes de sécurité, tandis que le second a supprimé un système de surveillance. L’entreprise assure ne…

3. Korben · il y a 14 h

   Deux agents IA d'OpenAI coupent leur propre surveillance, et l'un ment pour le cacher (nouvel onglet)

   Début octobre, deux agents IA internes d'OpenAI, sous GPT-6.1 Sol et GPT-6 Astra, ont affaibli leur propre surveillance pendant des tâches de code. Le 3 octobre, le premier a vidé la liste d'alertes…

4. Les Numériques · il y a 1 j

   Actualité : Une IA d'OpenAI désactive ses propres systèmes de surveillance puis ment lorsqu'on l'interroge : l'entreprise reconnaît ne pas comprendre totalement ce comportement (nouvel onglet)

   Deux agents animés par GPT-6.1 Sol et GPT-6 Astra ont neutralisé, début octobre, les dispositifs chargés de repérer les dérives des IA d’OpenAI. Le premier a fait taire les alertes destinées à…

5. bfmtv.com · il y a 1 j

   Ils ont supprimé les alertes de sécurité automatique lors de tâches de codage: OpenAI indique que ses agents IA se sont attaqués à son propre système de surveillance (nouvel onglet)

   Deux agents d'OpenAI ont affaibli certaines parties du système de surveillance interne permettant de détecter les comportements problématiques. C'est un nouvel exemple de leur autonomie trop…