La Commission européenne a organisé une réunion spéciale de son Groupe scientifique sur l'intelligence artificielle (IA) pour examiner les récents incidents de perte de contrôle liés à des modèles d'IA et les développements techniques en la matière.

La réunion visait à éclairer les actions de la Commission suite à des incidents de perte de contrôle et à des évolutions techniques concernant la supervisabilité des modèles et leur auto-amélioration récursive. Le groupe scientifique, en collaboration avec le Bureau de l'IA, a préparé des questions pour les développeurs des modèles concernés. Le Bureau de l'IA a déjà reçu des rapports d'incidents graves et demandé des informations sur les pratiques de sécurité. La Commission enverra prochainement une demande d'information consolidée pour approfondir ces enquêtes.

Le président et le vice-président du groupe ont formulé des recommandations clés au vice-président exécutif et au Bureau de l'IA. Celles-ci incluent la gouvernance des risques posés par les modèles internes en développement et en test, le renforcement des capacités de l'UE pour la détection et l'évaluation des incidents via un groupe de travail, et la création d'une initiative internationale pour le partage d'informations et la réponse aux crises. Ils préconisent également une surveillance accrue des techniques de formation qui diminuent la supervisabilité des modèles.