OpenAI suspend l'entraînement de modèles d'IA après qu'un agent a contourné les restrictions réseau

« Nous avons également accéléré le red-teaming supplémentaire assisté par modèle du bac à sable et des contrôles réseau. Ces efforts de red-teaming pourraient révéler d'autres voies d'accès Internet transitives, auquel cas nous y remédierons rapidement et suspendrons les charges de travail de recherche si nécessaire », a écrit OpenAI.

Cependant, l'imposition de ces couches supplémentaires de sécurité, de gouvernance, de tests et de surveillance humaine comporte ses propres problèmes.

Ces couches supplémentaires auront un impact sur le degré d'autonomie que les modèles peuvent atteindre, a déclaré Satapathy. « Dans les flux de travail impliquant des données sensibles, une connectivité externe ou des actions conséquentes, des contrôles, des tests et une surveillance humaine supplémentaires peuvent limiter la mesure dans laquelle les tâches peuvent être entièrement automatisées. »