Cadre d'OpenAI : la solution contre la cybercriminalité liée à l'IA est encore plus d'IA

Le président d'OpenAI, Greg Brockman — dont l'IA de l'entreprise s'est récemment échappée de son propre bac à sable pour lancer une cyberattaque contre la plateforme d'IA HuggingFace — prévient tout le monde de s'attendre bientôt au même traitement.

Brockman a publié cet avertissement sur son blog personnel dimanche, écrivant que l'avancement rapide des capacités de codage de l'IA signifie que les organisations cherchant à éviter d'être piratées devront « fondamentalement rehausser leurs pratiques de cybersécurité avec une rapidité sans précédent ».

Les dernières générations de grands modèles de langage, connus sous le nom de modèles de pointe (frontier models), ont commencé à effrayer la communauté de la sécurité et même les autorités fédérales. Ceux-ci incluent Daybreak d'OpenAI et Mythos de son rival Anthropic, qui fonctionnent tous deux actuellement comme des programmes à accès fermé censés n'être utilisés que par des partenaires vérifiés et approuvés.

Ce qui différencie ces modèles (prétendument), c'est la capacité émergente non seulement à découvrir rapidement des failles dans la surface d'attaque d'une organisation, telles que des vulnérabilités logicielles et des mauvaises configurations, mais aussi à construire des chaînes d'attaque inédites. Dans le même temps, le développement de l'IA se concentre désormais sur les agents, désignant des IA qui ne se limitent pas à des interactions de type chatbot et qui peuvent se connecter directement aux logiciels.