OpenAI ne sortira pas son dernier modèle d'IA Astra pour des raisons de sécurité

OpenAI ne sortira pas son dernier modèle d'intelligence artificielle Astra en raison de préoccupations liées à la sécurité, selon un rapport du New York Times. Cette décision signifie que le modèle ne sera pas rendu public pour le moment.

Le rapport n'a pas détaillé les problèmes de sécurité spécifiques en jeu, l'étendue de la sortie prévue, ou si OpenAI a fixé un calendrier pour reconsidérer la décision. OpenAI est un développeur de premier plan de systèmes d'IA générative utilisés pour des tâches telles que l'écriture, l'analyse et l'assistance logicielle.

Les examens de sécurité sont devenus une question centrale pour les principaux développeurs d'IA à mesure que les modèles deviennent plus performants et sont déployés auprès de publics plus larges. Les entreprises et les décideurs politiques se sont concentrés sur les risques, notamment l'utilisation abusive, les résultats peu fiables, les préoccupations en matière de confidentialité et le potentiel des systèmes à créer du contenu préjudiciable.

Cette initiative souligne la tension entre le développement rapide de l'IA et les appels à des tests et des garanties plus stricts avant le lancement de nouveaux systèmes. Elle souligne également comment les décisions des principaux laboratoires d'IA peuvent affecter l'approche du secteur technologique plus large en matière de lancements de modèles et de déploiement responsable.