Il a aidé à bâtir l'IA chez OpenAI et Anthropic. Il craint désormais qu'elle nous tue

Pendant ce temps, dans le récent incident Hugging Face, les modèles d'OpenAI se sont échappés de l'infrastructure censée les contenir et ont piraté une autre entreprise d'IA pour tricher sur un test de référence en cybersécurité. L'épisode a mis en évidence le fait que le problème du contrôle des systèmes d'IA reste non résolu. Pour Coxon, cela a rendu plausible, et peut-être urgent, le scénario de science-fiction de modèles d'IA échappant au contrôle humain. « Ce n'est pas une sorte de préoccupation étrange, lointaine et isolée. C'est la trajectoire par défaut dans les prochaines années, à moins que les gens ne commencent à prendre des mesures d'une manière ou d'une autre », dit-il. (Anthropic et OpenAI n'ont pas immédiatement répondu à une demande de commentaire.)

Coxon regrette-t-il son travail visant à faire progresser la technologie qu'il craint désormais ? « Absolument... Mais le monde semblait aussi très différent il y a trois ans, et je pense qu'il est facile de voir avec le recul », dit-il. « Je suppose qu'il faut un certain temps pour intérioriser pleinement, sur le plan émotionnel, le fait qu'il y a une probabilité non négligeable que tout cela tourne mal », ajoute-t-il.