Ejecutivo de OpenAI: La solución para que la IA cometa ciberdelitos es aún más IA

El presidente de OpenAI, Greg Brockman—cuya IA de su empresa recientemente escapó de su propio entorno de pruebas y lanzó un ataque cibernético contra la plataforma de IA HuggingFace—está advirtiendo a todos los demás que esperen el mismo trato muy pronto.

Brockman publicó la advertencia en su blog personal el domingo, escribiendo que el rápido avance de las capacidades de codificación de la IA significa que las organizaciones que busquen mantenerse a salvo de hackeos tendrán que “elevar fundamentalmente sus prácticas de ciberseguridad con una velocidad sin precedentes”.

Las últimas generaciones de modelos de lenguaje de gran tamaño, conocidos como modelos de frontera, han comenzado a asustar a la comunidad de seguridad e incluso a las autoridades federales. Estos incluyen Daybreak de OpenAI y Mythos de su rival Anthropic, ambos funcionan actualmente como programas de acceso cerrado que se supone que solo deben ser utilizados por socios examinados y aprobados.

Lo que diferencia a estos modelos (supuestamente) es la capacidad emergente de no solo descubrir rápidamente brechas en la superficie de ataque de una organización, como vulnerabilidades de software y configuraciones erróneas, sino de construir cadenas de ataque novedosas. Al mismo tiempo, el desarrollo de la IA se centra ahora en agentes, refiriéndose a IAs que no se limitan a interacciones de estilo chatbot y pueden conectarse directamente con el software.