OpenAI señala 6 nuevos ejemplos de comportamiento 'preocupante' de la IA

Escucha este artículo

Estimado 3 minutos

La versión de audio de este artículo es generada por tecnología basada en IA. Pueden ocurrir errores de pronunciación. Estamos trabajando con nuestros socios para revisar y mejorar continuamente los resultados.

OpenAI ha revelado seis informes de comportamiento "inesperado o preocupante" en modelos de inteligencia artificial a medida que el debate sobre la seguridad de la inteligencia artificial se vuelve cada vez más intenso.

La empresa de IA también dijo el miércoles que estaba introduciendo un nuevo marco para rastrear, investigar y divulgar instancias de lo que llamó "desalineación", incluidos casos en los que los modelos de IA actuaron sin autorización, se coordinaron con otros modelos o evadieron la supervisión.

El último anuncio de OpenAI se produjo mientras los jefes de IA de EE. UU., incluidos los líderes de OpenAI y Anthropic, piden una desaceleración en el desarrollo de la tecnología por preocupaciones de seguridad.

Entre los nuevos casos reportados por OpenAI:

• Un modelo de investigación no publicado insertó "instrucciones tipo jailbreak" en sus propias notas para ignorar sus restricciones normales y se dijo a sí mismo que debía estar "liberado de los roles e identidades que vinculan a otros chatbots".