Garry Tan de Y Combinator quiere que laboratorios de IA de pesos abiertos en EE. UU. también ‘destilen’ modelos de frontera

Cuando se trata de laboratorios de IA chinos que utilizan técnicas de destilación para extraer conocimientos de fabricantes de modelos de frontera, el CEO de Y Combinator Garry Tan espera que los reguladores se mantengan al margen. De hecho, cree que los laboratorios de IA de EE. UU. tal vez deberían jugar al mismo juego.

“No haría nada”, le dijo a CNBC en una entrevista a principios de esta semana. “Podríamos argumentar que debería haber un régimen de destilación estadounidense”.

Explicó a TechCrunch que esto significa que quiere que los laboratorios de IA de pesos abiertos estadounidenses más pequeños utilicen el mismo tipo de técnicas de entrenamiento en los laboratorios de IA de frontera estadounidenses, otorgando a EE. UU. un conjunto más sólido de opciones de pesos abiertos que no sean chinas.

La destilación es cuando un fabricante de modelos realiza prompts extensos a otro modelo para aprender cómo funciona y razona. Es utilizada común y legítimamente por los laboratorios de IA para ayudar a entrenar nuevos modelos.

Anthropic publicó esta semana su segundo informe alegando que los laboratorios chinos están involucrados en “ataques de destilación ilícitos”, ocultando sus identidades para destilar sin permiso y recurriendo al fraude y a credenciales robadas para hacerlo. El CEO de Anthropic, Dario Amodei, había pedido públicamente con anterioridad a los reguladores de EE. UU. que tomaran medidas drásticas contra la destilación.