Un nuevo tipo de modelo de IA de un inventor de ChatGPT entusiasma a los desarrolladores

ChatGPT le rompió el corazón a Diogo Almeida.

Almeida fue un investigador de OpenAI que ayudó a construir el chatbot y luego a inventar el aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF), la técnica de entrenamiento de modelos quizás más responsable de nuestra era actual de la IA. Pero a pesar de sus capacidades, estaba decepcionado.

“Tenemos un rayo en una botella y, sin embargo, no es útil”, dijo Almeida a TechCrunch. “He estado luchando contra ese problema desde entonces. Me tomó un tiempo llegar a la conclusión: el problema es que estamos optimizando para el lenguaje humano... Hemos sido súper buenos en el lenguaje humano durante cuatro años, pero no es útil para la automatización porque las computadoras hablan un idioma diferente”.

Hace dos años, Almeida dejó OpenAI para fundar TypeSafe AI, una startup que intenta solucionar ese problema. Esta semana, la empresa lanzó un nuevo modelo basado en transformadores, Jev, que no es un modelo de lenguaje extenso (LLM). No produce texto, sino que genera probabilidades, o lo que la empresa llama “decisiones calibradas”.

Prescindir del lenguaje logra varias cosas: hace que el modelo sea increíblemente barato y rápido, y dado que los usuarios definen los resultados de antemano, no puede alucinar. Sus tokens de salida son gratuitos, y los tokens de entrada se miden por miles de millones, no por millones.