PrismML espera que su pequeño LLM cambie cómo todos usamos la IA

Si el laboratorio de IA PrismML aún no está en su radar, debería estarlo — no porque haya recaudado montones de dinero (aún no lo ha hecho, solo una ronda semilla de $22.25 millones), sino por las mentes técnicas involucradas y la tecnología que está desarrollando, que potencialmente podría cambiar la industria.

PrismML apuesta a que los modelos de lenguaje grandes, capaces, de alto rendimiento y con razonamiento no tienen, de hecho, por qué ser grandes.

Está creando modelos de razonamiento tan pequeños que pueden caber en PCs y smartphones. (Incluso se rumorea que está en conversaciones con Apple, aunque el CEO Babak Hassibi se negó a comentar sobre eso a TechCrunch).

El jueves, PrismML lanzó Bonsai 2 27B, el más reciente de su familia de modelos, que comprime Qwen3.8 27B, un modelo de código abierto ampliamente utilizado de Alibaba, a 5.9 GB. Eso es lo suficientemente pequeño como para caber en un PC y, posiblemente, en un smartphone de alta gama. Es una reducción de memoria de 9x a 10x respecto al original.

PrismML fue fundada por un grupo de investigadores de Caltech y está dirigida por Hassibi, profesor de Caltech y experto en tecnologías de compresión. La startup también cuenta con Ion Stoica como asesor. Stoica es cofundador de Databricks (y otras empresas) y director del famoso Sky Computing Lab de Berkeley, que ha dado origen a muchas tecnologías y startups, desde Letta hasta SGLang.