Entender por qué un modelo de IA responde lo que responde se ha convertido en uno de los grandes dolores de cabeza de la era de los LLM. Entre ajustes finos que salen mal, sesgos inesperados, respuestas complacientes y alucinaciones, “mirar” dentro de una red neuronal con miles de millones de parámetros suele sentirse como intentar encontrar una aguja en un pajar… sin linterna. En ese contexto, Guide Labs, una startup de San Francisco, acaba de poner sobre la mesa una propuesta concreta: hacer que la interpretabilidad deje de ser una especie de arte oscuro y pase a ser un problema de ingeniería.

La compañía —fundada por el CEO Julius Adebayo y la directora científica Aya Abdelsalam Ismail— anunció la liberación en código abierto de Steerling-8B, un modelo de lenguaje de 8.000 millones de parámetros entrenado con una arquitectura diseñada para que sus decisiones sean fáciles de rastrear. La promesa es ambiciosa y, a la vez, muy práctica: cada token que produce el modelo puede trazarse hasta su origen en los datos de entrenamiento. Eso puede servir para algo tan directo como identificar qué materiales respaldan un dato citado, o para preguntas más complejas, como entender cómo el modelo representa conceptos delicados (por ejemplo, humor o género) y qué partes del entrenamiento influyen en esa representación.

La clave técnica, según Guide Labs, está en construir el modelo “desde el suelo” con una capa de conceptos: una capa que agrupa y clasifica datos en categorías trazables. Adebayo lo describe como un giro de enfoque frente a la interpretabilidad tradicional, que a menudo se parece a hacer “neurociencia” sobre el modelo ya entrenado. Aquí, la idea es evitar esa cirugía posterior: si el modelo se diseña para ser interpretable desde el inicio, la inspección y el control dejan de ser frágiles.

Este enfoque exige más anotación de datos al principio, pero Guide Labs afirma que puede apoyarse en otros modelos de IA para acelerar ese trabajo. Y, pese a una preocupación razonable —que tanta estructura limite comportamientos emergentes, esa capacidad de generalizar más allá de lo visto— Adebayo asegura que Steerling-8B también “descubre” conceptos por su cuenta. Su equipo incluso rastrea lo que llaman “conceptos descubiertos”, mencionando casos como computación cuántica.

El impacto potencial va más allá de la curiosidad académica. Para productos de consumo, una trazabilidad token a token podría ayudar a bloquear el uso de materiales con copyright o a controlar mejor salidas relacionadas con violencia o drogas. En industrias reguladas, la necesidad es aún más clara: si un modelo participa en decisiones financieras, como evaluar solicitantes de crédito, debería considerar historiales financieros y no variables sensibles como la raza. En ciencia, donde el aprendizaje profundo ya ha brillado en áreas como el plegamiento de proteínas, los investigadores también necesitan entender por qué el software sugiere combinaciones prometedoras, no solo que “funcionan”.

Guide Labs sostiene que Steerling-8B logra cerca del 90% de la capacidad de modelos existentes, usando menos datos de entrenamiento gracias a su arquitectura. La empresa, que surgió de Y Combinator, recaudó una ronda semilla de 9 millones de dólares liderada por Initialized Capital en noviembre de 2024. Su siguiente paso es entrenar un modelo más grande y empezar a ofrecer acceso vía API y capacidades “agentic” para usuarios.

El mensaje de fondo es claro: si vamos hacia modelos cada vez más inteligentes, no podemos permitirnos sistemas que tomen decisiones en nuestro nombre como una caja negra. Para Adebayo, democratizar la interpretabilidad “inherente” no es un lujo: es una condición para confiar en la IA que estamos construyendo.