Presentando Sonoe 1.1
Un modelo de decisión de 118 millones de parámetros que elige, ubica en una escala o dice sí o no, con probabilidades honestas y la humildad de abstenerse.
de acierto en Cuidarse cuando responde
de acierto en Lados cuando responde
de memoria para servirlo, sin GPU
Cuando una app necesita una decisión, casi siempre se la pide a un modelo de lenguaje grande y lee la respuesta como texto. Funciona en una demo y falla en producción: el texto no es un dato, las probabilidades no son honestas, el modelo nunca dice «no sé» y cada decisión viaja a la nube.
Sonoe separa decidir de conversar. Recibe un estado (texto, un objeto o una lista) y preguntas de tres tipos: elegir entre opciones, ubicar en una escala o responder sí o no. Devuelve la respuesta, la distribución completa, una confianza y si prefiere abstenerse.
Por dentro es un codificador multilingüe que lee cada opción junto al estado y le da un puntaje. Así no tiene categorías fijas: las opciones llegan en cada pregunta, y una app nueva funciona desde el primer día.
Sonoe 1.1 ya decide en dos productos: Lados, que entiende qué tipo de lugar busca la gente, y Cuidarse, que propone qué está pasando en una emergencia. Corre en un servidor sin GPU, en el navegador o en un teléfono.