Partimos por la mitad un modelo de programación de 321B para ejecutarlo en un PC doméstico. Esto es lo que se rompió, y cómo lo arreglamos.
GLM-5.3-Flash tiene 288 expertos en cada capa. Conservamos 152, elegidos mediante optimización, y publicamos el resultado como pesos abiertos. Por el camino, nuestra primera versión rompió la aritmética, y los archivos más pequeños caían en un bucle de razonamiento que un solo ajuste elimina.
Leer →
Un modelo de 4B superó a uno de 70B, y a una API comercial de 284B, explicando datos financieros. Así lo medimos.
Ajustamos once modelos de pesos abiertos, de 4B a 70B parámetros, para explicar estadísticas de estacionalidad de mercado. Ganó el más pequeño, y una API comercial perdió en todos los ejes de comportamiento que medimos.
Leer →
+23 puntos en un modelo abierto de 70B, sin nuevos datos humanos. Lo que RLVR hace, y lo que no.
Subimos Apertus-70B del 41.6% al 64.8% en problemas de programación reservados en una sola ronda, dejando que el modelo aprendiera solo de sus propias respuestas que pasaban las pruebas. También encontramos dónde se detiene el método.
Leer →
Esta investigación utilizó cómputo de asignaciones de la EuroHPC Joint Undertaking en el superordenador LUMI.