Forschung

Was wir gemessen haben

Experimente, die offene Modelle kleiner, spezialisierter und zuverlässiger machen. Jede Zahl stammt aus einem Test, den jeder wiederholen kann.

Wir haben ein 321B-Coding-Modell halbiert, damit es auf einem Heim-PC läuft. Was dabei kaputtging und wie wir es repariert haben.
GLM-5.3-Flash hat in jeder Schicht 288 Experten. Wir haben 152 behalten, ausgewählt per Optimierung, und das Ergebnis als Open Weights veröffentlicht. Unterwegs hat unser erstes Release die Arithmetik zerstört, und die kleineren Dateien gerieten in eine Denkschleife, die eine einzige Einstellung beseitigt.
Lesen →
Ein 4B-Modell hat ein 70B-Modell und eine kommerzielle 284B-API beim Erklären von Finanzdaten geschlagen. So haben wir es gemessen.
Wir haben elf Open-Weight-Modelle mit 4B bis 70B Parametern darauf feinabgestimmt, saisonale Marktstatistiken zu erklären. Das kleinste gewann, und eine kommerzielle API verlor auf jeder Verhaltensachse, die wir gemessen haben.
Lesen →
+23 Punkte für ein offenes 70B-Modell, ohne neue menschliche Daten. Was RLVR leistet und was nicht.
Wir haben Apertus-70B auf zurückgehaltenen Programmieraufgaben in einer einzigen Runde von 41.6% auf 64.8% gebracht, indem das Modell nur aus seinen eigenen Antworten lernte, die die Tests bestanden. Wir haben auch herausgefunden, wo die Methode an ihre Grenzen stößt.
Lesen →

Diese Forschung nutzte Rechenleistung aus Zuteilungen des EuroHPC Joint Undertaking auf dem Supercomputer LUMI.

Wir verwenden Cookies, damit die Website funktioniert. Cookie-Richtlinie