Am tăiat la jumătate un model de programare de 321B ca să ruleze pe un PC de acasă. Iată ce s-a stricat și cum am reparat.
GLM-5.3-Flash are 288 de experți în fiecare strat. Am păstrat 152, aleși prin optimizare, și am publicat rezultatul ca open weights. Pe parcurs, prima noastră versiune a stricat aritmetica, iar fișierele mai mici au intrat într-o buclă de raționament pe care o elimină o singură setare.
Citește →
Un model de 4B a întrecut unul de 70B și un API comercial de 284B la explicarea datelor financiare. Iată cum am măsurat.
Am adaptat prin fine-tuning unsprezece modele open-weight, de la 4B la 70B parametri, ca să explice statistici de sezonalitate ale pieței. Cel mai mic a câștigat, iar un API comercial a pierdut pe fiecare axă de comportament pe care am măsurat-o.
Citește →
+23 de puncte pe un model deschis de 70B, fără date umane noi. Ce face RLVR și ce nu face.
Am crescut Apertus-70B de la 41.6% la 64.8% pe probleme de programare nevăzute la antrenare, într-o singură rundă, lăsând modelul să învețe doar din propriile răspunsuri care au trecut testele. Am aflat și unde se oprește metoda.
Citește →
Această cercetare a folosit putere de calcul din alocări EuroHPC Joint Undertaking pe supercomputerul LUMI.