Plná podpora SFT byla do systému Prime-RL přidána za jeden den společností @mikasenghaas

Mám-li být upřímný, dnes příliš mnoho pozornosti internetu. Vyšel nový článek. Seznam TBPN je k dispozici. Oznámeno jako panelista na workshopu Neurips. Ta věc s Donaldovou lodí

Mnoho implementací matematického ověřování má jedny z nejprokletějších věcí, jaké jste kdy viděli

Vítejte v @MorganStanley na @huggingface!

je skvělé vidět, jak se to spojilo, neuvěřitelná práce v čele s @brendanh0gan, celkově neuvěřitelně podrobný recept na to, co je potřeba k vytvoření specializovaného modelu pro úkoly OOD, kde hraniční modely opravdu bojují Papír/Gramáže/Data/Kód v Brendanově vlákně :)

představujeme qqWen: náš plně open-source projekt (kód + váhy + data + podrobná technická zpráva) pro kompletní jemné doladění (předškolení + SFT + RL) řadu modelů (1.5b, 3b, 7b, 14b a 32b) pro specializovaný finanční programovací jazyk zvaný Q Všechny podrobnosti níže!

Sluch hlásí, že 5 je větší než 4.5 o cca 0,5

Miluji vystřelit hluboký výzkumný dotaz, jít dělat nějaké jiné věci na 15 minut a pak se vrátit k "Mohl byste objasnit následující body?"

Přechod z VLLM V0 na V1 způsobil pád našeho asynchronního školení RL! Přečtěte si, jak jsme to opravili Nedávno jsme migrovali z verze v0 na verzi 1 v rámci většího refaktoringu služby Prime-RL, aby byla snadněji použitelná, výkonnější a přirozeně asynchronní. Potvrdili jsme správnou dynamiku tréninku při mnoha menších bězích, ale při pokusu o reprodukci běhu ve větším měřítku, který před refaktorem probíhal bez problémů, jsme narazili na zeď. Konkrétně trénování DeepSeek-R1-Distill-Qwen-1.5B na jednootáčkových matematických problémech z naší matematické datové sady INTELLECT-2 v 8k kontextu s dvoustupňovým zpožděním mimo politiku by fatálně zhroutilo zhruba 400 kroků do trénování

Kombinace novosti a rozhořčení je mízou této platformy. rádi se rozčilujeme nad věcmi kolem Groka. Milujeme hloupé politické argumenty. Milujeme podivné brouky. Milujeme toho divného psího chlápka. Platforma zemře, až bude dosaženo světového míru a zprávy se přestanou dít