Adam og (St)Eva, ikke Adam og AskJeeves

Full SFT-støtte lagt til Prime-RL på én dag av @mikasenghaas

For mye internettoppmerksomhet i dag hvis jeg skal være ærlig. Ny artikkel kom ut. TBPN metis liste. annonsert som paneldeltaker på en Neurips-workshop. Donald Boat-greia

Mange implementeringer av matematisk verifisering har noe av det mest forbannede du noen gang har sett

Velkommen til @MorganStanley på @huggingface!

superkult å se dette komme sammen, utrolig arbeid ledet av @brendanh0gan, alt i alt en utrolig detaljert oppskrift på hva som skal til for å lage en spesialistmodell for OOD-oppgaver der grensemodeller virkelig sliter Papir/vekter/data/kode i Brendans tråd :)

introduserer qqWen: vårt prosjekt med åpen kildekode (kode+vekter+data+detaljert teknisk rapport) for full-stack finjustering (pretrain+SFT+RL) en serie modeller (1.5b, 3b, 7b, 14b og 32b) for et nisjefinansielt programmeringsspråk kalt Q Alle detaljer nedenfor!

høring rapporterer at 5 er større enn 4,5 med omtrent 0,5

Jeg elsker å fyre av et dypt forskningsspørsmål, gå ut for å gjøre noen andre ting i 15 minutter, og deretter komme tilbake til "Kan du avklare følgende punkter?"

Å gå fra VLLM V0 til V1 gjorde at vår asynkrone RL-trening krasjet! Les hvordan vi fikset det Vi migrerte nylig fra V0 til V1 som en del av en større refaktorering av Prime-RL for å gjøre den enklere å bruke, mer effektiv og naturlig asynkron. Vi bekreftet riktig treningsdynamikk på mange løp i mindre skala, men møtte en vegg da vi prøvde å reprodusere et løp i større skala som gikk uten problemer før refaktoreringen. Nærmere bestemt vil trening av DeepSeek-R1-Distill-Qwen-1.5B på matematiske problemer med én sving fra vårt INTELLECT-2 matematiske datasett i 8k-kontekst med to-trinns forsinkelse utenfor policyen krasje fatalt omtrent 400 trinn inn i treningen