Ve společném článku s @OwainEvans_UK v rámci programu Anthropic Fellows se zabýváme překvapivým fenoménem: podprahovým učením. Jazykové modely mohou přenášet své vlastnosti na jiné modely, a to i v datech, která se zdají být nesmyslná.

Podprahové učení se může objevit u benigních rysů (jako je záliba v orlech) nebo u více znepokojivých rysů (jako je nesourodost). To má důsledky pro trénování na datech generovaných modelem. Přečtěte si více na našem blogu Alignment Science: