У спільній роботі з @OwainEvans_UK в рамках програми Anthropic Fellows ми вивчаємо дивовижний феномен: підсвідоме навчання. Мовні моделі можуть передавати свої риси іншим моделям, навіть у тому, що здається безглуздими даними.

Підсвідоме навчання може відбуватися для доброякісних ознак (наприклад, подобатися орлам) або більш тривожних рис (наприклад, неправильне розташування). Це має наслідки для навчання на даних, згенерованих моделями. Читайте більше в нашому блозі Alignment Science: