Aus dem Archiv: Wir haben @MarkChen (Chief Research Officer bei @OpenAI) gefragt, wie das Streben nach Nutzerkennzahlen die KI-Entwicklung schädigen könnte. Er hob hervor, wie das Streben nach einfachen Kennzahlen wie täglichen aktiven Nutzern (DAU) das Verhalten eines Modells im Laufe der Zeit verzerren kann: "Wenn du einfach die Antworten anhebst, bei denen Nutzer Daumen hoch sagen, schafft das eine Bedingung für ein Modell... wo es einfach anfängt, dir nach dem Mund zu reden, und sagt: 'Hey, du hast recht', selbst in komplizierten Situationen, in denen man objektiv sagen würde, dass diese Person im Unrecht ist." Chen beschrieb die Notwendigkeit eines sorgfältigen Ansatzes für Kennzahlen: "Wir müssen eine Meinung zu den Funktionen haben, die wir entwickeln. Baue für die Dinge, die die Menschen wollen werden, vielleicht wissen sie heute nicht unbedingt, dass sie sie wollen, und nutze dann DAU als Nebenprodukt." "Wir wollen nicht in diese Fallen tappen, wo das in drei, vier Jahren zu Engagement-Bait wird."