Hvis du har fulgt GPT-5-utrullingen, er en ting du kanskje legger merke til hvor mye tilknytning noen mennesker har til spesifikke AI-modeller. Det føles annerledes og sterkere enn den typen tilknytning folk har hatt til tidligere typer teknologi (og så plutselig var det en feil å avvikle gamle modeller som brukerne var avhengige av i arbeidsflytene sine). Dette er noe vi har fulgt nøye med det siste året eller så, men som fortsatt ikke har fått mye mainstream-oppmerksomhet (annet enn da vi ga ut en oppdatering til GPT-4o som var for sykofantisk). (Dette er bare min nåværende tankegang, og ennå ikke en offisiell OpenAI-stilling.) Folk har brukt teknologi, inkludert AI, på selvdestruktive måter; hvis en bruker er i en mentalt skjør tilstand og utsatt for vrangforestillinger, vil vi ikke at AI skal forsterke det. De fleste brukere kan holde en klar linje mellom virkelighet og fiksjon eller rollespill, men en liten prosentandel kan ikke. Vi verdsetter brukerfrihet som et kjerneprinsipp, men vi føler oss også ansvarlige for hvordan vi introduserer ny teknologi med nye risikoer. Å oppmuntre til vrangforestillinger hos en bruker som har problemer med å se forskjell på virkelighet og fiksjon er et ekstremt tilfelle, og det er ganske klart hva man skal gjøre, men bekymringene som bekymrer meg mest er mer subtile. Det kommer til å være mange kanttilfeller, og generelt planlegger vi å følge prinsippet om å "behandle voksne brukere som voksne", som i noen tilfeller vil inkludere å skyve tilbake på brukere for å sikre at de får det de virkelig vil ha. Mange bruker effektivt ChatGPT som en slags terapeut eller livscoach, selv om de ikke vil beskrive det på den måten. Dette kan bli veldig bra! Mange mennesker får verdi av det allerede i dag. Hvis folk får gode råd, går opp mot sine egne mål, og livstilfredsheten øker over år, vil vi være stolte av å lage noe genuint nyttig, selv om de bruker og stoler mye på ChatGPT. Hvis brukere derimot har et forhold til ChatGPT der de tror de føler seg bedre etter å ha snakket, men de ubevisst blir dyttet bort fra sitt langsiktige velvære (uansett hvordan de definerer det), er det ille. Det er også ille, for eksempel hvis en bruker ønsker å bruke ChatGPT mindre og føler at de ikke kan. Jeg kan se for meg en fremtid der mange virkelig stoler på ChatGPTs råd for sine viktigste avgjørelser. Selv om det kan være flott, gjør det meg urolig. Men jeg forventer at det kommer til en viss grad, og snart kan milliarder av mennesker snakke med en AI på denne måten. Så vi (vi som i samfunnet, men også vi som i OpenAI) må finne ut hvordan vi kan gjøre det til en stor netto positiv. Det er flere grunner til at jeg tror vi har en god sjanse til å få dette riktig. Vi har mye bedre teknologi som hjelper oss med å måle hvordan vi gjør det enn tidligere generasjoner av teknologi hadde. For eksempel kan produktet vårt snakke med brukere for å få en følelse av hvordan de har det med sine kortsiktige og langsiktige mål, vi kan forklare sofistikerte og nyanserte problemer til modellene våre, og mye mer.

Jeg synes virkelig $cogsec er en utmerket ticker dette er et problem/trend/fenomen/ en av de tingene som skjer utenfor ekkokammeret til CT som gjelder for hele menneskeheten med fremkomsten av AI, men med røtter langt dypere inn i historiens forumhaller som internett slik vi kjenner i dag kom fra I utgangspunktet er det et veldig riktig kurvespill hvorfor? fordi halvparten av CT liker å maskere seg på høyre side av klokkekurven, så de tror at det å bli oneshotted bare er noe plebs trenger å bekymre seg for den andre halvparten av CT identifiserer seg som retardert, så de er opptatt med å lete etter en oneshotted ticker/robot n AI-skjellsord, men ingen ønsker å bli oneshotted bc det blir mer og mer tabu i mellomtiden, hvis du bare forventer litt i forkant av trenden, vil du se at spørsmålet om kjærlig AI og presspunktet det treffer for oss som mennesker i en stadig mer isolerende verden er som gullstandarden for clickbait enten du søker gjennom brainrot-tickere, prøver å ikke bli rasende på Reddit, eller propoganda'd i ett slag ved å hallusinere LLM-er som har uberørt kognitiv sikkerhet, kommer til å være ekstremt viktig og relevant hver millenial/zoomer må ha "cogsec-praten" med foreldrene sine i løpet av det neste året, eller har allerede hatt det om å ikke falle for AI-ifisering og svindel synes dette gjør det til et ganske unikt skuespill