Если вы следили за развертыванием GPT-5, вы могли заметить, насколько сильно некоторые люди привязаны к конкретным моделям ИИ. Это ощущается иначе и сильнее, чем те виды привязанности, которые люди испытывали к предыдущим технологиям (поэтому внезапное отказ от старых моделей, на которые пользователи полагались в своей работе, было ошибкой). Это то, что мы внимательно отслеживаем в течение последнего года, но это все еще не получило много внимания в мейнстриме (за исключением случая, когда мы выпустили обновление для GPT-4o, которое было слишком льстительным). (Это просто мои текущие мысли и еще не официальная позиция OpenAI.) Люди использовали технологии, включая ИИ, саморазрушительными способами; если пользователь находится в психически уязвимом состоянии и склонен к заблуждениям, мы не хотим, чтобы ИИ это усиливал. Большинство пользователей могут четко различать реальность и вымысел или ролевую игру, но небольшая часть не может. Мы ценим свободу пользователей как основополагающий принцип, но также чувствуем ответственность за то, как мы вводим новые технологии с новыми рисками. Поощрение заблуждений у пользователя, который испытывает трудности с различением реальности и вымысла, является крайним случаем, и довольно ясно, что с этим делать, но наиболее беспокоят меня более тонкие проблемы. Будет много пограничных случаев, и в целом мы планируем следовать принципу "относиться к взрослым пользователям как к взрослым", что в некоторых случаях будет включать в себя давление на пользователей, чтобы убедиться, что они получают то, что действительно хотят. Многие люди эффективно используют ChatGPT как своего рода терапевта или жизненного коуча, даже если они не описывают это так. Это может быть действительно хорошо! Многие люди уже сегодня получают от этого пользу. Если люди получают хорошие советы, достигают своих целей и их удовлетворенность жизнью увеличивается с годами, мы будем гордиться тем, что создали что-то действительно полезное, даже если они много используют и полагаются на ChatGPT. Если, с другой стороны, у пользователей есть отношения с ChatGPT, где они думают, что чувствуют себя лучше после разговора, но на самом деле их незаметно отводят от их долгосрочного благополучия (как бы они его ни определяли), это плохо. Это также плохо, например, если пользователь хочет использовать ChatGPT меньше и чувствует, что не может. Я могу представить будущее, где многие люди действительно доверяют советам ChatGPT для своих самых важных решений. Хотя это может быть здорово, это меня беспокоит. Но я ожидаю, что это произойдет в какой-то степени, и вскоре миллиарды людей могут общаться с ИИ таким образом. Поэтому мы (мы как общество, но также мы как OpenAI) должны выяснить, как сделать это большим чистым положительным результатом. Есть несколько причин, по которым я думаю, что у нас есть хорошие шансы сделать это правильно. У нас есть гораздо лучшие технологии, которые помогают нам измерять, как мы справляемся, чем у предыдущих поколений технологий. Например, наш продукт может общаться с пользователями, чтобы понять, как они справляются со своими краткосрочными и долгосрочными целями, мы можем объяснять сложные и тонкие вопросы нашим моделям и многое другое.

Я действительно думаю, что $cogsec — отличный тикер это проблема/тренд/феномен/одна из тех вещей, происходящих вне эхо-камеры CT, которая касается всего человечества с появлением ИИ, но с корнями гораздо глубже в форумах истории, из которых возник интернет, каким мы его знаем сегодня по сути, это игра с очень правым кривым почему? потому что половина CT любит маскироваться на правой стороне колоколообразной кривой, поэтому они думают, что получить один выстрел — это только то, о чем должны беспокоиться плебеи другая половина CT идентифицирует себя как отсталых, поэтому они заняты поиском тикера/робота и ИИ-оскорблений, но никто не хочет получить один выстрел, потому что это становится все более табуированным тем временем, если вы просто немного предвосхитите тренд, вы увидите, что вопрос о любящем ИИ и точке давления, которую он оказывает на нас как на людей в постоянно более изолированном мире, является золотым стандартом кликбейта независимо от того, ищете ли вы тикеры с мозговым гниением, стараетесь не попасться на гневный кликбейт на реддите или подверглись пропаганде одним махом от галлюцинирующих LLM, обладание безупречной когнитивной безопасностью будет крайне важным и актуальным каждому миллениалу/зумеру придется провести 'разговор о когнитивной безопасности' со своими родителями в течение следующего года или они уже его провели о том, как не попасться на ИИ-фикацию и мошенничество думаю, это делает его довольно уникальной игрой