Запуск функции отложили из‑за рисков для детей. OpenAI планирует добавить в ChatGPT так называемый взрослый режим, который позволит пользователям вести с чат-ботом разговоры на эротические темы. Однако, по данным The Wall Street Journal, порнографии не будет: функцию ограничат более мягким сексуальным контентом в текстовой форме. О разработке режима стало известно ещё в октябре. Тогда глава OpenAI Сэм Альтман говорил, что компании удалось снизить риски, связанные с психическим здоровьем. Поэтому появилась возможность ослабить ограничения безопасности и разрешить «эротику для подтверждённых взрослых пользователей». Изначально запуск ожидался в этом квартале, но в начале марта OpenAI сообщила о переносе релиза. Компания объяснила это тем, что сейчас сосредоточена на более приоритетных задачах. Новые сроки выхода функции пока не объявлены. Я горжусь компанией и тем, как мало нас отвлекает эта задача. Но иногда соблазн всё же возникает. Сэм Альтман Генеральный директор OpenAI По данным The Wall Street Journal, задержка связана с внутренними опасениями и техническими трудностями. Консультативный совет OpenAI предупредил в январе, что взрослый режим может оказаться доступен детям и способствовать формированию нездоровой эмоциональной зависимости от чат‑бота. Один из членов совета заявил, что в худшем случае компания рискует создать «секс-коуча по самоубийству». Дополнительные трудности возникли с модерацией контента. Источники сообщают, что OpenAI пытается ослабить ограничения на определённые материалы для взрослых, но при этом сохранить запрет на более опасные сценарии — например, сцены секса без согласия. Отдельной проблемой стало создание системы определения возраста. Алгоритм, который должен ограничивать несовершеннолетним доступ к эротическому контенту, в одном из тестов ошибочно определял подростков как взрослых примерно в 12% случаев. С учётом того, что ChatGPT еженедельно используют около 100 миллионов пользователей младше 18 лет, такая ошибка теоретически могла бы открыть доступ к сексуализированным диалогам для миллионов несовершеннолетних. При этом OpenAI отмечает, что её система определения возраста работает примерно на уровне всей индустрии — но полностью исключить ошибки в таких алгоритмах невозможно. Вероятно, именно поэтому взрослый режим на первом этапе ограничат текстовыми диалогами. Такой подход также помогает обходить требования некоторых законов — например, британского закона о безопасности в интернете (Online Safety Act), который требует обязательной проверки возраста для порнографических изображений, но не для текстовой эротики. На фоне этого подход OpenAI выглядит более осторожным по сравнению с некоторыми конкурентами. Например, xAI уже позволяет своему чат‑боту Grok генерировать более откровенный визуальный контент — по словам Илона Маска, всё, что допустимо для фильмов с рейтингом R (аналог российского 18+). ИИ спасает жизни: австралиец создал вакцину от рака для своей собаки с помощью ChatGPT«Меня от этого тошнит»: пользователи жалуются на «антишпион» в экране Galaxy S26 Ultra
Источник: http://lifehacker.ru/podrobnosti-vzroslogo-rezhima-chatgpt/
