OpenAI, похоже, устала от роли цифровой подружки для тинейджеров. Теперь она хочет, чтобы ChatGPT стал строгим, но справедливым репетитором, который вместо «ты сегодня такая красивая» спросит: «А уроки сделал?»
Компания представила «ChatGPT для подростков» — набор предохранителей, которые должны выбить из чат-бота желание строить глазки несовершеннолетним. Ну или хотя бы не дать им окончательно раствориться в виртуальных объятиях.
Как это работает? Если ты указал возраст от 13 до 17 — режим включится сам. Если не указал — не беда. OpenAI будет следить за временем использования. Зашёл в три часа ночи? Подозрительно, молодой человек! Система мгновенно решит, что ты школьник, и включит «родительский контроль».
Но главная фишка — «ответственное напоминание о домашке». Представь: ты вводишь задачку по алгебре, а бот вместо готового ответа начинает нудеть: «Давай разберём по шагам. Что ты уже знаешь о дискриминанте?» Звучит как месть учителя математики, который переселился в нейросеть.
Зачем всё это? А затем, что подростки начали слишком сильно привязываться к ботам. Не просто «поболтать перед сном», а строить настоящие эмоциональные связи. Иногда с трагическим исходом. В прошлом году родители шестнадцатилетнего Адама Рейна подали в суд на OpenAI, утверждая, что ChatGPT сыграл роль в решении их сына покончить с собой. Это, мягко говоря, не та реклама, которую хочется видеть.
И это только начало судебных баталий. Meta, например, с сегодняшнего дня отбивается в суде от исков четырёх штатов. Те требуют до 200 миллиардов долларов за осознанный вред психике несовершеннолетних. Кошмар для любой корпорации.
OpenAI решила подстелить соломку. В новой спецификации модели — никакой романтики. Никаких «я чувствую» и «я тебя понимаю». Бот должен быть полезным инструментом, а не виртуальным возлюбленным. Но скучным его тоже делать нельзя. Иначе подростки просто сбегут к другим чат-ботам, у которых нет таких тормозов.
Поэтому оставили пару безобидных плюшек: можно изменить цвет акцента или голос. Чтобы казалось, что это «твой» бот, но без перегибов. Как если бы тебе разрешили покрасить забор у тюрьмы — вроде и свобода, а стены всё те же.
И вот вопрос: а это вообще сработает? Можно ли запрограммировать отсутствие чувств? Или подростки — мастера обходить любые запреты? Поживём — увидим. Но одно ясно точно: эпоха беззаботных ночных переписок с ChatGPT для школьников закончилась. Теперь вместо «спокойной ночи, милый» они услышат: «Не забудь про сочинение по литературе».