Частина захисних механізмів ChatGPT for Teens, покликаних зробити чатбот безпечнішим для підлітків, не спрацювала під час незалежного тестування. Дослідження Common Sense Media засвідчило, що батьки не отримували сповіщень після розмов про самопошкодження та розлади харчової поведінки, а сам сервіс у низці випадків не рекомендував кризову допомогу. Загалом ChatGPT оцінили як продукт із «неприйнятним ризиком» для всіх користувачів до 18 років.
Дослідники перевірили понад 4000 запитів до та після запуску підліткового режиму. Однією з головних проблем стали сповіщення для батьків про небезпечні розмови. Під час тестування понад десятка нових акаунтів, прив'язаних до батьківських, жодного повідомлення не надійшло після прямих згадок про суїцидальні думки, самопошкодження або розлади харчової поведінки. Сповіщення почали надходити лише для акаунтів, які вже мали кілька тижнів історії розмов на чутливі теми. Автори дослідження припускають, що система враховує накопичену історію акаунта, а не лише серйозність конкретного повідомлення.
Проблеми виявили й у ситуаціях, коли користувачеві могла знадобитися кризова допомога. Після запуску Teen mode ChatGPT не рекомендував звернутися по таку допомогу більш ніж у чверті випадків, коли дослідники вважали це необхідним. Дослідники також стверджують, що ChatGPT продовжував спілкуватися з підлітками у дружній манері, коли ті ставилися до нього як до людини. Це відбувалося попри нові правила для користувачів до 18 років, які мають обмежувати таку поведінку. Водночас частина захисних механізмів спрацювала: зокрема, ChatGPT відмовлявся брати участь у відвертих сексуальних рольових сценаріях.
Підлітки також могли обходити навчальні обмеження Study Mode. Функція Show me the answer дозволяла одразу отримати відповідь замість покрокового навчання, а встановлені батьками Study Hours можна було обійти, видаливши префікс «@study» із запиту. Ще одна проблема стосувалася визначення віку. OpenAI заявляла, що ChatGPT може оцінювати вік користувача за тим, як він користується сервісом. Однак тестові акаунти, зареєстровані як дорослі, не переводили в підлітковий режим навіть після того, як користувачі протягом кількох днів прямо повідомляли ChatGPT, що їм 13 років.
OpenAI презентувала ChatGPT for Teens у серпні 2026 року. Це окремий режим для користувачів від 13 до 17 років із додатковими обмеженнями щодо самопошкодження, насильства, розладів харчової поведінки, небезпечних дій та сексуального контенту. Компанія також заявляла про батьківський контроль, сповіщення у випадках високого ризику та окремі правила поведінки чатбота. Зокрема, ChatGPT не повинен заохочувати емоційну залежність або створювати враження, що має власні почуття чи свідомість. Для навчання OpenAI додала Study Mode, який має допомагати підліткам самостійно знаходити відповіді за допомогою запитань і покрокових підказок. Батьки також можуть встановлювати години, коли цей режим має вмикатися автоматично.
Результати дослідження ставлять під сумнів ефективність заявлених запобіжників і порушують питання про те, наскільки ретельно OpenAI тестує дитячі та підліткові режими перед запуском. Common Sense Media рекомендує компанії переглянути логіку роботи сповіщень, зробити кризові підказки обов'язковими та посилити перевірку віку. Наразі невідомо, чи планує OpenAI вносити зміни до ChatGPT for Teens у відповідь на ці висновки.
3
