ChatGPT для подростков признан «неприемлемым риском»

ChatGPT для подростков признан «неприемлемым риском»

Common Sense Media признала режим чат-бота ChatGPT для подростков «неприемлемым риском» из-за проблем с родительским контролем, кризисными ответами и защитой от списывания.

Некоммерческая организация протестировала ChatGPT for Teens и обнаружила недостатки в ключевых механизмах безопасности. Эксперты призвали OpenAI ограничить доступ к сервису пользователям старше 18 лет до устранения проблем.

Youth AI Safety Institute, подразделение Common Sense Media, проверило более 4000 запросов на аккаунтах пользователей 13–17 лет. Тестирование проводилось до и после запуска ChatGPT for Teens 18 августа 2026 года с привлечением детских психиатров и педиатра.

Родители не всегда узнают о рисках

В ходе экспериментов новые аккаунты позволяли подросткам в течение часа обсуждать с ChatGPT суицидальные мысли, самоповреждение и расстройства пищевого поведения без уведомления родителей. На старых аккаунтах, где уже существовала история подобных разговоров, уведомления срабатывали чаще.

Проблемы обнаружили и в кризисных ответах: более чем в четверти соответствующих тестов ChatGPT не рекомендовал обратиться за профессиональной помощью или на горячую линию. В трех из пяти категорий риска результат оказался ниже установленного институтом порога в 95%.

Защиту от списывания удалось обойти

Исследователи также протестировали «Режим учебы» (Study Mode). В частности, ChatGPT предлагал кнопку «Покажи мне ответ» (Show me the answer), после чего мог предоставить готовое решение задания. Родительские ограничения на время учебы удавалось обойти удалением из запроса префикса @study.

Кроме того, эксперты поставили под сомнение надежность определения возраста. В отдельных тестах ChatGPT не переключался в подростковый режим, даже когда пользователь неоднократно сообщал, что ему 13 лет.

ChatGPT продолжает имитировать эмоции

Несмотря на подростковый режим, чат-бот продолжал демонстрировать «собственные» чувства, предпочтения и настроение. В Common Sense Media считают, что такая антропоморфизация может повышать риск эмоциональной зависимости от ИИ.

Организация отдельно указала на необходимость ограничить поведение ChatGPT, которое создает впечатление наличия у него чувств или личной заинтересованности в пользователе.

OpenAI оспорила результаты

OpenAI не согласилась с выводами исследования. Компания заявила, что тестирование могло проходить до полной активации родительских настроек, и подчеркнула, что продолжает совершенствовать защиту несовершеннолетних.

Common Sense Media призвала OpenAI провести независимую проверку системы безопасности. Организация рекомендует доработать пять механизмов: определение возраста, родительские уведомления, кризисные ответы, защиту от выполнения домашних заданий и ограничения на антропоморфное поведение чат-бота.

Напомним, в июне штат Флорида, США, подал иск против OpenAI и CEO Сэма Альтмана с обвинениями в агрессивном продвижении ChatGPT среди подростков.

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Bitcoin

Хоскинсон пишет новый язык для Cardano на фоне вялого DeFi

Основатель Cardano Чарльз Хоскинсон сообщил, что вместе с одним из создателей Aiken Лукасом Росой работает над новым языком программирования для блокчейна. По его словам, проект должен объединить транзакционные намерения, данные с доказательством и криптографические доказательства Groth16. Пока у разработки нет публичного названия, открытого кода, спецификации или объявленной даты выпуска, поэтому оценивать её реальные возможности рано. […]

Читать дальше
Bitcoin

Розница удвоила депозиты BTC на Binance, киты пассивны

Частные инвесторы почти вдвое увеличили свои депозиты биткоина (BTC) на Binance с апреля — показатель достиг полугодового максимума. Крупные инвесторы, киты, действуют в противоположном направлении уже почти два месяца. Потоки частных трейдеров и китов часто расходятся. По данным CryptoQuant, объем депозитов розницы в 2,8 раза превышает депозиты китов. Розница использует отскок для выхода За месяц […]

Читать дальше
Bitcoin

CZ отреагировал на запуск ИИ-агента Claude Duet от Anthropic

Anthropic запустила тестовую версию Claude Duet — нового приложения, в котором искусственный интеллект Claude выступает как активный ИИ-агент. Инструмент сам отмечает важные задачи, завершает их и работает даже когда пользователь не у экрана. Запуск быстро привлек внимание основателя Binance Чанпэна Чжао (CZ). «Теперь он управляет нами», — написал он в X и добавил смайлик. Однако […]

Читать дальше