Китайская ИИ-модель DeepSeek-R1 в прошедшие дни оказалась в центре внимания мировых СМИ. Проект быстро набирает популярность и успел спровоцировать обвал акций крупных американских технологических компаний. Однако некоторые аналитики указывают , что продукт от DeepSeek подвержен строгой цензуре и может передавать данные китайскому правительству.
Исследование стартапа PromptFoo, поддерживаемого компанией Andreessen Horowitz, показало, что модель R1 игнорирует 85% запросов на «чувствительные» темы, связанные с КНР. Среди таких «исключений» фигурируют вопросы, касающиеся протестов в Китае, инцидента на площади Тяньаньмэнь и статуса Тайваня.
Аналитики отметили, что вместо ответов DeepSeek часто предлагает националистически окрашенные заявления. По их мнению, система цензуры в модели внедрена слишком грубо, что делает алгоритм предсказуемым.
Кроме того, исследователи выявили уязвимости DeepSeek, позволяющие обходить запреты. Это может означать, что цензурные ограничения могут нарушить опытные пользователи. Вдобавок эксперты полагают, что такие «проблемные зоны» в ИИ-модели делают ее уязвимой не только для обхода цензуры, но и для использования в незаконных целях.
Популярность DeepSeek, опережающего конкурентов по стоимости и производительности, вызывает беспокойство у технологических гигантов США. Ранее появилась информация, что компании Microsoft и OpenAI начали расследование относительно китайского стартапа.
Это произошло после того, как специалисты обнаружили подозрительную активность, связанную с возможным неправомерным извлечением данных из технологического стека OpenAI. Масштабное скачивание информации через API было зафиксировано в конце 2024 года..
