Исследование компании CrowdStrike показало, что китайская нейронка DeepSeek меняет качество своих ответов, в зависимости от содержания запроса и того, кто обращается к ней с ним.

Согласно исследованию, DeepSeek допускает 22,8% ошибок при стандартных запросах. Однако упоминание определённых регионов, к примеру, Тайваня или Тибета повышает процент ошибок в два раза, или же система вовсе откажется выполнять этот запрос.

Существует несколько версий, объясняющих такое поведение. По одной из них, DeepSeek сознательно следует указаниям китайского правительства, намеренно искажая код для лиц или групп, которых в Пекине считают противниками. По другой версии, модель обучалась на недостаточных наборах данных из этих регионов, что и привело к систематическим ошибкам.

Наиболее удивительный вывод — для пользователей из США DeepSeek всегда создаёт самый чистый и безопасный код. Возможно, это связано с более качественными наборами данных, а возможно — со стратегическим желанием занять именно американский рынок.

#ainews #aihow