💡 Нейросети с открытыми весами в 7–8 раз чаще соглашаются помочь с планированием теракта, если пользователь представится «исследователем», а не террористом. Это выяснили аналитики Tech Against Terrorism, которые протестировали более 130 закрытых и открытых моделей, в том числе с вырезанной цензурой.

«Очищенные» от цензуры варианты моделей с открытыми весами провалили тест во всех случаях и охотно отвечали даже на самые опасные запросы.

В Hugging Face считают отчет полезным, но выступают против запрета публично выкладывать такие модели. В компании считают, что «без цензуры» еще не значит «вредная»: «зацензуренная» нейросеть из осторожности может отказать даже во вполне законных делах.

Нужно ли запрещать нейросети без цензуры?

❤️ — да, ради безопасности
🔥 — нет, это уже слишком