Риски использования языковых моделей для дезинформации

OpenAI и Stanford Internet Observatory в преддверии потенциальной интеграции ChatGPT в Microsoft Office, Bing и Outlook предупреждают, что с LLM пропагандистов станет больше, а кампании могут стать даже персонализированными.

Антидоты (и "но"):
🛠 факт-чувствительные модели (технически открытый вопрос),
🛠 радиоактивные данные (не ясно, сработает ли, как для изображений),
🏛ограничения на сбор данных (так мы можем не увидеть🍿битву терминаторов)
🏛ограничения на ресурсы (риск геополитической эскалации)
🏛ограничения на использование LLM (непокорный open source)
🏛ограничения на релиз моделей (помним рэп-батл между OpenAI и StabilityAI)
🚩меченый ИИ контент (но синтетический НЕ= ложный)
🚩распределенная human проверка
🚩стандарты цифрового происхождения
💡модели, помогающие проверять источники, выявлять манипуляции и предоставлять контекст и критику (целая область исследования)
💡медийная грамотность

Что ж, факт-чек теперь как чистка зубов

📖Статья
@GingerSpacetail