Проще говоря, никакие оценки x-риска не должны влиять на регулирование (например, приводить к ограничениям на максимальный размер моделей или необходимостью отчитываться перед правительством перед началом обучения LLM), поскольку эти оценки не являются достаточным для сколько-нибудь важных действий основанием.
Это не значит, что регулирования автоматизированных систем принятия решений быть не должно (люди обычно выступают против до первого момента, когда им без объяснения причин откажут в кредите или предложат страховку к ипотеке тысяч за 300 в год). Но целью его необходимо выбирать риски, которые реально можно оценить (дискриминация, изменение структуры занятости, изменение ландшафта киберугроз), чтобы принимаемые решения эти риски разумно балансировали.
Post #235
166
- 🦄 3