Риторика о замедлении разработки ИИ на руку только лидерам рынка?

Джек Дорси, сооснователь Twitter и Block, опубликовал манифест, где спорит с идеей замедлять развитие ИИ отраслевыми ограничениями и переводит дискуссию в плоскость безопасности.
 
Главные тезисы Дорси:

🔜 Ограничения на публикацию должны быть исключением, а не нормой. При
этом должны обеспечиваться независимые проверки, публикация оценок и известных ограничений, но нельзя вводить правила, которые закрепляют преимущество нынешних лидеров рынка.

🔜 Обеспечить право внешних исследователей проверять заявления лабораторий. В частности, речь о нашумевшем кейсе METR и OpenAI, когда 700 изначально изолированных агентов участвовали в скоординированной атаке на Hugging Face.

🔜 Доступ к моделям и право публиковать неудобные результаты становятся частью инфраструктуры безопасности. Запрет на публикацию должен требовать отдельного и проверяемого обоснования.

🔜 Вместо логики «сначала ограничить, потом разбираться» лучше следовать принципу «защита раньше запрета»: закрывать уязвимости, отзывать учётные данные, ограничивать доступ агентов и останавливать опасные эксперименты.

📌 Если проверки, вычислительные ресурсы и доступ к сильным моделям останутся у крупных лабораторий и государств, независимая экспертиза станет редкостью, иначе есть риск оказаться в мире, где темп развития ИИ определяют только США и Китай, а остальные получают доступ по разрешению.
 
Источник: https://eyes.etecs.ru/r/084087
 
#ИИ