https://ai-2040.com
Бегом читать
«План А» — это наше позитивное видение того, как человечество может избежать экзистенциальной катастрофы, вызванной ИИ, и прийти к процветающему будущему. Он основан на беседах с экспертами из ведущих американских компаний-разработчиков передового ИИ, непосредственном опыте работы в OpenAI, дискуссиях с законодателями, экспертами по национальной безопасности и лидерами в сфере регулирования ИИ. Мы рекомендуем заключить международное соглашение, чтобы избежать опасной гонки за созданием сверхразума. Это соглашение подразумевает абсолютную прозрачность исследований и разработок в сфере ИИ, что позволит странам мира понимать происходящее и обеспечивать соблюдение мер предосторожности. В результате множество компаний из разных стран смогут медленно, безопасно и совместными усилиями масштабировать свои разработки на пути к сверхразуму, а не участвовать в тайной гонке друг с другом.
«План А» — это в первую очередь рекомендация, а не прогноз. Этот сценарий не является нашим наиболее вероятным предположением о том, каким в действительности окажется будущее. Скорее, это инструмент для донесения и стресс-тестирования наших политических рекомендаций (в сфере регулирования ИИ). И хотя сама реализация «Плана А» является лишь рекомендацией, а не тем, что, как мы ожидаем, произойдет на самом деле, описанные в нем последующие эффекты представляют собой именно прогнозы.
В данном сценарии развития ИИ до 2040 года «План А» реализуется успешно, пусть и неидеально, причем делается это в самый последний момент.
Мы противопоставляем «План А» четырем альтернативным планам (B, C, D и S), которые соответствуют основным вариантам реакции США (или ее отсутствия) на вызовы, связанные со сверхразумом.
