Нобелевский лауреат выкатил небольшое эссе и заявил, что абсолютно все модели, вне зависимости от страны и открытости кода, должны начать проходить процедуру тестирования перед выходом на рынок США.
Хассабис считает, что AGI – «дело нескольких лет», и сравнивает это не с Интернетом или мобильной связью, а с открытием огня или электричества. Цитата:
«Мы, по сути, нашли способ заставить песок думать. Это чудо»
Тем не менее, развитие обгоняет понимание технологии, и "никто в мире не знает наверняка, что будет дальше, даже эксперты расходятся во мнениях". Кибер-риски, на горизонте – био и ядерные угрозы, и все прочее.
Собственно, Демис предлагает новую структуру под названием Standards Body по модели FINRA (саморегулируемый орган финансовой индустрии в США). То есть независимый, финансируемый индустрией орган, подотчетный правительству США.
Лаборатории должны добровольно (😏) передавать модели на тестирование за месяц до релиза, и Standards Body будет тестировать их на угрозы всех сортов. Только после этого модель сможет получить статус «Frontier-class», а организация, ее разработавшая – «Frontier Lab».
Полный текст манифеста здесь
Мнения?