Краткая версия доклада:
Сэм Альтман предупреждает мир о Сэме Альтмане и говорит, что нам нужно остановить Сэма Альтмана, потому что Сэм Альтман не может остановить Сэма Альтмана.
Длинная версия:
🟣ИИ развивается слишком быстро, и если темп ещё ускорится, люди и институты могут перестать понимать, что происходит, и вовремя вмешиваться.
🟣Главный риск №1 — потеря человеческого контроля над всё более автономными системами, особенно если они приблизятся к самосовершенствованию.
🟣Главный риск №2 — концентрация слишком большой власти у одной компании, страны или человека с доступом к самым мощным моделям.
🟣Он считает, что нельзя оправдывать опасные эксперименты гонкой за прогрессом: если есть сомнения в контролируемости системы, её не стоит обучать или выпускать.
🟣Нужны международные стандарты безопасности, проверки, мониторинг и человеческий контроль над frontier-моделями.
🟣При этом он не призывает останавливать ИИ: его основной тезис — технология может дать новый «Ренессанс», если не превратится в источник хаоса и потери контроля.
источник: https://www.citybiz.co/article/908559/openai-ceo-sam-altman-addresses-un-security-council-on-ai/
запись выступления: https://x.com/cspan/status/2102851849066107252/video/1
Подписаться