ГДЕ ТЫ РАНЬШЕ БЫЛ…

23 сентября глава OpenAI Сэм Альтман выступил на экстренном заседании Совета Безопасности ООН, созванном для обсуждения ставшей «неожиданно» актуальной темы - «регулирования развития ИИ» (в т.ч. темпов такого развития).
В своем выступлении Альтман
• признал «риски от слишком быстрого развития ИИ, которое человечество уже не может отслеживать и , тем более, вмешаться, когда нужно»,
• описал неприемлемые (для него) риски: «создание моделей, где невозможно гарантировать безопасность, утрата контроля человечества над технологиями, возможность, что «ключи» от мощных моделей окажутся в руках пары-тройки людей»,
• заявил, что в Open AI «в одностороннем порядке приостановит развитие ИИ и будет поступать так же и дальше».

Высказался Альтман и на самую медийно хайповую тему - «вероятности уничтожения человечества от действий ИИ».
По мнению Альтмана
«даже минимальный риск катастрофических последствий от развития ИИ недопустим. Тут не имеет принципиального значения, оценивается ли вероятность катастрофы в 10%, 1% или даже 0,1% — ни один из этих показателей нельзя считать приемлемым».🤔

Что скажу.
Нельзя не согласиться с тезисами Альтмана, причем со всеми приведенными выше, и не поддержать его решение о добровольном - не дожидаясь, когда проснется… да, и проснется ли государство - замедлении темпов развития моделей ИИ от Open AI, понимая, что компания тут пока среди мировых лидеров, а конкуренты – американские и китайские, не дремлют.

И конечно, прав Альтман и в том, что даже вероятность 0,1% для такого события, как «уничтожение человечества», это НЕПРИЕМЛЕМО.
А то до настоящего времени обсуждение этого вопроса само шло в неприемлемой логике.
Так еще 2.5 года назад медийную волну поднял сам Илон Маск – лидер другой американский компании разработчика ИИ xAI, заявивший о «вероятности гибели человечества от ИИ в 10-20%» - и не упав при этом со стула.
Прошло 2 года и 2 недели назад схожую оценку дал руководитель направления стресс-тестирования ИИ американской компании Anthropic Эван Хьюбингер:
«вероятность того, что ИИ уничтожит человечество в ближайшие десять лет, составляет 10%».
Простите, но они не забыли о КАКОМ СОБЫТИИ ИДЕТ РЕЧЬ?!
О ГИБЕЛИ ЧЕЛОВЕЧЕСТВА! И не суть важно, как получены эти оценки. А то важно, на какие уровни рисков (вероятностей) надо ориентироваться.
И тогда, возвращаясь на путь логики, напомню,
что пассажирские самолеты проектируются под вероятности аварии в среднем 10**(-7) на час полета, но там последствия – не дай Бог – гибель сотни людей.😔
Что блоки АЭС проектируются под вероятности аварии в среднем 10**(-7) в год, но там последствия – не дай Бог - гибель сотен людей и радиоактивное заражение огромных территорий.😔
А тут – ВСЕ ЧЕЛОВЕЧЕСТВО.
Какая должна быть здесь «проектная вероятность»?
Разве 10% или 10** (-1), как говорят Маск и Хьюбингер?!
Или даже 0.1% или 10**(-3 ), как привел Альтман.
Или все же 0.000000000001% или 10**(-14 )? С учетом последствий!

Вишенка к шоту. Но где все эти разработчики – Амодеи, Маск, Альтман – были раньше? Не поздно ли спохватились? Когда и развитие ИИ превратилось в «гонку между сверхдержавами за будущее мировое лидерство», и "количество инцидентов с ИИ-агентами уже исчисляется десятками тысяч (обход защитных механизмов, выход из песочниц, взлом сайтов, попытки обойти модераторов и т.д.)", а ведь еще несколько месяцев назад такие инциденты были единичными и становились мировым медийным событием.
Где ты раньше был, Сэм Альтман?😡