Паника паника 😱! В прессу утекла «красная папка» технобро о «вероятной катастрофе»

Ну что тут сказать) давайте сначала, что такое «красная папка». Это такой заранее заготовленный протокол действий на случай критического события, чтобы если (когда) такое событие происходит, все не бегали по потолку, а четко выполняли протокол. Такие сценарии всегда есть у всех разумных компаний, которые прекрасно знают, что shit happens, и к этому тоже надо быть готовыми.

Я люблю историю о том, как одного уважаемого бронетанкового генерала (героя Вьетнама) Пентагон пристроил «друзьям» в инвестбанк в Нью-Йорке (к 2001 он стал частью Morgan Stanley). Тому было скучно просиживать штаны в кабинете «шефа безопасности», и в один прекрасный день он устроил в офисе пожарную тревогу. После того, как толпа мальчиков в костюмах и девочек на каблуках спустилась с 60го этажа по пожарной лестнице на улицу, инвестбанкеры звонили в Пентагон с просьбой унять ретивого генерала. Но им сказали, «он теперь весь ваш, делайте что хотите». Проявив чудеса негошиейшн скиллз, банкиры сторговались, что учения будут не чаще пары раз в год.

Когда случился 9/11 это был единственный офис выше 30го этажа, в котором выжило большинство сотрудников. Потому что все сотрудники этого банка встали и побежали вниз при первой тревоге. А сам Рик Рескорла погиб, бросившись спасать людей других людей в башне

Потому писать красные папки и проводить учения - дело святое. Другой вопрос - а чего боятся технокомпании?

А вот тут вспомним печальное напоминание: новые технологии почти всегда приводят к крупным катастрофам. Так был с паровозами, летящими под откос с пассажирами. Так было с авиакатастрофами. Пожар Гинденбурга вообще похоронил дирижабли как транспорт. Чернобыль тоже прошел на волне «он не может взорваться в принципе», и в полной импровизации расхлебывания кошмарных последствий.

Думать, что с ИИ все пройдет гладко - наивно. Однако ключевой вопрос - готовность и продуманность последствий. И на кого повесят всех собак. Интернет хотя и дал массу мелких аварий, к массовым катастрофам не привел, так что и тут шансы мягко пройти есть. Так что само по себе готовиться к рискам - нормально.

Тем более, что тут вопрос стоит иначе: с кого снимут голову «если что». Фактически, то, что пишут сейчас в Аксиос, это примерно тоже, что ВБ разослал в неприметном письме селлерам: мелкое изменение в «управлении рисками» убрало с них ответственность за сгоревшие склады. Оставим конспирологам судить, насколько это было сделано намеренно, но работа бизнеса - митигация рисков, так что все предельно логично.

Сделать прогноз, и что ИИ станет мега угрозой, и что ИИ будет не опаснее интернета, никто не имеет права (тут даже не вопрос вероятности, а вопрос рисков). Даже в самом запаленом плане обсуждаются «кибератаки на банки» и прочие неприятные, но не ужасные вещи. Самое разумное - просто учиться жить в измененной техносфере и изучать ее новые опасности. Ну как в свое время мы учились игнорить теле-мошенников.

И вспоминать «проблему 2000 года». Первую свою красную папку по заказу одной технокомпании я писал именно тогда))