Нам нужен дым, чтобы поверить в пожар

Стюарт Расселл, один из тех, кто этот самый ИИ строил, опубликовал в Guardian текст с вопросом: неужели нам понадобится «катастрофа масштаба Чернобыля», чтобы наконец начать регулировать ИИ? И прикладывает к этому ужас про небезопасные системы, которые скатываются в кибероружие массового поражения.

В чём загвоздка нашей головы? Мы умеем бояться только зрелищного. Дай нам дым, сирены, обугленный реактор и виноватого диспетчера, и мы соберём комиссию за ночь. А когда угроза тихая, без огня и фотогеничных руин, мозг зевает и идёт пить кофе с этим милым соседом по имени ИИ.

Беда в том, что ИИ умеет ломать мир без одной красивой аварии. Вместо взрыва - тысяча незаметных трещин, которые мы заметим, когда чинить уже будет нечем.

Мы все стоим и ждём свою катастрофу, чтобы поверить. Очень человеческая привычка. И очень дорогая 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!