Билл Гейтс заявил, что сочетание современного ИИ с людьми, имеющими злые намерения, способно привести к событиям с миллиардом погибших. Он требует обязательного государственного контроля и считает саморегулирование отрасли недостаточным.

Причём Гейтс здесь далеко не один. Ещё в 2023 году Сэм Альтман, Джеффри Хинтон, Йошуа Бенжио, Демис Хассабис и Дарио Амодей подписали заявление, согласно которому риск исчезновения человечества из-за ИИ следует поставить в один ряд с пандемиями и ядерной войной.

История в этом смысле довольно однообразна. Появляется новая мощная технология. Сначала общество видит в ней чудо. Затем обнаруживает способы убивать с её помощью. После этого начинается спор о запретах и контроле.

Трудно вообще назвать крупное изобретение человечества, которое при желании нельзя было бы представить орудием массового уничтожения.

Когда появился порох, он дал человечеству артиллерию и массовое огнестрельное оружие. Ядерная физика закончилась Хиросимой и Нагасаки. Авиация принесла пассажирские перевозки вместе со стратегическими бомбардировщиками. Химия дала лекарства вместе с боевыми отравляющими веществами.

Даже в Средние века новые военные технологии пытались ограничивать. Второй Латеранский собор в 1139 году запретил использовать против христиан арбалеты, назвав их применение «смертоносным искусством».

Теперь место арбалета занял искусственный интеллект.

Если следовать логике, что технология должна быть остановлена из-за того, что теоретически может привести к огромному числу смертей, человечеству пришлось бы когда-то отказаться от огня, металла, пороха, двигателя внутреннего сгорания, авиации, атомной энергии и значительной части современной химии.

Искусственный интеллект здесь вряд ли уникален. Уникальным может оказаться только масштаб последствий его применения.

@madam_secretar