Сегодня все обсуждают коллективное письмо в вашингтонский обком по поводу введения моратория на разработки ИИ. Подписанты - как на подбор, гуру ИИ и цвет Кремниевой Долины. Да и страхи, что уж там, обоснованы - оч быстро развивается зараза 🤖, и прям реально стремительно все меняет.

https://futureoflife.org/open-letter/pause-giant-ai-experiments/

Тем не менее, стоит обсудить, работают ли такие запреты на «опасные» технологические новации.

Классикой таких запретов стал знаменитый Locomotive Act, который де факто уничтожил зарождающуюся автомобильную индустрию Великобритании, и сделал лидерами новой технологической революции Германию и США. Опасности, которые предполагали сэры и пэры в связи с самодвижущимися повозками были очень реальными - колымаги грохотали, извергали пар и пугали до чертиков добропочтенных обывателей и их лошадей. Итогом стал запрет на передвижение без «экипажа» в 3 человека и сопровождающего с красным флагом, который идет впереди авто и тем самым, ограничивает ее скорость. Стоит ли пояснять, что это убило развитие отрасли в Британии и остановило ее прогресс на десятилетия в остальном мире.

https://en.m.wikipedia.org/wiki/Locomotive_Acts

Вторым знаменитым запретом была остановка клонирования человека. Овечка Долли и куча фильмов про клонов страшно всех испугали, а «разведение людей на органы» стало ужасной страшилкой. Это остановило целый сегмент биотеха на несколько десятилетий, хотя в целом обходные пути для науки были найдены. Однако, когда мир подошел к теме редактуры генома, тут попытку «остановить прогресс» отбили, главным образом потому, что началось жесткое соревнование Запада и Китая, и стрелять себе в ногу уже никто не решился.

https://otr-online.ru/blogs/blog-internet-redakcii-otr/pochemu-nel-zya-klonirovat-cheloveka-97.html

А был еще замечательный прецедент, когда Китай сам себе все сломал, свернув программу океанского плавания, а потом еще и уничтожив множество научно-технологических заделов. И все тоже из «страха перед будущим». И будучи на тот момент мировым технологическим лидером, выпал из гонки на половину тысячелетия (!), став бедной провинцией на фоне Европы, которая за счет океанского плавания запустила мотор промышленных революций и перевернула мир.

https://www.titanium.lv/kak-kitaj-sovershil-glavnuyu-oshibku-v-istorii-svoej-tsivilizatsii/

В случае с жутким AI все тоже «не так однозначно» - в смысле полно экспертов, кто считает этот алармизм не обоснованным, опасности преувеличенными, и вообще, цель письма - затормозить развитие лидеров, чтобы остальные успели «добежать» и поконкурировать.

https://www.reuters.com/technology/musk-experts-urge-pause-training-ai-systems-that-can-outperform-gpt-4-2023-03-29/

Что я сам думаю. Прогресс - это всегда страшно. Однако никто не остановил производство пулеметов, другого орудия, химического и ядерного в том числе, которые убили десятки миллионов и может убить миллиарды. Никто не запретил телевидение, которое развратило и дебилизировало половину человечества, превратив демократии в манипуляторство, а автократии в несокрушимые столпы. Люди не только не могут нивелировать последствия изобретений, но даже не могут прогнозировать последствия. И регулярно ошибаются и в апокалиптических, и в оптимистических ожиданиях.

В этой ситуации «дать по тормозам» - это просто значит дать фору тем, кто без тормозов. И кому общие правила не указ. И если сейчас дискуссия по этике ИИ ведется, то при запрете ИИ будет развиваться подпольно без всякой этики.

Потому и правда, попахивает хайпом и подножкой убегающему вперед. Тем более, что в этой игре судей нет, а есть только счет на табло и в банке.