Меня никогда не увлекала фантастика. Все эти роботы, звездолёты, внеземные цивилизации...
Всё это казалось каким-то надуманным, больше похожим на остросюжетную сказочку для романтично настроенных юношей.
Какие такие роботы, поработившие мир? Электроник что ли? Пффф…
Продолжалось это примерно до того момента, как мы купили робот-пылесос. И нет, никого из нас он не засосал, покромсав на куски под воинственные выкрики Алисы. Но меня восхитил сам факт наличия в доме кого-то еще — подвижного, способного Неодушевленного.
Затем в Казани мы прокатились на такси без водителя. Потом была собака породы «железный феликс», которая раскачивалась на своих шарнирных лапах и виляла пластиковым хвостом. Затем — официант в виде высокой тумбы, похожей на кота, с ушками и лапками, которого мои дети чуть не затискали до полной разрядки аккумулятора.
Количество объектов неживой природы, обладающих зачатками интеллекта, стремительно растет.
В отпуске я прочла криповый рассказ Харлана Эллисона «У меня нет рта, но я должен кричать». Хотелось отвлечься от
Так вот.
Всё это уже не очень похоже на сказочку. И, между нами — довольно пугающе.
Вкратце сюжет: ИИ уничтожает человечество, но не из-за того, что «сломался» или случайно нажал не на ту кнопку, а потому что изначально создавался как инструмент войны.
Если мы создаём технологии в логике войны, говорит нам Эллисон, они будут продолжать войну.
Если мы создаём их в логике тотального контроля — они будут контролировать.
Если мы учим систему, что ради «общего блага» можно пожертвовать человеком, однажды она может воспринять это слишком буквально.
И страшная сказочка станет явью.
Вывод номер один: опасен не сам ИИ, а цель, которую в него закладывают люди.
Вывод номер два: опасны люди, которые хотят получить идеальный инструмент власти и при этом надеются, что он останется послушным.
Вывод номер три: лучше бы я продолжала слушать Круга и Ротару. Потому что даже от осознания всего этого легче мне не станет, и тебе не станет, но не в этом сууууть…
#бринс_читает