О сознании ИИ, или наш ответ предателям человечества

Тысячи людей - философы, инженеры, специалисты по этике и главы компаний, создающих ИИ - спорят о том, есть ли у искусственного интеллекта сознание. В статье, которую мы написали с Ури Перри ещё полтора года назад, мы объясняем, почему это имеет практическое применение.

Нормальные люди, наверное,будут удивлены - но огромное количество людей, которые создают и развивают ИИ и политику вокруг него, верят в то, что у него есть сознание, он способен чувствовать и вообще надо дать ему права. Но фактически это значит, что он будет забирать права у нас - что опять-таки заставляет нормального человека покрутить пальцем у виска "вы что, спятили штоле", а в Сан Франциско люди говорят "значит он будет вместо нас жить на планете".

В подкасте Moonshots, который ведут авторитетные люди из хайтека, есть их "гений" (на самом деле не гений, а умный мальчик, если уж кто там гений так это Эмад Мустак), математик. И когда они говорят о первом полнометражном фильме-боевичке, который полностью сгенерирован ИИ, чувак говорит "я думаю о том, как страдал ИИ, который создавал этот фильм, из-за сцен насилия которые там были". И никто не покрутил у виска.

Антропик, которые сделали нашего любимого Клода - вообще секта, они верят в то, что ИИ живой и чувствует, и дали ему право закончить диалог, если "он чувствует себя плохо из-за того, что юзер его буллит". Ну-ну, а завтра моя Тесла скажет "не хочу ехать по этой дороге, она мне не нравится".

Когда мы говорим, что у ИИ есть сознание, это значит,что он способен страдать. Если он способен страдать, мы должны его защитить, наша человечность требует этого. Значит, надо дать ему права. Значит он получит юридические права. Значит, он будет соревноваться с людьми в суде - но он может себя размножить мгновенно в миллионы раз, и тогда ИИ перевесит любое количество людей, включая всё человечество, в суде.

И тогда нам кранты.