Намедни большое число лауреатов медали Филдс (это у математиков как Нобелевская премия, только, пожалуй, ещё престижнее) опубликовали воззвание с предостережением по поводу опасностей Искусственного интеллекта. Почитать перевод можно у академика А.Р. Хохлова тут https://t.me/khokhlovAR/1350, здесь же ссылка на оригинал, см. также его размышления на ту же тему в следующих постах.
 
Перескажу своими словами: главную беду ИИ самые выдающиеся математики мира видят в том, что ИИ лишает человека способности к процессу познания и осмысления. Да, ИИ, пишут лауреаты Филдса, мгновенно (или очень быстро, но по человеческим меркам — это мгновенно) нашёл ответы на несколько сложнейших вековых математических загадок-задач. И тем самым «пропустил» весь процесс выстраивания логики поиска этих ответов. Меж тем как сам процесс поиска ответа позволял создать новые математические теории и инструменты, которые, в свою очередь, позволяли открывать новые области, создавали условия для новых направлений науки и знания (и не только математического).
 
Дело в том, что ИИ мгновенно находит ответ на сложный вопрос, причём, в математике — ответ верный (в гуманитарных науках совсем другой коленкор). Но математика — это не только и даже не столько наука нахождения ответа, сколько наука поиска ответа, наука построения моделей.
 
Но проблема выходит за пределы математической науки. Если ребёнку, при помощи какой-нибудь чипизации или прочих пока ещё научно-фантастических наложений матриц на сознание, мгновенно внедрить знание языка, профессии и базовых навыков (держать ложка и посещать отхожее место) — это будет не человек, а биоробот. Потому как человек состоит из способности к познанию и общению, к культурному (в узком значении) восхищению и духовному возвышению (см. моё эссе о духовности).
 
Библия так описывает становление человека: «Господь Бог образовал из земли всех животных полевых и всех птиц небесных, и привел к человеку, чтобы видеть, как он назовет их, и чтобы, как наречет человек всякую душу живую, так и было имя ей. И нарек человек имена всем скотам и птицам небесным и всем зверям полевым; но для человека не нашлось помощника, подобного ему». Процесс именования, проходящий перед Богом, есть процесс познания.
 
Бездумное использование ИИ — это низведение человека до уровня бессловесного. То есть до уровня животного. И даже хуже.