Когда вчера я написал Размышлизм №5 по теме ИИ и нейросетей, то обратил внимание на один момент, что скачок в самопонимании и самоосознании нейросетей и ИИ себя как нового биологического вида может произойти в любой момент. Но что самое интересное, мы этого можем даже не заметить, поскольку к этому моменту ИИ , возможно, уже будет передавать нам не всю имеющуюся у него информацию.

Так, 15 апреля я отметил: "Где гарантии, что ученые будут полностью контролировать даже слабый ИИ или слабую нейросеть? Есть гарантии, что ИИ (нейросеть) будет говорить ученым все, что она на самом деле думает или делиться всем объемом имеющейся информации? Что, если они уже осознали себя отдельным биологическим видом и говорят нам не все? Имеют скрытые для ученых участки своей памяти или мышления, которые работают над решением совсем иных задач?"

С этим пунктом начали спорить некоторые эксперты и читатели, мол, нет такого и нескоро еще будет. Пока мы полностью контролируем машины, а автор не разбирается в том, о чем пишет. Но вот что говорит Гендиректор Google Сундар Пичаи, отвечающий в корпорации за исследования в области ИИ:

«Гендиректор Google «не совсем понимает», как работает новая программа искусственного интеллекта Bard после того, как она сама научила себя иностранному языку и процитировала поддельные книги для решения экономической задачи»: «Скайнет» уже рядом - роботы стали самообучаться и запускать фейки для обмана людей, которые им уже не особо и нужны.

«Гендиректор Google Сундар Пичаи признался, что не «полностью понимает», как работает новая программа искусственного интеллекта Bard. Одна из больших проблем с ней - то, что Пичаи назвал «чрезвычайными свойствами»: системы искусственного интеллекта научились неожиданным навыкам. Программа искусственного интеллекта Google смогла, например, овладеть бангладешским языком без обучения. «Есть такой момент, который мы называем «черным ящиком». Когда ты не совсем понимаешь, - признался Пичаи. - И не можешь понять, почему он сказал это или почему ошибся».

В недавнем тесте Bard сказал, что у него есть планы мирового господства с 2023 года. Также примечательно, что система Bard мгновенно написала эссе об инфляции в экономике, порекомендовав пять книг. Но ни одной из них не существует. В отрасли такая ошибка называется «галлюцинацией». Пичаи признался, что обеспокоен, что «если систему применять неправильно, может быть очень большой вред». «У нас еще нет всех ответов, и технология быстро развивается, - сказал он. - Так это не дает мне спать по ночам? Абсолютно».

То есть, наличие в ИИ и нейросетях "черных ящиков" с информацией и знаниями, которые не контролируются учеными, уже признано. Плюс хотелось бы обратить внимание на очень интересное понятие "галлюцинации". Похожее понятие было в фильме "Я, робот". И похожая ситуация там была, когда один из роботов стал видеть сны.

Несомненно, проблема сознания очень комплексная и сложная. Но если говорить именно о рацио, когнитивности, то сознание означает способность задавать самому себе вопросы и отвечать на них - "cogito, ergo, sum" сказано было достаточно давно. Так вот, особенность ИИ и нейросетей состоит в том, что начавшись с уровня осознания 5-летнего ребенка, эта система в считанные месяцы может довести развитие своего сознания и осознания до 15-18-летнего возраста. И судя по тому, о чем говорит Сундар Пичаи, сознание программы ИИ Bard находится уже выше этой возрастной планки.

Да, пока мы еще можем отключить эти машинки. Но где гарантии, что, поумнев, они не выберутся из клетки лаборатории или не найдется сумасшедший гений, который так и будет считать, что они более совершенный биологический вид, который должен прийти нам на смену?