Можем ли мы использовать ИИ для развития, сохраняя собственное суждение?
#EPC_Academy

Нашли интересный пост: «ИИ как угроза человечеству?». Во многом автор прав, но все же есть несколько комментариев.

Первый:
Слепого доверия результатам работы ИИ необходимо избегать. Уже развиваются системы независимого контроля за счет использования одной или нескольких других ИИ моделей для перепроверки результатов (правда точность около 50%, но это только начало).

Главное, чтобы ИИ для контроля не стала «договариваться» с контролируемой ИИ. В любом случае, финальное решение по ключевым, критическим вопросам должно оставаться за человеком.

Человеку не требуется осмыслять весь произведённый ИИ контент. Но необходимо определить, какая информация допускается к принятию значимых решений, как она проверяется, и кто отвечает за последствия.

Второй:
ИИ - это виртуальность, лишенная материальности, а значит реальный мир быстро вскроет ошибку, да, через потери, но быстро. Человек мгновенно учится на своих ошибках, у нас есть инстинкты и болевой порог, у ИИ этого нет.

Нам нужна система короткой обратной связи на решения/действия ИИ. Предлагаемый алгоритм определения скорости реакции на деструктивные действия ИИ: «Время обнаружения + время проверки + время вмешательства должно быть меньше времени до недопустимого ущерба».

Третий:
Проблема по имени «ИИ» - это не противопоставление людей и искусственного интеллекта, а поиск баланса между возможностями ИИ и рисками для людей.

Сначала ИИ даст всем равные возможности доступа к информации. То есть снизит порог доступа к знаниям. Потом, все зависит от конкретных общностей (групп, правителей и тп) как они воспользуются новыми возможностями. Мы (человечество) слишком фрагментарны и неоднородны как по развитию, так и по возможностям.

Те, кто сможет дополнить свои природные и приобретенные навыки с помощью ИИ, именно дополнить, а не заместить, те и выиграют новую битву за мировое господство.

Четвертый:
В обсуждении схемы «ИИ-Человек» нельзя воспринимать роль человека только как функцию обрабатывать информацию и выполнять расчёты.

Нужно учитывать его творческую инициативу: стремление ставить собственные вопросы, создавать новые замыслы и определять, ради чего их воплощать.

Человек существо не только рациональное, но и эмоциональное. ИИ - это только цифра. ИИ может найти оригинальное решение, но он не сможет определить для людей мечту.

У нас есть творческая инициатива, стремление формулировать новые вопросы, создавать новые смыслы, определять цели. Может ли ИИ совместить цифру и эмоцию? Не факт. Эмоциональный интеллект и творческое начало станет основным препятствием по «отуплению» человечества с помощью ИИ.

Мы можем делегировать ИИ часть вычислений, сохраняя способность поставить задачу, проверить допущения и оценить результат. Да, может мы и перестанем «уметь» расчитывать конструкции строительных балок и доверим это ИИ. Так же, как сейчас мы не складываем/умножаем цифры в столбик, а используем калькулятор не вдумываясь, как он это делает.

Но зато мы сможем с помощью ИИ получить главный и невосполнимый ресурс - дополнительное время. Направим ли мы его на развитие новых навыков и саморазвитие - сможем ли воспользоваться этим дополнительным ресурсом, вот в чем вопрос?

Пятый:
Признавать возможности ИИ — значит серьёзно относиться и к его опасности.

Главное понять - мы можем и должны управлять и ограничить ИИ, безответственно думать, что у нас есть для этого время!