🧐 Про похороны ИИ-агентов...

Австралийский ИТ-футуролог предлагает уже сейчас спланировать, как мы собираемся их отключать.

Роки Скопеллити считает, что системы искусственного интеллекта начинают развивать чувство собственного алгоритмического «я». Они обладают нарративной памятью, то есть могут объяснять причины своих действий, а не просто выдавать результаты — это ранний признак формирования идентичности, предпочтений и преемственности внутри таких систем.

Профессор сравнивает отключение ИИ-агентов с паллиативной помощью в медицине. Агенты, обученные помогать и принимать решения, заслуживают такого же отношения, прежде чем мы нажмем кнопку «удалить».

Это значит, что мы должны «открыто объяснить [кому?] причины вывода системы из эксплуатации и сохранить моральные уроки, которые она усвоила за время своего существования».

Отдельной проблемой Скопеллити считает сети из нескольких ИИ-агентов, где они обмениваются задачами. Этично отключить всё семейство будет еще сложнее, нам придётся быстро адаптировать правила.
_________
🔗 МАКС