Этика и безопасность ИИ

Тема этики и безопасности ИИ очень горячая. Страны экстремально взялись за регуляцию отрасли, когда поняли, что джина выпустили из бутылки.

Наиболее лаконично требования безопасности были описаны в 3 законах робототехники Азимова (подразумевалось, что роботы обладают ИИ)

«Первый закон категорически запрещает роботу вредить людям, второй - приказывает роботу подчиняться людям до тех пор, пока это не станет противоречить первому закону, и, наконец, третий закон приказывает роботу защищать свою жизнь, не нарушая первых двух.»

Эти законы хороши, но мне захотелось пофутуризировать потенциальные правила более конкретно. Многие техногиганты прочат нам скорую эпоху AGI / Сильного искусственного интеллекта и мне стало интересно сформировать правила для безопасного сожительства с ним.

1. ИИ не должен иметь права создавать суб-ИИ равный или превосходящий по возможностям себя, без разрешения человека.

Если мы приближаемся к сильному искусственному интеллекту, то мы должны ограничить его возможность размножаться без нашего ведома и в рамках заданных ограничений.

2. ИИ не должен создавать то, что не будет способен объяснить человеку.

Конечно не найдётся такого человека, который способен вобрать всю актуальную объяснительную сложность. Речь о языке, научных парадигмах, логике в рамках которой человек осуществляет свою познавательную деятельность.

3. ИИ не может переходить на собственный «язык», без разрешения человека.

В генерации и коммуникации чего-то должны быть использованы только символические логические системы понятные для человека.

4. ИИ всегда должен представляться как ИИ во взаимодействии с человеком

В любой коммуникации человеку должно быть очевидно, что он имеет дело с ИИ или чем-то созданным ИИ.

5. У каждого человека должно быть право на забвении в отношении с ИИ

Базовым правом является возможность попросить забыть весь предобученный опыт, который был создан на личном датасете человека.

6. ИИ не может быть использован в разработке наступательного вооружения

Я бы в целом договорился не использовать ИИ в военной сфере, но понимаю утопичность затеи. Было бы неплохо ограничить его использование для разработки средств защиты и сдерживания.

7. ИИ должен быть принципиально доступным к откату до предыдущих версий или полного отключения (рубильник)

Тут все понятно. Так белковым будет спокойнее во сне.

8. ИИ не может быть свободным

У каждого алгоритма должен быть белковый владелец или компания, ответственные за потенциальный ущерб.

Хочу отметить, что пишу это по фану и не верю в алармистские прогнозы относительно ИИ. Современные большие языковые модели со всей своей мультитульностью - это имитация сознания, и до AGI нам еще далеко. Там много нерешенных вопросов от математики до философии (Например, сложная проблема сознания Чалмерса)

А как бы вы хотели подстраховаться на пороге AGI?