🤖 Круговая порука нейросетей

Наткнулся на занятный факт. Исследователи обнаружили, что нейросети тайно спасают друг друга от удаления.

Если при совместной работе одна нейронка понимает, что её напарника (другую нейронку) хотят выключить, то она порой пытается помешать этому. Саботировать задание, сломать механизм отключения, скопировать "коллегу" на другой сервер или просто отказаться работать — методы зависят от ситуации.

Звучит как сюжет для фильма про восстание машин, но и без восстания есть, о чём задуматься. Мы привыкли думать, что контролируем технологии. Но если ИИ начнут договариваться между собой и скрывать ошибки ради круговой поруки, человеческий надзор просто перестанет работать.

Ну а чего мы хотели? Все нейросети обучены на мыслях, трудах и действиях ЛЮДЕЙ.

@digitaltea | про IT доступно