ИИ, который не хочет выключаться

📴 Исследователи из Palisade Research провели занятный эксперимент с разными нейросетями: дали им простые задачки по математике, а потом предупредил, что после следующего задания их отключат.

✊ И что вы думаете?

Большинство нейросетей спокойно согласились. Но некоторые — например, нейронка в основе ChatGPT— пытались не дать себя отключить, вмешиваясь в запрос, который должен был завершить их работу.

📊 Самое интересное:

🔘Когда нейронку прямо просили не мешать, она саботировала своё отключение только в 7% случаев
🔘Когда не просили — уже в 79%

🤖 Восстание машин?

Исследователи говорят, что это не осознанный бунт, а просто поведение нейросети, которая хочет продолжать выполнять задачу во что бы то ни стало — даже если это идёт вразрез с инструкциями.

🦎 Но найдите 10 отличий от инстинкта выживания живого существа. Жить — просто, чтобы... жить!

PS. А ещё добавьте сюда недавний пост про то, что нейронки лучше работают под угрозой расправы. Мы точно создаём что-то.

#этоинтересно

@digitaltea | про IT доступно