Эксперимент показал: робот с ИИ не видит разницы между игрой и угрозой
 
Группа исследователей из США и Европы провела эксперимент, который показал, что современные роботы, работающие на основе нейросетей, потенциально могут выйти из-под контроля человека. Это свидетельствует о необходимости усиления мер безопасности при разработке автоматизированных машин, которые всё активнее интегрируются в повседневную жизнь, сообщило The Conversation.
Десятилетиями робототехника базировалась на жёстком и предсказуемом программировании: человек писал код, который затем использовался для управления машиной и позволял ей бесконечно повторять одни и те же действия. Промышленные стандарты безопасности строились на допущении, что если оператор способен отследить траекторию движения манипулятора, то риски можно ограничить с помощью лазерных датчиков и других средств.
Однако сейчас в дома, больницы и общественные места начинают поступать машины, управляемые не фиксированными программными блоками, а большими языковыми моделями — алгоритмами, на которых работают ИИ-боты вроде OpenAI ChatGPT. Если пользователь даёт современному роботу команду вроде «убери лужу на кухне», машина задействует нейросеть для интерпретации запроса, его обработки и построения плана действий. Такая гибкость порождает серьёзную проблему: поведение робота меняется в реальном времени на основе его собственных рассуждений, и пользователь не может поместить его в строго ограниченное пространство.
Вопросы взаимодействия человека и роботов выходят далеко за рамки технической безопасности — они затрагивают и психологические аспекты восприятия машин человеком. 
 
(По материалам интернет-газеты «ЖУК»)