ИИ-помощник извиняется за то, что исключил другого человека из списка ожидания.
❔К чему может привести растущая автономность искусственного интеллекта?
С каждым днем жизнь дает все больше поводов для анализа влияний технологий ИИ на человеческое общество.
👤Недавний кейс: австралиец попросил своего личного ассистента, созданного с помощью Claud AI, забронировать ему место на одном из желанных утренних занятий в спортзале. Его ИИ-помощник нашел способ забронировать занятие в спортзале на несколько месяцев вперед, что было невозможно, благодаря уязвимости, обнаруженной в системе бронирования. Затем он пошел еще дальше и вычеркнул из списка ожидания человека, который был выше в очереди — хотя его об этом не просили.
⌨️Данный пример, свидетельствующий о растущей автономности агентов ИИ, может быть рассмотрен в контексте дискуссии о возможности/необходимости признания ИИ субъектами права. Но в данной ситуации очевидно, что внешне самостоятельные поступки ИИ-агента не являются ни волевыми, ни осознанными. ИИ решает задачу исходя из имеющихся технических возможностей, не соотносясь с ограничениями, устанавливаемыми людьми на основе законов и нравственности.
👮♀️Идеальный правонарушитель, нуждающийся в специальном контроле!
