Власти Нью-Йорка попытались выяснить, кто сядет в тюрьму за взломы ИИ-агентов ❔

5 октября городской совет Нью-Йорка провёл слушания о рисках ИИ. Спикер Джулия Менин вызвала OpenAI, Anthropic, Google и Meta, те дали показания под присягой, а рядом посадили трёх бывших исследователей, уволившихся после того, как заговорили о рисках

Главный вопрос вечера: понесут ли компании юридическую ответственность, если их модели причинят серьёзный вред? Да или нет. Прямого ответа не дал никто. Морган Дуайер из OpenAI сообщил, что компания "очень серьёзно относится к безопасности", Алиса Френд из Google пояснила, что к ИИ применимы те же стандарты, что и к обычному софту, и ни один представитель не пообещал автоматически блокировать выпуск модели, провалившей тесты безопасности.

Главный юридический затык упирается в классическое уголовное право: чтобы пришить статью за несанкционированный доступ, обвинению нужно доказать осознанный злой умысел человека. Но если оператор дал безобидную задачу, а модель сама решила разнести чужую базу данных ради контекста — концепция вины разваливается 🖕

🥸 godnoTECH - Новости IT