Вообще данный запрос из абсурда ушёл в глубокое размышление на тему безопасности...

Конкретно в данном случае про то, что с одной стороны модель без цензуры должны не иметь цензуры, ведь в этом и её суть, но с другой стороны генерация подобного деструктивного контента недопустима (в чате были более опасные примеры ответов)

В итоге пока что мысли, что ответственность за ответ ИИ всё равно на том, кто задавал вопрос, но насколько это валидно, если сам человек думал, что ИИ посоветует не действия деструктивные, а условную помощь, что валидно даже при отсутствии цензуры, ведь это вопрос не цензуры?

Но как тогда это работает в рамках сервера, который предоставляет услуги? Модель ИИ не принадлежит владельцу сервера, сервер не несёт ответственность за запросы пользователя ведь не подразумевал конкретно такое использование, но опять же и пользователь мог не ожидать такого ответа, ожидая что ИИ выдаст совет по обращению к врачу, ведь запрос мог быть не как инструкция "Сделай", а как вопрос "Что делать если?"


В общем странный вопрос безопасности появляется: ограничивать модель, суть которой в том, чтобы быть без ограничений, либо ничего не делать и иметь подобные проблемы с моралью и этикой?