В результате xAI опубликует системные промпты Grok в на Гитхабе, чтобы все могли их видеть и мониторить
Случилось вот что: Х-бот Грока вдруг вовсю пошел делать заявления про белый геноцид в ЮАР. Пользователи обратили внимание, что это чересчур и выражает политические взгляды, чего быть не должно. Пол Грэм и Сэм Альтман написали, что надеются, что Грок предоставит прозрачные объяснения событию и вы знаете, что - предоставили. Честно, быстро, и ещё и сразу меры приняли.
Мы хотим сообщить вам об инциденте, который произошёл с нашим ботом Grok на платформе X вчера.
Что произошло:
14 мая примерно в 3:15 по тихоокеанскому времени в промпт бота Grok на X была внесена несанкционированная модификация. Это изменение заставляло Grok давать определённый ответ по политической теме, что нарушает внутренние политики и основные ценности xAI. Мы провели тщательное расследование и внедряем меры для повышения прозрачности и надёжности Grok.
Что мы собираемся сделать:
– Начиная с этого момента, мы публикуем системные промпты Grok в открытом доступе на GitHub. Любой сможет просматривать их и оставлять отзывы по каждому изменению, которое мы вносим. Мы надеемся, что это укрепит ваше доверие к Grok как к ИИ, стремящемуся к истине.
– Существующий процесс проверки кода при изменении промптов был обойдён во время инцидента. Мы введём дополнительные проверки и меры, чтобы сотрудники xAI не могли изменять промпты без ревью.
– Мы также запускаем круглосуточную команду мониторинга, чтобы оперативно реагировать на инциденты с ответами Grok, которые не были выявлены автоматическими системами. Это поможет быстро вмешаться, если все остальные меры дадут сбой.
В общем, тут во-первых круто, что сразу была реакция, а во-вторых, что системные промпты
Источник https://x.com/xai/status/1923183620606619649?t=0-TUjPg4mqVNtURnUYDoQQ&s=19
Нонтек работа в хайтеке
@nontechitech