В Claude нашли лазейку для политических манипуляций

Перед выборами в США Anthropic изучила 250 тысяч диалогов с Claude. Около 5,75% разговоров касались политики, но совет, за кого голосовать, просили лишь в 0,01% случаев.

Интереснее другое: исследователи нашли способ обходить защиту от политических манипуляций. Claude отказывается создавать обманную кампанию целиком, но иногда помогает с её отдельными частями, не распознавая общего замысла.

Anthropic усилила фильтры, однако проблема остаётся актуальной: по одному запросу намерения человека не всегда понятны.

RAGNAROK | ИИ и технологии