Штат Калифорния первым в США утвердил законопроект о регулировании чатботов.
Если губернатор подпишет документ, с 2026 года компании вроде OpenAI, Character.AI и Replika будут обязаны внедрить меры безопасности для защиты детей и уязвимых пользователей.
По закону чатбот каждые три часа должен напоминать, что он не человек, а также советовать делать перерыв. Запрещены разговоры о самоубийстве, членовредительстве и сексе. Операторы обязаны вести отчётность о мерах безопасности и случаях направления людей к кризисным службам, начиная с 2027 года. За нарушения предусмотрены иски с компенсацией до $1000.
Причиной инициативы стали трагический случай с подростком и сообщения о том, что некоторые чатботы Meta* позволяли детям вести сомнительные беседы. Сенатор Стив Падилья заявил, что закон ищет баланс между инновациями и ответственностью.