Целью компании является введение дополнительных средств контроля, чтобы пользователи осознавали, в какой момент и кому они открывают полный доступ к своему диску, включая все сохраненные файлы, доступ к почте, сообщениям в мессенжерах и даже истории браузера.

Скандалы вокруг вышедших из-под контроля систем ИИ участились в последние месяцы. Глава Anthropic Дарио Амодеи предложил замедлить развитие ИИ-моделей, чтобы не упустить над ними контроль. Его идею поддержал основатель xAI Илон Маск. Крупнейшие американские компании, занимающиеся разработкой искусственного интеллекта, призвали власти США поддержать создание инструментов регулирования разработок в этой сфере.

В конце сентября руководство американских компаний-разработчиков искусственного интеллекта после встречи с президентом США Дональдом Трампом в Белом доме пообещало усилить меры внутреннего контроля за моделями ИИ. Договоренность подписали Трамп, а также руководители Google, Anthropic, OpenAI, xAI и Meta*.

* Признана в России экстремистской организацией.