А вам страшно использовать ИИ☠

Вчера общалась с предпринимателем из пиар-сферы, в компании которого активно внедряют нейросетки. Пара мыслей на подумать.

Который раз убеждаюсь в том, что о безопасности и стабильности нейросеток начинают задумываться только тогда, когда придут люди в погонах. И здесь нет ничего удивительного. Чтобы думать о безопасности и стабильности нужно иметь бюджет, время и экспертизу. А о какой экспертизе может идти речь, если сама сфера новая и непонятная.

Плюс, мне кажется, у нас уже вырабатывается своего рода толерантность к утечке наших данных. Ну позвонили мне раз 20 из ПромБромПук банка, ну и что? Кто сейчас вообще разговаривает по телефону?

Также, вижу тенденцию “я посмотрю как другие с этим работают, если у них ничего не отвалится, то и я буду внедрять”. Тоже вполне логично. Только есть одна маленькая деталь – все боятся. Когда доходит до агентных автономных систем, по типу Hermes, OpenClaw и тд., тут уже все стали думать про безопасность.

Думаю, нужно делать инструменты-фильтры для работы с этими инструментами. А то, ты ему пишешь “не трогай”, а он тебе “хорошо, я все сломал”. Как думаете?