Короче, вчера на стриме увидел такое сообщение в чате:

«я нахожусь в чате вайбкодинг и там говорят то что ии делает безопасность слабую»

Хочу поделиться соображениями на этот счёт.

Предлагаю аналогию с безопасностью автомобиля. Представьте себе, что ИИ — это автомобиль. А безопасность — это то, насколько безопасно пассажиры доберутся из точки А в точку Б.

Что это за тип автомобиля?
Гоночный болид, гоняющий только по стадионам? Трактор? Автобус?
ИИ — это широкое понятие. Какие-то заточены на генерацию картинок, какие-то на написание музыки, какие-то для решения бытовых задач. Среди тех, которые используются для программирования, тоже есть разные вариации: для решения сложных архитектурных задач или для быстрой помощи в коде.

Какая у автомобиля марка?
На рынке много марок. В качестве примера можно взять Open AI и Antropic.

Какая у автомобиля модель и год выпуска?
Разные модели с разным уровнем размышлений очевидно выдадут разный результат.

Где автомобиль эксплуатируется?
Стоит в гараже? Едет по полю? Несётся по шестиполосной магистрали? В какой стране, по каким правилам, с каким движением?
Проект может делаться для себя и запускаться локально. Может делаться для широкого круга людей, но быть простым и информационным. Может быть платным сервисом с высокой степенью ответственности перед другими участниками рынка.

Кто за рулём?
Неопытный водитель или профессиональный гонщик со стажем?
Разумеется, результат работы нейронки будет в первую очередь зависеть именно от того, в чьих руках она находится.

Есть ли пассажиры?
Для многопользовательских проектов, да ещё и связанных с оплатой — требования к безопасности будут отличаться от «припаркованной в гараже легковушки» — локального приложения, работающего только на компьютере пользователя.

Поэтому для того, чтобы рассуждать о безопасности проектов, сделанных с помощью ИИ, нужно сначала озвучить вводные: что за проект, какие к нему требования, кто его делает, что использует для создания, какой организован процесс разработки. И без этих уточнений фраза «ии делает безопасность слабую» теряет всякий смысл.