Вот на днях OpenAI спалил, что Рыбарь (ну, как СМИ, не конкретный человек) использовал ChatGPT для работы. То есть публично показали, что делают корреляцию между тем, что публикуется, и своими логами (которые хранятся, как бы вы этого не хотели) = способны идентифицировать клиента.
В то же время, но менее заметно, прошла фраза Anthropic в их тексте о том, как китайские вендоры LLM нагло и цинично обучают свои модели на их Claude. Фраза дословная:
By examining request metadata, we were able to trace these accounts to specific researchers at the lab.
Профилирование и де-анон клиентов. А что дальше?
Давайте по-честному. Когда обнаруживается новая уязвимость — никто не знает, была ли она ошибкой программиста или же была внесена туда специально, «внешними», скажем так, силами.
Когда американцы обвиняют/подозревают другие страны в том, что в их софте/железе есть или могут быть бэкдоры — это означает только одно: сами американцы делают то же самое. Секрет Полишинеля.
Хотите прогноза? Он есть у меня.
Профилирование клиентов + вайбкодинг рано или поздно приведут к тому, что начнут выявляться случаи, когда один и тот же код, написанный ИИ в одной организации, отличается от аналогичного (по задаче) кода, навайбкоженного в другой.
Ага. Отличаться именно наличием уязвимостей.
И кто докажет, что это просто потому что модель «недетерминирована» ? Представляете, какие горизонты тут открываются?
А теперь давайте подумаем, как с этим бороться будем?
@gostev_future