#войтивойти Постоянная рубрика, в которой Рубен Арутюнян, руководитель IT-департамента, отбирает и комментирует новости IT-сферы.

💻 На этой неделе у нас абсолютно безудержные новости. Начнем с самого веселого. Anthropic тут исследование провела и внезапно выяснила, что для "отравления" моделек нужно не предоставить для обучения некий процент некорректных исходных данных, а достаточно фиксированного количества. Примерно 250 штук. Почитайте исследование - крайне интересно.

Для тех, кто не в курсе: "отравление" - это намеренное вмешательство в набор данных для обучения с целью сместить выдаваемые моделью данные в какую либо сторону.

Ну, вроде бы страшно, но только в теории, да? Нет... Уже есть пример вполне успешной атаки на компанию, в том числе – с фактическим отравлением выдачи ChatGPT. Читать лучше самим, но я резюмирую: став модератором раздела Реддита (самый популярный в мире сайт, на секундочку), посвященного буткемпам для программистов, товарищ начал создавать посты о том, какая конкурирующая компания ужасная. Создал примерно 450 таких записей. Они пролились в ChatGPT, да и в целом их было много и они были отрицательные. Показатели конкурента упали в ноль.

Поле для различных вредоносных действий, банальных манипуляций при наличии административного ресурса и прочих неприятностей просто огромное.

💻 Разработчик поделился, как на интервью ему подсунули вредоносный код в надежде, что он его запустит. Он поделился этим в блоге и запрещённых соцсетях, где ему сказали, что это вообще уже почти стандартный вектор атаки, и у некоторых товарищей уводили данные таким образом. Тяжело быть программистом.

💻 Данные 70 000 человек, включая фото документов, утекли с платформы для общения Discord. А оказалось это всё там из-за законов UK о верификации пользователей. Было бы здорово, если бы на таких ошибках законодатели учились, но это маловероятно.

💻 Исследователи из университетов в Калифорнии и Мэриленде с помощью железок за 800 долларов перехватывали нешифрованные данные, передаваемые через спутники. В том числе и военные. Б – безопасность.