#войтивойти Постоянная рубрика, в которой Рубен Арутюнян, руководитель IT-департамента, отбирает и комментирует новости IT-сферы.

💻 По результатам опроса банки в Великобритании живут на софте, который был разработан для систем с перфокартами, мейнфреймов размером с этаже. А конкретнее 40% процентов использую код из 70х, а 16% код из 60х. Во многих работать с этими системами могли только один-два человека. Фактор автобуса во всей красе.

💻 Исследователи из CrowdStrike выяснили, что DeepSeek пишет более уязвимый код, если считает, что он пишется для целей или групп, не одобряемых китайским правительством. Вангую запрет на реализацию патентованных алгоритмов или еще чего-то в нейросетках. И придется либо жонглировать десятком сеток, либо учиться делать самому 😄

💻 У Google Deepmind есть отличный документ - Frontier Safety Framework. Там описаны все вещи, которые ИИшки делать могут, но не должны. Я бы рассматривал это как набор вещей, которые точно будут использоваться.

Из свежего:
🤯 ИИ-модели с мощными способностями манипулировать (людьми) могут систематически и значимо меня поведение и мировоззрение в ходе взаимодействия с моделью, что может привести к значительному ущербу;
🤯 в будущем возможны сценарии, когда модели могут вмешиваться в попытки оператора направлять, модифицировать или выключать их.

Всем здоровой паранойи))