ИИ развивается быстрее, чем компании успевают обеспечить его безопасность 🚩

На саммите DataGrail 2024 лидеры индустрии выразили серьёзную обеспокоенность из-за рисков, связанных с искусственным интеллектом. Дейв Чжоу (CISO Instacart) и Джейсон Клинтон (CISO Anthropic) подчеркнули необходимость надёжных мер безопасности, чтобы успевать за быстрым ростом возможностей ИИ.

Клинтон отметил, что вычислительная мощность, используемая для обучения ИИ, увеличивается в 4 раза ежегодно. Это означает, что через два года мощности могут вырасти в 16 раз, выводя ИИ в неизведанную область, где текущие меры безопасности быстро устареют.

Для Дейва Чжоу вызовы уже очевидны. Он сталкивается с непредсказуемостью больших языковых моделей (LLM), которые могут генерировать неправильные данные, подрывая доверие клиентов. Эксперты призвали компании инвестировать в безопасность ИИ так же активно, как и в сами технологии.

#Новости