Агент-провокатор. Как нейросети превратились в главную фобию для своих создателей

Этим летом специалисты по искусственному интеллекту и главы крупнейших корпораций в этой области начали всё чаще бить тревогу об опасности ИИ. Свои эссе об этом публиковали главы OpenAI и Anthropic, а также рядовые инженеры. Они признают, что всё меньше контролируют развитие новых моделей, а случаев, когда агенты наносят ощутимый вред, становится только больше.

На этом фоне крупные игроки рынка выступили за внедрение общих правил и регулирования передовых моделей, а чиновники принялись писать новые законы о «безопасном ИИ».

Поговорили с экспертами в сфере ИИ, чтобы разобраться, действительно ли всё настолько плохо.