Дарио Амодеи, один из создателей Anthropic, выкатил большое эссе об ИИ, рисках и будущем. Главное:
— Миллионы агентов, умнее любого человека и работающие в 10-100 раз быстрее, могут появиться уже через 1-2 года. Просто представьте 50 миллионов человек, которые способнее, чем любой лауреат Нобелевской премии — это то, что нас ждет.
— ИИ в Anthropic уже пишет большую часть кода, ускоряя разработку нового ИИ. Осталось 1-2 года до точки, где текущее поколение ИИ автономно строит следующее.
— Опасность в том, что такая сила будет использована во зло: для создания отдельными террористами биологического оружия, взлома компьютерных систем или даже использования целой страной этой силы для тотальной слежки за гражданами с помощью дронов, управляемых ИИ, а также для выявления нелояльности и пропаганды.
— Особенно Амодея напрягает Китай в этом плане. И поэтому он призывает не продавать им оборудование для ЦОД-ов. А также тщательно следить и даже контролировать стоит сами ИИ-компании — так как в их руках будет большая власть, которую также можно направить во вред. Поэтому все должны объединиться для регулирования ИИ.
— Амодеи считает, что 50% офисных позиций исчезнут в ближайшие 1-5 лет. Да и работяги с заводов тоже в опасности — их могут заменить роботы. Компании и государства должны заранее позаботиться о гражданах, чтобы избежать массовых увольнений и экономического коллапса.
✖️ xCode Journal