Дарио Амодеи, сооснователь Anthropic и один из главных участников гонки ИИ, неожиданно призвал замедлить развитие самых мощных моделей. По его мнению, возможности нейросетей растут быстрее, чем системы контроля за ними, и индустрии нужно выиграть хотя бы год или два, чтобы выстроить механизм регулирования. Заявление вызвало резонанс именно потому, что исходит от человека, который сам находится в авангарде этой гонки.
О тезисах Дарио Амодеи — в материале корреспондента Sostav Мирона Малафая.
По данным Anthropic, пользователи пытались использовать модель для проведения киберопераций, шпионажа и слежки, совершения мошенничества и исследований, связанных с биологическим оружием. Среди описанных эпизодов — анализ уязвимостей, автоматизация разведывательной работы и изучение вирусов и токсинов.
😀 Пожалуй, лучший канал о маркетинге в Telegram и в MAX