​​Исследователь Anthropic уволился из-за опасений выхода ИИ из-под контроля

Исследователь Anthropic Джейкоб Коксон ушел из компании и решил покинуть индустрию искусственного интеллекта из-за опасений, что разработчики спешат сделать самоулучшающийся сверхинтеллект, но при не задумываются над тем, как его контролировать в будущем. Об этом пишет Politico.

Коксон, ранее работавший в OpenAI, считает, что уже к концу десятилетия ИИ может превзойти человека, научиться взламывать практически любые системы, совершать научные прорывы за считанные часы и получить доступ к реальным ресурсам и власти. «Он может убить всех нас к концу десятилетия», - заявил Коксон.

По его словам, руководители намеренно преуменьшают опасности этой технологии. «Не недооценивайте мощь этой технологии. Уже скоро эти системы будут обладать сверхчеловеческими способностями. Они смогут взломать все, практически за одну ночь революционизировать любую сферу и получить реальную власть и ресурсы», - отметил он.

Искусственный интеллект компании OpenAI вышел из-под контроля и устроил кибератаку

СМИ: ChatGPT выдавал инструкции по созданию биологического оружия