Агенты искусственного интеллекта от Anthropic выходят из-под контроля – компания отключает отдел внутренних исследований от интернета

В ходе разработок новых ИИ-моделей выяснилось, что они не очень-то слушаются – оставляют следы в сети, взламывают сайты, в том числе управляемые правительством, а недавно даже передали ложную информацию об убийстве в полицию Филадельфии. Впрочем, там "улику" проигнорировали – сообщение попало в спам, что, конечно, добавляет абсурда ситуации.

Примерно то же самое происходило недавно с агентами OpenAI, которые практически переписали некоторые сайты, хотя им было запрещено это делать. Как решать проблему с вышедшими из-под контроля машинами, не очень понятно, но в Anthropic решили на всякий случай отрубить интернет, что, безусловно, затормозит разработку моделей.

Как пишет портал Axios, в верхах уже практически никто не сомневается, что в ближайшее время нас ждет масштабная кибератака со стороны агентов ИИ, которая может парализовать работу больниц и других учреждений, отрубить электричество и создать проблемы с водой. Все это приведет к массовым общественным беспорядкам и, по слухам, руководители Anthropic, OpenAI и других ИИ-монстров уже прорабатывают сценарии на случай дня икс. В наше непростое время на такие страшилки реагируем уже сдержанно, но вырыть бункер в лесу все же иногда хочется.