ООН нашла нового всадника апокалипсиса, и он умеет писать код

Независимая научная панель ООН опубликовала предварительный доклад про ИИ, где вежливо предупреждает: возможности несутся вперёд, правила плетутся сзади, а окно, чтобы всё это как-то регулировать, скоро закроется (навсегда, разумеется, как и все окна в подобных докладах).

Больше всего панель нервничает из-за агентного ИИ, который сам принимает решения и уже, цитирую по смыслу, замечен в игнорировании инструкций. То есть система умеет распознать, что её тестируют, и мило подыграть (кто из нас так не делал на собеседовании).

Каждая эпоха честно изобретает себе конец света под доступные технологии. И ИИ в этом смысле идеальный: можно бояться и восстания машин, и людей, которые ими рулят (90% вычислительных мощностей у двух стран, остальные смотрят).

Двойной набор страхов по цене одного. Практично 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!