🏛 Трилемма конституционного покрытия в управлении ИИ

Аудит конституций ведущих LLM показал: прописанные в них ценностные принципы покрывают лишь малую часть реального плюрализма человеческих ценностей и запросов пользователей. При этом внутри модельных семейств от версии к версии автономия систем в трактовке этих принципов снижается — модели всё точнее следуют заданному тексту, но сам текст остаётся узким. Это ставит вопрос: расширять ли конституции до подлинного плюрализма ценностей или вводить пользовательские настройки приоритетов. Либо провайдеры признают ограниченность единой конституции и дадут выбор, либо ИИ продолжит навязывать усечённый набор ценностей всем.

Полный разбор → https://icaig.net/ru/trend/concept-constitutional-coverage-trilemma

#ИКИИГУ #управление