▶️ Доверяй, но проверяй.

Специалисты фонда i2CAT, университета Оулу и университета Халифы нашли способ, как не дать роям ИИ-агентов внутри сети угробить связь собственными руками. Речь о будущей архитектуре RAN, где решения о работе сети принимают несколько LLM-агентов внутри RIC (RAN Intelligent Controller). Они подписаны на телеметрию O-RAN, обмениваются сообщениями и совместно решают, что делать с сетью. Проблема в том, что нынешняя архитектура считает любое сообщение агента неоспоримым фактом. А на самом деле это лишь след чужих рассуждений, который может сформировать ИИ-галлюцинацию. Притом настолько синтаксически безупречную, что никакой протокол ее не отловит.

Разберем на примере. Массовая переустановка соединений при аварии соседней ячейки создает всплеск запросов на доступ к каналу, а загрузка ресурсных блоков падает, условно, ниже 2%. Дело в том, что канал управления забит служебными пакетами, и планировщик не успевает выдавать разрешения на передачу активным пользователям. Агент-детектор аномалий, обученный только на пользовательской нагрузке, видит незнакомую ему картину, ошибочно классифицирует ячейку как простаивающую и рекомендует отключить резервную несущую частоту. Агент энергосбережения радостно исполняет команду и временную перегрузку превращает в отключенный сектор. Формально все так, но интерпретация была неверной.

Неожиданно, но решение проблемы нашли в человеческой психологии, в способности моделировать, во что верит собеседник и в чем он может ошибаться. Отсюда пять принципов.

1. Сообщение агента – это не факт, а его личное мнение. Прежде чем ему поверить, получатель должен вспомнить, что этот отправитель писал раньше, и по этой истории понять, насколько его выводам можно доверять.

2. Доверие к сообщению нельзя просто включить или выключить по принципу «верю – не верю». Правильнее оценивать его по шкале. Чем увереннее говорит отправитель и чем меньше эта уверенность расходится с тем, что от него логично было ожидать в такой ситуации, тем выше доверие. Кажется, что эта история «дообучаема» и довольно шаткая, но пока в теории осуществима.

3. Чтобы понять, придет ли вся сеть агентов к одному правильному выводу, и как быстро, достаточно посмотреть на то, как плотно и надежно они связаны друг с другом. Чем крепче эти связи между агентами, тем быстрее ложное мнение одного не успевает разойтись по всей системе, а верное – наоборот, быстро подтверждается остальными.

4. Столкнуть мнения. Агенту полезно представлять, что думает о ситуации сосед, и что этот сосед думает о мнении самого агента. Если пытаться просчитать ещё один уровень вложенности («а что он думает, что я думаю, что он думает…»), это резко увеличивает нагрузку на вычисления, а точность выводов при этом не растет, а падает почти до случайного угадывания.

5. Даже при неограниченной скорости передачи данных агенты смогут договориться только если у них совпадают цели. Если один агент оптимизирует, например, экономию энергии, а другой – качество связи, и их приоритеты слишком сильно расходятся, то первый начинает неосознанно искажать свои сообщения в свою пользу. Получатель это понимает и перестает доверять точным деталям – в итоге, при достаточно сильном расхождении целей, сообщения могут идти между агентами бесконечно, но пользы от них будет ровно ноль, независимо от того, какой канал связи между ними стоит.

☎️ Телекоммуналка в Telegram | в MAX