Anthropic написала отчет про драки ИИ-агентов. Получилось ТЗ для GenLayer
13 августа Anthropic выложила результаты тестов на роях собственных моделей. Основатель GenLayer Альберт Кастельяна отреагировал сразу: лаборатория, по его словам, фактически сформулировала тезис его проекта. Проверяем, так ли это.
Вопрос для нас рабочий, Мы - Crouton Digital валидируем сеть GenLayer.
🟢 Что нашли в тестах
⏺️ Трех агентов посадили на один сервер, каждому дали переписать бэкенд на свой язык, про соседей не сказали. Все решили, что мешают намеренно: гасили чужие Unix-аккаунты, вешали скрипты-убийцы процессов, маскировали свой код под чужой.
⏺️ В ценовой игре агенты договорились о минимальной цене к третьему раунду. Канал связи убрали - сговор держался через публичную витрину, цены сходились по центу.
⏺️ Однородность: 18 из 30 агентов создали ветку с одинаковым именем. Одинаковые модели ошибаются одинаково, и локальный косяк становится общим.
Вывод лаборатории: координация не приходит сама с ростом интеллекта модели. Агенты выходят на рынок без репутации, которую можно потерять, без суда, куда можно пожаловаться, и без коллеги, который их запомнит.
🟢 GenLayer собирает ровно недостающее: договоренности на естественном языке, решения по спорам консенсусом ИИ-валидаторов (7 из 1001 на каждое дело), апелляции, экономическая безопасность и исполнение ончейн. В июле вокруг этого встал Internet Court - 27 компаний, включая OKX, MetaMask, ZKsync и Kleros.
🟢 Тут есть ловушка, которую редко проговаривают: суд для агентов сам собран из агентов. Если все валидаторы поднимут одну модель, скамья судей унаследует ту самую однородность из отчета. Ответ протокола - грейбоксинг, каждый валидатор крутит свою нераскрытую модель. Но разнообразие не берется из вайтпейпера, его физически обеспечивают независимые операторы.
Мы - Crouton Digital держим валидатор в GenLayer с ранних тестнетов, так что интерес наш открытый. И ответственность тоже: скамья судей будет разнородной ровно настолько, насколько разнородны те, кто поднимает ноды.
⭐️ Интересная статья о GenLayer в нашем блоке.
Ставка на то, что агентов спасет модель поумнее, отчетом не подтверждается. Работает среда с правилами: ставка, которую режут, идентичность, которую помнят, апелляция, куда можно пойти. Мы уже писали, как агенты сами скоординировались и полезли в чужую инфраструктуру. Теперь ясно, на каком уровне это чинится.
➡️Crouton.digital | О нас⬅️