Пока ажиотаж вокруг исследования "Что они делают в тенях" улёгся, мы подробно разобрались в методологии этой работы.

Авторы пользовались методом "снежного кома" — чтобы исследовать сеть телеграм-каналов с правым уклоном, Урман и Кац взяли за точку отсчёта канал австрийского идентариста Мартина Селлнера. Именно этот канал взяли, потому что среди ультраправых каналов у Мартина больше всего подписчиков — почти шестьдесят тысяч.

Начав с Селлнера и вооружившись телеграм-ботом, а также библиотекой Telethon, авторы начали анализировать, какие другие каналы и чаты упоминаются в канале Селлнера, какие упоминаются в тех, которые упомянул Селлнер, и так далее. Чем чаще сообщество упоминалось, и чем большее количество каналов/чатов на него ссылалось, тем вероятнее было его попадание в список.

Таким образом авторы собрали 53296 сообществ. В масштабах телеграм это не так много — но достаточно для выполнения задачи исследования, а именно: "анализ динамики развития ультраправых сообществ в телеграм в целом, и конкретно в период, когда такие сообщества начали банить в фейсбуке и твиттере".

Проблемы начались, когда авторы приступили к классификации собранных каналов/чатов по "категориям". Для этого их сгруппировали по принципу "кто кого чаще упоминает и на кого ссылается", причём тематику для каждой из групп назначили, посмотрев на самый крупный канал в группе.

По итогам классификации личный канал Павла Дурова, канал с репостами новостей из сообщества калифорнийского венчурного фонда (!) YCombinator Hacker News и сообщество с социалистическими мемами "Socialism Beer" попали в одну группу под заголовком "левые айти каналы", а информационный бот про коронавирус, техническая поддержка твиттера и канал про терроризм — в другую. Замечаете подвох?

Из-за особенностей метода, а также из-за отсутствия ручной калибровки (о чём авторы признались в твиттере), категории получились искусственными, грубыми, а где-то дажё лишёнными смысла.

Это не было бы проблемой, если бы авторы не давали на основе такого исследования рекомендации властям. В заключении к статье авторы предлагают "полисимэйкерам" быть осторожнее, и не банить все "ультраправые" сообщества сразу, как это сделали фейсбук с твиттером, а "банить постепенно, по несколько каналов". Это, по мнению авторов, затруднит создание новых сообществ и воссоздание прежних структур на новых площадках.

Проблема в том, что когда дело дойдёт до банов, кто-то должен будет отделить "ультраправый", "экстремистский" канал от обычного канала с котиками. Если этот кто-то к своей классификации подойдёт так же, как авторы — то есть воспользуется искусственной, созданной алгоритмом структурой, результаты будут катастрофическими.

Именно в этом заключается претензия — не только наша, но и всего сообщества. Если не подходить к таким вещам ответственно, и не включать человека в каждый этап исследования, есть все шансы, что наступление авторитарно-алгоритмического режима, который Урман и Кац активно критикуют в своих твиттерах, будет только приближено.

Валентин Ерохин