Moonbounce привлекла $12 млн на ИИ-модерацию в реальном времени

Стартап Moonbounce привлек $12 млн на развитие своего движка, который превращает правила модерации из длинных документов в исполняемую логику для ИИ. Раунд совместно возглавили Amplify Partners и StepStone Group.

Проблема, на которую делает ставку компания, очень показательная. По словам основателя, раньше модераторам приходилось держать в голове 40-страничные правила, переведенные машинным переводом, и за 30 секунд решать, нарушает ли контент политику платформы и что с ним делать дальше. Точность таких решений была чуть выше 50% - по сути, почти как подбрасывание монеты.

Moonbounce предлагает другой подход в системе заранее. Компания обучила собственную языковую модель, которая анализирует документы с правилами клиента, оценивает контент в реальном времени, дает ответ за 300 миллисекунд и сразу запускает нужное действие - замедление распространения, отправку на ручную проверку или мгновенную блокировку.

Сейчас Moonbounce делает более 40 млн проверок в день и обслуживает платформы с совокупной аудиторией более 100 млн активных пользователей в день. Среди клиентов - Channel AI, Civitai, Dippy AI и Moescape.

Безопасность в ИИ-продуктах больше нельзя оставлять «на потом». После историй, где чат-боты подталкивали подростков к самоповреждению, а генераторы изображений обходили защитные фильтры, модерация перестает быть просто служебной функцией. Она становится частью самого продукта.