Anthropic на прошлой неделе опубликовал исследовательскую повестку своего внутреннего исследовательского института TAI.
Четыре направления:
- как ИИ меняет экономику,
- какие угрозы он создаёт,
- как он меняет людей и общества,
- как он ускоряет собственное развитие.

Это единственный проект такого рода среди крупных компаний отрасли. У всех остальных либо декларации о намерениях облагодетельствовать общество или грантовые программы для покупки лояльности внешних исследовательских институтов. Тут внутренний орган с опубликованной повесткой, который смотрит на мир с позиции инсайдера и обязуется говорить об этом публично.
И сама повестка информативна.

Список вопросов, которые TAI считает важными, точно совпадает со списком вопросов, которые важны для бизнеса Anthropic.
Что происходит с рынком труда — как меняется концентрация занятости, что случается с профессиями, где младшие сотрудники традиционно служили сырьём для выращивания старших, кто вообще выиграет от диффузии ИИ географически. Это определяет регуляторное давление.

Какие угрозы создаёт ИИ в кибербезопасности и биологии - насколько «наступательные возможности» ИИ опережают оборонительные, как закрыть разрыв между темпом угрозы и темпом ответа. Как гармонизировать броню со снарядом таким образом, чтобы вместо «таблетки от рака» мы не получили биооружие в руках террористов.

Как автономные агенты взаимодействуют с правовыми системами, какие нормы возникают, когда агенты начинают взаимодействовать друг с другом, как встроить их в существующие режимы ответственности. Это определяет юридические риски.

Как ИИ ускоряет собственное развитие, есть ли архитектура для измерения скорости использования ИИ для улучшения самого, что вообще служило бы ранним сигналом сбоя траекторий рекурсивного самоулучшения. Это определяет конкурентную позицию и переговорные возможности с регуляторами.

Повестка читается как карта рисков компании, переведённая в язык общественно полезных исследовательских вопросов. Это не упрёк совсем. Компания честно изучает то, что ей важно знать. И делает это лучше, чем кто-либо другой в отрасли.

Но есть вопросы, которых в повестке нет. ❓

Что происходит с грамотностью детей в странах, где голосовые помощники появились раньше, чем закрепился навык чтения и письма. Как меняется способность к самостоятельному суждению у людей, которые с подросткового возраста делегируют формулировку мыслей языковой модели. Какие когнитивные навыки исчезают в первом поколении, выросшем с ИИ-ассистентами, и исчезают ли они навсегда или восстановимы.

Эти вопросы не в повестке, не потому что они неважны. А потому что ответы на них не нужны компании для принятия решений и потому что часть ответов могла бы указывать на то, что определённые продукты не стоит делать безусловно доступными. 

Компания, производящая гербициды, может открыть лабораторию по лечению видов рака, которые её продукты вызывают и работать в ней честно и профессионально. И мы такие случаи знаем. Такая лаборатория будет делать реальную науку и приносить реальную пользу. Вопрос о том, стоит ли производить онкогенные гербициды, она поставить не может, потому что финансирование идёт от продаж гербицидов.

Регулятора с мандатом на неудобные вопросы в ИИ не существует. Независимое финансирование для по-настоящему некоммерческих исследований полевых, долгосрочных, с контрольными группами в реальных школах реальных бедных (да и богатых) стран не существует. Государства, которые могли бы это организовать, либо сами заинтересованы в проникновении ИИ, либо не имеют методологического потенциала, либо и то и другое.

В результате, антропиковский TAI лучшее из того, что есть. Повестка института показывает не только то, что изучается. Она показывает форму того, что изучать в нынешней конфигурации невозможно.