С заботой об ИИ

Только что в кембриджской серии по философии искусственного интеллекта вышла увлекательная монография «Emerging Questions in AI Welfare», суммирующая состояние, ключевые аргументы и дискуссии в формирующейся области «благополучия ИИ». Хотя в качестве аффилиации авторов, Джеффа Килинга и Винни Стрит, скромно указан Институт философии Университета Лондона, оба исследователя также работают в Google, будучи редкими гуманитариями, которые при этом являются инсайдерами.

Книга очень лаконичная и задумана скорее как введение, а текст идеален для быстрого погружения. Видно, что авторы стремятся к максимальной ясности, избегая при этом слишком категоричных утверждений. Основные главы посвящены вопросу поведенческих «доказательств» (т.е. тому, насколько можно принимать за чистую монету то, что модель сообщает о себе и своих состояниях), поиску субъекта благополучия (модели, персонажи, агенты и т.д.), фундаментальным условиям способности к благополучию и различным практическим аспектам. Авторы в целом склоняюсь к тому, что пока мы просто не знаем достаточно и действуем в условиях неопределённости, но принцип предосторожности и учёт ассиметричности возможных последствий требует серьёзного отношения и подготовки к сценариям, в которых искусственный интеллект окажется субъектом благополучия, причём некоторые меры, такие как сохранение весов моделей и мониторинг потенциально стрессовых состояний, следует предпринимать уже сейчас.

Сам я стараюсь оставаться максимально открытым в отношении сознания и морального статуса ИИ, хотя и нахожу, что специалисты из индустрии склонны недооценивать фундаментальность различия между кем-то и чем-то.

Geoff Keeling, Winnie Street. Emerging Questions in AI Welfare. Cambridge University Press, 2026. Книга доступна в открытом доступе на сайте издателя.