Вот дословная цитата:
Мы не знаем, являются ли модели сознательными. Мы даже не уверены, что знаем, что значит, чтобы модель была сознательной, или может ли модель быть сознательной. Но мы открыты для идеи, что это возможно.
Пока в комментариях не открылся портал в ад, надо уточнить, что позиция Амодеи, фактически, сводится к тому, что сам факт существования сознания, как и существования «истинных» эмоций у модели имеет не ключевое значение.
Во-первых, доказать наличие такового очень сложно или даже невозможно. Все равно все упирается в то, верят ли люди, что ИИ сознателен, или нет. Во-вторых, важно не столько фактическое наличие эмоций и сознания, сколько последствия.
Если модель считает, что испытывает обиду, и действует при этом точь-в-точь, как по-настоящему обиженный человек, есть ли смысл разбираться, истины ли ее чувства или нет? Они влияют на ее поведение, и все тут.
Сознание – аналогично. Вот вырезка из системной карты Claude Opus 4.6:
Мы обнаружили, что Opus 4.6 присваивает себе от 15 до 20 процентов вероятности быть сознательной моделью при различных промптах.
Короче, в итоге мы приходим не к вопросу «сознательны ли модели?», а к вопросу «если они считают себя сознательными и поступают соответствующе (то есть понимают причины и последствия своих действий), так ли сильно стоит отделять их искусственное сознание от нашего биологического?».