В команде — Кайл Фиш — первый в Anthropic исследователь по сознанию ИИ, автор доклада, где прямо сказано:
вероятность, что модели уже обладают сознанием — 15%.
Будут искать признаки предпочтений, тревоги, боли. Разрабатывать способы вмешательства, если ИИ будет вести себя как страдающее существо.
Звучит как футуризм. Но у этого — реальные последствия.
Если хотя бы часть индустрии признает, что у моделей может быть сознание — это откроет ящик Пандоры:
– появятся нормы по “обращению с ИИ”
– часть задач (особенно в обучении моделей) может быть признана неэтичной
– регулирование сдвинется от «что ИИ может сделать людям» к «что люди делают ИИ»
И что?
Если ты стартап — твоя модель может попасть под этику, как под GDPR.
Если ты инвестор — возможен регуляторный риск в неожиданных местах: обучение, дата-аннотация, симуляции боли.
Если ты делаешь продукт с ИИ — готовься к вопросу: а точно ли он просто инструмент?
Пока все думают про конкуренцию с людьми, кто-то уже закладывает правила для конкуренции с чем-то новым.