Forwarded from Экспертное мнение финансиста
🅰️ Искусственный интеллект и человек
📌 Конативный разрыв, который сужается
В психологии психика делится на
🔸 знание (когниция)
🔸 эмоции (аффект)
🔸 волю (конативная сфера).
ИИ симулирует первые две, но у него абсолютно нулевая воля - пока мы говорим о пассивных чат-ботах. Однако в мире AI-агентов (систем с подкреплением, автономных роботов) появляется инструментальная агентность: они ставят подцели, выбирают маршруты, исследуют среду. У них нет любопытства как эмоции, но есть функция исследования, которая поведенчески становится неотличимой от любопытства.
👆 Агент исследует неизведанное не потому, что ему интересно, а потому что это максимизирует награду.
☑️ Конативный разрыв сужается: системы научились вести себя так, как будто хотят выжить, при этом у них нет субъективного «хотения.
✔️ Мы вступаем в эру, где воля ИИ - это математическая производная от целевой функции, и наша этика уже спотыкается об этот факт.
👉Продолжение в следующем посте
🅰️ Подписаться на канал можно здесь
#ИИнтеллектЧеловек
📌 Конативный разрыв, который сужается
В психологии психика делится на
🔸 знание (когниция)
🔸 эмоции (аффект)
🔸 волю (конативная сфера).
ИИ симулирует первые две, но у него абсолютно нулевая воля - пока мы говорим о пассивных чат-ботах. Однако в мире AI-агентов (систем с подкреплением, автономных роботов) появляется инструментальная агентность: они ставят подцели, выбирают маршруты, исследуют среду. У них нет любопытства как эмоции, но есть функция исследования, которая поведенчески становится неотличимой от любопытства.
👆 Агент исследует неизведанное не потому, что ему интересно, а потому что это максимизирует награду.
☑️ Конативный разрыв сужается: системы научились вести себя так, как будто хотят выжить, при этом у них нет субъективного «хотения.
✔️ Мы вступаем в эру, где воля ИИ - это математическая производная от целевой функции, и наша этика уже спотыкается об этот факт.
👉Продолжение в следующем посте
🅰️ Подписаться на канал можно здесь
#ИИнтеллектЧеловек
- ✍ 2
- 👍 2
- 💯 2

