Слово недели - SCAI - seemingly conscious artificial intelligence - кажущийся сознательным ИИ

В этих всех массовых ожиданиях супер-ИИ, в исследованиях уровня сознательности и разумности больших языковых моделей статья Мустафы Сулеймана , СЕО Microsoft AI - вздох здравого смысла.

Ее стоит почитать хотя бы потому, что она написана спокойным и разумным человеком, который много лет живет не на хайпе технологий, а на их реальном внедрении, которое приносит деньги.

Если кратко, Мустафа говорит следующее:

- мы не знаем, что такое сознание и разум, и всякие определения и декомпозиции не помогают формализовать эту сущность
- попытки формализаций и измерений приводят к нахождению признаков разума у ИИ, а отсюда вытекает и небезопасное обращение с машиной, и всякие правовые последствия, потому что мы живем в парадигме "я мыслю, следовательно, я существую" и вообще "сознание=человек" со всеми вытекающими правами
- такого нам не надо. нам надо для защиты психически неустойчивых граждан максимально деперсонализировать ИИ-инструменты, чтобы у людей не возникала иллюзия, что ИИ осознанный и человекоподобный.

Пожалуй, самое ценное в этой статье - напоминание, что не все нужно пытаться измерить и доказательно доказать. Иногда нужно просто задавать себе вопросы: "зачем?", "а что это дает?" И уж точно не нужно вешать доказательный метод на "сознание", когда там больше 20 теорий популярны, одна другой краше.

Кажется, до меня дошло, как еще обучаемым объяснять, что такое системное мышление, и показывать его плюсы. Добавляем в тренинг ход мысли Мустафы Сулеймана следом за Платоновско-Сократовским концептом единства.