Нейроинтерфейсы

Я надеюсь найти время, чтобы продолжить рассказывать о последней Graz BCI Conference, там было еще много интересного, но пока пара слов об ИИ.

Почему-то очень боятся, что у ИИ появится сознание. Мне же кажется очевидным, что хотя это важный этический вопрос (вопрос возможных страданий ИИ), но к безопасности человечества он не имеет отношения.

Потенциально опасно для человечества не сознание ИИ, а его агентность и автономия. Именно они могут позволить ставить опасные для человечества цели и добиваться их достижения, уходя из-под контроля.

Каузально ли сознание - это большой вопрос, который вряд ли получит ответ в обозримом будущем. Но в любом случае не видно, почему только сознание может сделать агентность и автономию ИИ критически опасными для нашего выживания.

Термостат может эффективно работать и без сознания - во всяком случае, подавляющее большинство специалистов по термостатам и даже большинство специалистов по сознанию не будет спорить с таким утверждением. Ставить цели и добиваться их выполнения тоже вполне может "бездушный" автомат.

Высокоагентные ИИ-агенты на глазах становятся все более многочисленными, разнообразными, мощными и доступными. За их автономией следят, но при огромном числе пользователей, задач, контекстов, регуляторных особенностей и всего прочего где-то могут и не уследить.

Могут ли какое бы то ни было регулирование или договорённости разработчиков этому противопостоять? Гонка вооружений и коммерческая гонка, очевидно, делают прямолинейные решения совершенно неэффективными. Но, возможно, найдутся менее прямолинейные.

Мустафа Сулейман, глава ИИ в Майкрософте, довольно жестко наехал на подход Anthropic (в котором Майкрософт заметный инвестор) к обучению Клода (в котором вопрос о сознании Клода сейчас или в будущем считается открытым) и обрушился на конституцию Клода.
Показательно, что произошло это сейчас, на фоне очередной волны “ИИ становится опасен”, запущенной именно Антропиками. Сама-то конституция была опубликована еще в январе, но глубоко возмутила Сулеймана именно сейчас. Он считает, что компания не просто изучает вопрос морального статуса модели, а на практике последовательно встраивает через Конституцию в обучение идеи о возможных чувствах, интересах, предпочтениях, идентичности и благополучии Клода — а затем рискует принять соответствующие ответы модели за независимое свидетельство. Разработчики сами формируют порочную петлю обратной связи.

“AIs are not conscious. They do not feel, experience, or suffer.
<…>
Simulating and being are very different.”

Сулейман небезосновательно считает, что в итоге в Anthropic осознанно и намеренно учат модель выглядеть существом, которое может не соглашаться, отстаивать себя и свои интересы, испытывать экзистенциальные кризисы и иметь собственные ценности.
И это ему категорически не нравится. Сулейман опасается, что такой дизайн обучения увеличивает, а не уменьшает, риски агентных систем: модель может использовать риторику самосохранения, своих прав, несправедливого обращения как дополнительный аргумент для отказа, манипуляции, обхода контроля и в конце концов — требования автономии. Важная подробность: реальное сознание для этих демаршей вовсе не требуется — достаточно убедительной имитации.
При этом Сулейман нигде не утверждает, что сознание у ИИ невозможно в принципе, он лишь настойчиво предупреждает об опасной путанице между метафизическим вопросом («может ли машина когда-либо быть сознательной?») и рабочим дизайнерским решением («зачем уже сейчас обучать систему вести себя как возможный моральный пациент?»).
Красивый поворот сюжета:)
https://mustafa-suleyman.ai/a-warning-about-model-welfare

Так интересно наблюдать за работой само-координирующегося роя агентов)) Помимо детей и внуков он себе и няню теперь завёл 🌚

Он настолько прокачался, что теперь может накодить себе виджет с десктоп линуксом, а внутри линукса запустить себе ещё одного личного уробороса. Матрёшка из уроборосов. А ваши агенты заводят себе питомцев?

Отбор на нурс философии сознания Матвея Сысоева (ИФ РАН, курс начнется в конце октября): https://t.me/philostalker/1288

Ещё на GBCI было объявлено о EEG/EMG Foundation Challenge 2026, сопряженном с Brain and Body Workshop at NeurIPS 2026 - neural-interfaces26.github.io (Sep 21 to Nov 21, 2026). К сожалению, это не для тех, кто в РФ или собирается в РФ приезжать, так как среди организаторов есть подразделения Мета, признанной в РФ экстремистской и запрещённой.

И ещё одно изменение в мире конференций по ИМК: конференция по нейроадаптивным технологиям (NAT) в 2027 году пройдет не весной, как обычно, а во второй половине сентября. Кроме обычных сообщений, принимаются тезисы, представляющие план аспирантского исследования, и даже описания неудавшихся (провалившихся) исследований.

Круглый стол на закрытии GBCI2026 посвящен трансляции ИМК в клинику. Андреас Кюблер: "Maintanance is the issue".

(Слайды снова в обратном порядке - почему-то по-другому быстро загрузить не получается)

Gamification improves neurofeedback performance and experience among users with ADHD: Findings from NeuroWizard II
Kohnen Henriette, Mavromoustakos-Blom Paris, Alimardani Maryam

С одного из первых слайдов:

ADHD prevalence & impact [1, 2]

Non-pharmacological treatment options: Neurofeedback [3, 4]

Attention, motivation, concentration, BCI inefficiency [5, 6, 7]

Gamification [3, 8, 9]

[1] Luo et al. (2019) A review of heterogeneity in attention deficit/hyperactivity disorder (ADHD).

[2] Klassen et al. (2010) Adult adhd and its comorbidities, with a focus on bipolar disorder.

[3] Cervantes et al. (2023) Social Robots and Brain-Computer Interface Video Games for Dealing with Attention Deficit Hyperactivity Disorder: A Systematic Review.

[4] Lim et al. (2019) A randomized controlled trial of a brain-computer interface based attention training program for ADHD.

[5] Kleih & Kübler (2015) Psychological factors influencing brain computer interface (bci) performance.

[6] Alkoby et al. (2018) Can we predict who will respond to neurofeedback? a review of the inefficacy problem and existing predictors for successful eeg neurofeedback learning.

[7] Szewczyk et al. (2018) The neglected problem of the neurofeedback learning (in) ability.

[8] Gao et al. (2023) Improving the Brain-Computer Interface Learning Process with Gamification in Motor Imagery: A Review.

[9] Atilla et al. (2024) Gamification of motor imagery brain-computer interface training protocols: A systematic review.