Вкратце про читающий мысли ИИ

На хабре вроде бы неплохой перевод очередной статьи про искусственный интеллект, читающий мысли.

На этот раз операторы электроэнцефалогрофа показали двум испытуемым шесть клипов – три "положительных" и три "отрицательных". В чьей оценке положительных и отрицательных? В оценке исследователей, вероятно. Дальше засунули данные в волшебный чёрный ящик ("машинное обучение"), взболтали, перемешали, и на выходе получили статистическую модель (такое название корректно для получившейся программы, поскольку ни к обучению, ни к интеллекту она и косвенно не относится), которая на основе обработки 70% данных очень хорошо предсказывает оставшиеся 30%. Т.е. может достоверно угадать, клип из первой группы или из второй смотрит субъект.

Укажу лишь на две проблемы этого исследования.

Первое – то, что обоим испытуемым давали одни и те же клипы (выбранные, по-видимому, исследователями), вопреки вероятным ожиданиям нейроучёных, не обеспечивает одинаковые условия эксперимента, а делает результаты полностью не валидными. Мысль о том, что есть "абсолютно универсально позитивные клипы", и что примером такого клипа является отрывок некоего американского мьюзикла, может прийти в голову только аутисту. Который даже сам не знает, когда он испытывает радость, а когда печаль, а у других людей органически не способен распознавать что-то более тонкое, чем открыто выражаемые общепринятые невербальные знаки (вроде растягивания губ до ушей или нахмуривания бровей к носу). Во фрагменте прыгают, улыбаются до ушей, поют в мажоре – ну, значит позитивчик, значит зритель будет тоже радоваться.

Второе – уже хуже, намеренное искажение. Нейроучёные добросовестно заблуждаются в отношении того, чем являются и как проявляются эмоции (не их вина, но их беда). Однако, будучи аккуратистами, не могут случайно перепутать важное отличие между "калибровкой" и "декодированием".

Допустим, нам достался для исследования системный блок футуристического компьютера, не понятно как изготовленного. Запустим на нём трёхмерную игрушку в один момент времени, и текстовый редактор в другой (программы были установлены поставщиком). Снимем на тепловизор внутренности системного блока. Зальём полученные данные в "машинное обучение", встряхнём, перемешаем, и опубликуем статью: мы разобрались в том, как работает этот инопланетный компьютер!

Нет, не разобрались. Мы смогли грубо отличить два режима его работы (причём только конкретного устройства, а не всей серии), но ни содержания того что там было на мониторе, ни протоколов взаимодействия частей устройства друг с другом, ни пользовательские интерфейсы мы не поняли. Вообще мы не узнали ничего.

Забавно, что почти всё что нужно для корректной постановки подобного эксперимента можно понять за минут 40 выполнения упражнений, типовых для обучения по тому или иному направлению психотерапии.

Кстати, нормального нейроучёного от аутиста довольно уверенно (в исследованиях по "чтению мыслей", "нейроинтерфейсам" и подобному) можно отличить следующим образом: аутист стремится залезть внутрь черепной коробки, а нормальный учёный отследить активность мышц. У человека со здравым смыслом нет проблемы сложить два и два и понять, что раз природа уже интерфейс ввода-вывода прикрутила к внутричерепному компу, то надо сначала с ним разобраться и потыкать его щупами, прежде чем лезть в ЦПУ с наноразмерными электрохимическими транзисторами.

#psychology #science