Внезапно Папа Римский дал свой рецепт, как создать сильный ИИ

8 октября Папа Лев XIV открыл учебный год папских университетов с проповедью о разуме, вере и технологиях.

Его основная мысль была в том, что интеллект должен опираться не только на данные, которые алгоритм сегодня сопоставляет быстрее любого человека, а на память пережитого опыта - это то, на что способна распознать только человеческая душа.

Он противопоставил накопление информации и глубину переживания: «Всё доброе рождается из опыта, который однажды пережит, запечатлевается в сердце, а не просто индексируется».

Цитаты Папы, вырванные из контекста, мгновенно разошлись по соцсетям разработчиков, которые начали писать(см. скрин в комментариях), что Папа требует решить continual learning, хотя речь шла о другом - о природе человеческой памяти в отличие от машинной.

Вот в этом момент создаётся интересный эффект многозначительности: каждый читатель дописывает свой смысл в слова Папы и оттуда возникают такие реакции в соцсетях: «Папа требует решить continual learning», или«хочу стать католиком».

Получается, что каждый человек интерпретирует цитаты Папы через свою психологическую проекцию - то, что уже есть в его голове, а не то, что сказано Папой.

И это кстати не только про чтение чужих слов, так же работает и создание ИИ и многое другое. Разработчик закладывает в систему не нейтральные данные, а свою картину мира - то, что он считает значимым, какой опыт признаёт релевантным, какую память стоит хранить, а какую нет.

А если мышление создателя однополярно - замкнуто на чисто научном, вычислительном понимании интеллекта, то и система наследует эту узость: она сможет сопоставлять данные, но не распознавать то, что Папа называет глубиной пережитого.

Можно ли называть такую систему доверительным ИИ в смысле, который сегодня вкладывает в этот термин индустрия: безопасность, объяснимость, соответствие человеческим ценностям?