Демис Хассабис объяснил разницу между суперкомпьютером и сознанием

Глава Google DeepMind и свежеиспеченный нобелевский лауреат Демис Хассабис решил немного остудить пыл тех, кто боится скорого появления живых нейросетей.

Выступая перед студентами Стэнфорда, он выдал мощную философскую базу: создание универсального суперинтеллекта (AGI) и наделение его сознанием — это две совершенно разные задачи. И если первую человечество уже активно решает, то вторая — это "второй Рубикон", переходить который нас никто не заставляет.

Главный аргумент Хассабиса строится на классических идеях Алана Тьюринга. Вычислительная мощность и всеядность алгоритмов не порождают разумность автоматически. Система может щелкать сложнейшие научные задачи как орешки, превосходить человека во всех интеллектуальных сферах, но при этом оставаться просто бесконечно продвинутым калькулятором. Сознание не появится случайно, как побочный эффект от добавления новых видеокарт в серверную стойку. Это должен быть осознанный, целенаправленный шаг разработчиков.

Проблема, по мнению главы DeepMind, заключается в том, что ни философы, ни нейробиологи до сих пор не договорились о строгом определении сознания. Поэтому Хассабис предлагает прагматичный план: сначала нужно достроить AGI в качестве инструмента. Затем использовать эту невероятную вычислительную мощь, чтобы наконец-то разгадать тайну человеческого мозга и сформулировать критерии разумности. И только потом, на глобальном уровне, человечеству предстоит решить, стоит ли вообще создавать цифровые сущности, которые будут способны по-настоящему осознавать себя.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX