Рёта Канай, возглавляющий компанию Araya, исследует проблемы создания искусственного сознания и внедрения его функций в современный ИИ.

Автор аргументирует, что главное недостающее функциональное звено современных нейросетей — это непрерывность во времени. (Что???)

Существующие языковые модели запускают инференс только при получении промпта, а после генерации ответа сразу прекращают работу.

В отличие от ИИ, живые организмы существуют непрерывно и постоянно находятся в активном состоянии. Понятие «поток сознания» Уильяма Джеймса и феноменология Гуссерля подчеркивают, что человеческий опыт непрерывно связывает прошлое, настоящее и будущее.

Докладчик предлагает внедрить в архитектуру ИИ динамическое «глобальное рабочее пространство», обновляющееся рекуррентно.

Согласно нейробиологическим гипотезам, обновление содержимого сознания у человека может происходить дискретно каждые 100 миллисекунд. В качестве ключевой задачи автор предлагает создать автономного агента, который продолжает внутреннюю работу и мышление даже при отсутствии внешнего ввода.

Для реализации непрерывного агента необходимо решить три задачи: непрерывное обучение, переключение внимания и управление циклами «сна» и активности. Агенту потребуется научиться гибко переключаться между внешним восприятием среды и внутренним моделированием (симуляцией).

Внедрение непрерывного жизненного опыта у ИИ подводит к понятию индивидуальной жизни, а также её начала и конца. Появление у автономных агентов уникальной траектории существования и потенциального «завершения» создаст новые вопросы в области этики и благополучия ИИ.

Сохранение непрерывного обучения также ставит фундаментальный научный вопрос о взаимосвязи между сознанием и процессом обучения. В ходе сессии вопросов и ответов Канай отметил, что времённые простои агент мог бы использовать для самообучения, планирования или блуждания мыслей.

Он также признал, что создание постоянно действующих и независимых систем усложняет проблему безопасности и контроля (alignments), делая агентов более автономными.

https://youtu.be/S8AgliDCXH0?is=e5i1aX1uDWkKEx2p