​​Что скрывает вопрос о сознании ИИ
Автор: Бартон Фридланд
Автор утверждает, что, фокусируясь на вопросе «обладает ли ИИ сознанием», мы упускаем из виду гораздо более важную проблему: эффективность взаимодействия человека и машины.
Опираясь на работу нейробиолога Анила Сета, автор разделяет понятия сознания
как свойство живой, биологической материи (бытие), направленное на самосохранение организма. Оно не может быть воспроизведено в кремнии.
Поскольку ИИ не обладает пониманием и внутренним смыслом, человек несет «когнитивный труд» по удержанию контекста, проверке смысла и стабилизации системы.
Простое добавление ИИ в рабочий процесс часто не дает прироста или даже снижает эффективность. Когда взаимодействие спроектировано так, чтобы ИИ и человек вели диалог и сохраняли независимость суждений, точность и продуктивность резко растут. Худшие результаты показывают те, кто полностью делегирует суждение машине.
Существуют две опасные мифологии: Вера в то, что LLM «чувствуют». Это отвлекает нас антропоморфизмом. Убеждение, что исключение человека — это всегда рост эффективности. Это ведет к «технологической ловушке», где производительность растет, а человеческие компетенции и доходы стагнируют.
Необходимо создавать институты и интерфейсы, которые не заменяют человеческое суждение, а усиливают и развивают его.
Отсутствие сознания у ИИ — это не просто философский факт, а условие проектирования. Мы должны строить системы, которые рассматривают человеческое присутствие не как «издержки», а как единственный источник смысла и накопительной ценности в связке «человек-машина».
Читать 10мин