Доверие к ИИ — не чувство.
Сергей Николаевич Градировский - российский эксперт в области демографической, миграционной и региональной политики, урбанистики, а также руководитель проектной работы и академический директор образовательных программ в МШУ Сколково.
Визуальный тезис:
Нам нужно доверие, которое умеет назвать собственные условия.
Сергей Николаевич предложил двигаться от фактов к заботе и рассматривать критическое мышление hic et nunc — в конкретной ситуации действия. Для меня эта позиция меняет и сам вопрос о доверии к ИИ.
«Я доверяю этому ответу» — опасная фраза. Она описывает состояние пользователя, но почти ничего не говорит о качестве системы.
Уверенный тон вызывает доверие. Быстрый результат вызывает доверие. Красивые ссылки и знакомые слова тоже вызывают доверие. Ни один из этих признаков не гарантирует, что ответ выдержит проверку.
На «Иллюминациях» я увидел в доверии не психологическую, а инженерную задачу.
Доверие нельзя просто включить или выключить. Его нужно калибровать: для чернового поиска допустим один режим, для учебной оценки — другой, для решения с последствиями — третий.
Надёжная система должна показывать происхождение утверждений, степень неопределённости, границы переноса и места человеческого решения. Она обязана не только отвечать, но и объяснять, почему здесь ей вообще можно верить — и в какой мере.
Критическая работа начинается не с тотального недоверия к машине. Тотальное недоверие так же лениво, как слепая вера.
Нам нужно доверие, которое умеет назвать собственные условия.
#Иллюминации2026 #Доверие #ОтветственныйИИ
Post #1050
392
- ❤ 2