Зачем напрягаться, искать информацию и проверять факты, если нейросеть может сделать это за тебя? Проблема в том, что ответы ИИ носят вероятностный характер.
«ИИ — вероятностная технология, он может выдать неверный ответ с абсолютной уверенностью, а какой это будет ответ, не угадают даже сами разработчики — это так называемая проблема черного ящика», — предупреждает Наталья Касперская, президент ГК InfoWatch, председатель правления АРПП «Отечественный софт».
Если человек использует этот неверный ответ в системе управления производством или в медицинской диагностике, не проверив его, последствия могут быть катастрофическими.
В 2018 году в США во время испытаний беспилотного автомобиля Uber произошел смертельный наезд на пешехода. Система обнаружила человека примерно за пять секунд до столкновения, но не смогла корректно распознать ситуацию и спрогнозировать его движение. При этом человек, который должен был контролировать работу системы и при необходимости вмешаться, отвлекся и не успел предотвратить аварию. Расследование показало, что причиной стала совокупность недостатков автоматизированной системы и человеческого контроля.
Получается, что ИИ ставит перед человеком тот же выбор, что когда-то поставил интернет: поверить готовому ответу или включить критическое мышление. Мы рискуем только тогда, когда начинаем пользоваться этим инструментом (равно как и любым другим) бездумно и безответственно.
📰 Монокль в MAX | Подписаться