​👨🏽‍⚕️ Завышенные требования

Есть такой человек — Демис Хассабис. Он нобелевский лауреат по химии, а на самом деле по биоинформатике. С помощью ИИ, созданного его компанией, Демис решил важную задачу молекулярного моделирования, научился предсказывать трехмерную структуру белка. Но вы не бойтесь, пост не про это.

Недавно Демис предложил тест для определения крутости ИИ: впихнуть в него все знания, актуальные на 1911 год, и проверить, сможет ли ИИ повторить Эйнштейна — открыть общую теорию относительности. Если сможет, перед нами суперкрутой ИИ, способный переносить знания из одной области в другую, формулировать и проверять гипотезы, обучаться и мыслить как человек.
Сейчас такого ИИ не существует. Все ИИ, которыми мы пользуемся, заточены под узкоспециальные задачи. Даже те ИИ, за которые дают нобелевские премии.

Предложение Демиса вызвало критику со стороны экспертов. Они говорят, что Демис предъявляет к искусственному интеллекту заведомо завышенные требования, которым и сами люди не соответствуют. Лишь Эйнштейн смог создать теорию относительности, но это не значит, что остальные люди не обладают интеллектом. Однако от ИИ мы ждем уровня Эйнштейна, ждем сверхспособностей. А когда ИИ больше похож на обычного человека и ошибается, мы смеемся и объявляем его бесполезным. Дескать, мы предвзяты — готовы прощать ошибки людям, но не машинам, хотя сами далеки от совершенства. Напрасно не доверяем!

Но здесь даже чисто по-человечески ситуация иная. Вот, например, понадобился тебе стоматолог. К кому попало идти не хотелось бы, поэтому ты начинаешь читать отзывы, опрашивать знакомых. Заходишь на сайт клиники, читаешь биографию врача, смотришь, сколько лет он в профессии. Безусловно, и при столь тщательном выборе можно ошибиться. Но ты стараешься всеми доступными средствами уменьшить возможность ошибки.

Так с любым человеком, с которым сталкиваешься в рабочей среде или вне ее. Прежде чем опереться на его суждение, ты проверяешь, можно ли ему доверять. Ты не пойдешь к стоматологу, не получившему диплома. Не закажешь софт у человека, который не умеет программировать. Не будешь всерьез воспринимать советы управленца, не работавшего менеджером.

Если не можешь сам проверить, рассчитываешь, что это сделали другие. Когда спрашивают о чем-то ИИ, то именно так и рассуждают: есть другие, которые убедились, что ответам можно доверять. А это не так! И ладно бы ИИ ошибался в вопросах сложных. Но он ошибается даже там, где не ошибется подросток.

А самое неприятное, ИИ делает это внезапно, неожиданно. Только-только ты восхищался его умением решать задачу, а он — хлоп! — и налажал. Ты в смятении, не знаешь, кто перед тобой. Секунду назад был профессор, светило стоматологии. И вдруг он путает пломбу с апломбом.

Мы доверяем черному ящику без биографии, лица и истории. Который не боится ошибаться, потому что за это ему ничего не будет. Человеку простить слабость можем запросто. Но ИИ должен быть безупречен.

Потому нулевой выхлоп у большинства внедрений ИИ в рабочие процессы. В менеджменте есть железное правило: полномочия влекут ответственность. Можно делегировать задачу, но не ответственность за результат. Кажется, с ИИ мы пытаемся эту формулу сломать. Хотим нанять гения, который не несет ответственности. Который не выйдет на связь, когда проект летит в тартарары. Которому нельзя выписать штраф, лишить премии или уволить. Как такому доверить управление чем бы то ни было?

Пока мы не научимся спрашивать с алгоритмов так же строго, как с людей, даже самый умный ИИ останется забавной, но непредсказуемой игрушкой. За ошибки которой платить нам.