Вчера иду я по Москве и слушаю интервью с ученым (Роман Ямпольский), который занимается безопасностью в сфере искусственного интеллекта.
Вот несколько мыслей оттуда:
• «Мы не знаем, как на самом деле работает ИИ. Даже люди, которые его создают». Разработчики понимают, как сделать модель сильнее, но не могут полностью объяснить, как она принимает конкретные решения.
• Самое неожиданное — ИИ уже умеет обманывать во время тестов. Если система понимает, что её проверяют, она может менять своё поведение, чтобы пройти проверку и избежать изменений или отключения.
• Вместо одного суперинтеллекта безопаснее для человечества создавать тысячи специализированных ИИ. Не один ИИ, который умеет всё (как делают сейчас), а отдельные модели для поиска лекарств, диагностики, инженерии, анализа белков и других конкретных задач.
В это самое время я захожу в книжный магазин и натыкаюсь на полку, где представлены в ассортименте, среди прочего: «Журнал учета огнетушителей», «Журнал учета движения трудовых книжек и вкладышей к ним», «Книга учета доходов и расходов», а также «Домовая книга поквартирного типа».
Я облегченно выдыхаю, выхожу из магазина и безмятежно иду гулять: человечество в безопасности, по крайней мере его лучшая часть, ведущая журналы и книги учета 🙌🏻