Искусственный интеллект уже способен анализировать большие потоки данных, прогнозировать отказы оборудования и помогать принимать решения. Это особенно важно в космосе, где одновременно приходится учитывать огромное количество параметров. Но что можно полностью передать алгоритму, а где по-прежнему необходим контроль человека?
📐 Границы автономности ИИ обсудили на лектории «Искусственный интеллект и его роль в освоении космического пространства» в Национальном центре «Россия». В дискуссии приняли участие вице-президент по развитию искусственного интеллекта, директор Центра ИИ Сколтеха, профессор РАН Евгений Бурнаев, летчик-космонавт, Герой России Алексей Зубрицкий и эксперт по международному космическому праву Ирина Черных.
◾️ Евгений Бурнаев отметил, что ИИ способен быстрее человека анализировать большие потоки данных от космических аппаратов и наземных станций, прогнозировать отказы оборудования: алгоритм может направить камеру спутника на нужный участок Земли, обнаружить пожар и передать данные в центр. Однако степень автономности систем должна определяться в том числе их обратимостью и трассируемостью: можно ли отменить решение и понять, почему оно было принято.
«Если решение можно быстро отменить, понятно, кто за него отвечает, а задача и контекст четко заданы, ИИ можно использовать автономно. Но если хотя бы одно из этих условий не выполнено, необходимы участие и ответственность человека. При этом в задачах, где речь не идет о жизни и смерти, а ограничения четко установлены, ИИ способен оптимизировать процессы гораздо быстрее человека».
🌫 Важна правильная постановка задачи. Например, система может снизить потребление кислорода на станции до заданного уровня, но если при постановке задачи не учитывать работоспособность и комфорт экипажа, формально верное решение окажется неприемлемым для человека. Еще сложнее задать правила на случай нештатной ситуации, которую невозможно полностью предусмотреть.
«Современный ИИ в этом смысле достаточно консервативен: он следует паттернам, которым его обучили, и правилам, которые в него заложили. Но в жизни иногда эти правила необходимо нарушать с учетом того, что происходит. В аварийной ситуации может возникнуть сценарий, для которого заложенный алгоритм уже просто не работает», — отметил профессор.
🌫 При пожаре на станции ИИ может обнаружить угрозу и отключить часть энергосистем, не дав огню распространиться, но вместе с этим — сорвать многолетний научный эксперимент. Жизнь и безопасность людей в такой ситуации остаются приоритетом. При этом систему можно настроить точнее — например, отключать энергию только в отсеке с пожаром или предусмотреть автономное питание критически важных систем. Если ограничения четко заданы, ИИ, напротив, может работать гораздо эффективнее.
«Если рамки можно задать достаточно жестко, то в процессах, где речь не идет о жизни и смерти, ИИ способен оптимизировать решения гораздо лучше и быстрее человека. Важно заранее определить эти рамки и понимать, в каких ситуациях решение должно оставаться за человеком», — отметил профессор.
🌆 По словам Евгения, ИИ можно внедрять практически во все процессы — в энергетику, техническое обслуживание и другие системы, определяя для каждой задачи допустимую степень автономности. Однако важно разделять ответственность за действия системы.
«Разработчик отвечает за то, чтобы система вела себя так, как предусмотрено техническим заданием. Но есть еще своего рода конституция поведения автономной системы — правила, определяющие, как она должна действовать в разных классах задач. Если эти рамки недостаточно качественно проработаны, ответственность должна лежать на организации, которая их сформулировала», — пояснил Евгений.
🛡 Границы автономности ИИ зависят от того, насколько точно поставлена задача, можно ли проверить логику и последствия решения, при необходимости отменить его и заранее определить, кто несет ответственность. При соблюдении этих условий ИИ может постепенно переходить от роли советника к полноценному участнику управления космическими системами.