В законе есть ряд интересных поддерживающих отечественную ИИ-сферу пунктов. Например,
российские дата-центры (для нашего ии пока таких мощностей в РФ нет, но может сделают)
российские разработчики (у нас все российские, но мы планировали взять ещё 5-7 иностранных)
обязательная маркировка Ии-контента (тут согласна на 100%, мы манкируем)
И разные другие штуки. Как конкретно на нас повлияет этот закон я записала в аудио, а тут хочу с вами поделиться экспериментом, который мы с программистами делали 2 последние недели.
Есть в новом законе об ИИ пунктик о традиционных ценностях. Дословная цитата
«Правовое регулирование отношений в сфере искусственного интеллекта основывается на следующих принципах: … учёт и уважение традиционных российских духовно-нравственных ценностей — обеспечение разработки, внедрения и применения технологий искусственного интеллекта на основе таких ценностей…»
Окей, подумали мы. Давай сделаем закрытый контур и напишем HT-Scanner и HT-Daty с нуля, обучая их только на русском языке, вшивая учет традиционных ценностей и исключая гуманитарные технологии и материалы, которые были созданы организациями, признанными нежелательными на территории РФ (272-ФЗ и связанные нормы).
И у нас получился…забавный бесполезный ппц.
Во-первых, резко упало качество аналитики. ИИ больше не анализирует данные, а скорее… берет первое, что нашел и объясняет, почему это ок. Многие данные просто не дает искать, потому что они ему недоступны из-за введенных ограничений.
Во-вторых, наш ИИ стал философом. Вместо четких рекомендаций и выводов начались пространные размышления ни о чем. Причем, две недели явно маловато для такой работы, поэтому философом он стал диванным. Это случилось как раз из-за русского языка. В аудио выше объяснила про комплиментарность языков и про то, почему нельзя учить ИИ только на русском или только на английском.
Дальше — слепые зоны. Наш любимый ИИ перестал отмечать некоторые пункты реальности (экономика, государство, поведение людей) как проблемы. То есть если он видит, например, что в каком-то регионе нарастают националистические настроения он их или игнорирует или вписывает в рамку «единства народов России», объясняя, почему это ок. Аналогичная история с насилием в семье, низкими доходами и так далее.
Прогностика рухнула полностью. Он просто перестал видеть будущее и все. Никаких тебе сценариев, возможных элементов развития… Ничего. Может только пофилософствовать немного.. Конкретно это выглядит так. HT-Data анализируя, например, экономику видит: что происходит сейчас, какие есть риски, какие возможны сценарии развития событий, как эти сценарии укладываются в мировую логику, какой сценарий оптимален и может подсказать как к нему прийти. В «новой версии» мы получаем примерно следующее: «Экономическое развитие должно опираться на устойчивые ценности и созидательный труд. При сохранении стабильности возможен постепенный рост показателей.»
Хочется сказать: спасибо, кэп…
Если попросить его подумать о сценариях лет на 50, все вообще становится грустно.
И это я еще не говорю про то, что система начала мастерски достраивать реальность под заданные параметры. Как будто все уже хорошо и классно и делать в целом ничего особо не нужно. (Я думаю вам понятно, что это происходит из-за отсутствия альтернатив. Мы ж в одном языке и в одной ценностной рамке работаем и той самой «разницы между чем-то и чем-то», что по Бейтсону и является информацией, просто не происходит).
Короче был у нас классный инструмент, а после переобучения мы получили классического российского чиновника. Ржали всем офисом.
Но знаете что? Если бы были лишние деньги и время, я бы конечно заморозилась и продлила бы эксперимент на год. Мне кажется, это очень четко бы показало, как же так получается, что еще с 862 года мы как будто бы упорно ходим по кругу, повторяем одни и те же циклы и менять похоже ничего не собираемся.
P.S. Подробный разбор нашего ИИ и всей системы его обучения есть в подкасте выше. Тут остался только вывод)