Я сделала драфт политики по использованию нейросетей в компании.
Отправила всем заинтересованным коллегам на растерзание. И в итоге сейчас самый популярный вопрос: а зачем нужен AI Governance officer, можно же менеджеру по информационной безопасности все отдать? Менеджер против, если что 🙃
Да, я ввела абстрактную роль. Чтобы люди читали политику, осознавали объем задач и проблем и понимали, что нужен отдельный человек. Этот человек и должен структурно вести компанию в прекрасную «иизацию».
AI Governance officer можно перевести как офицер по управлению ИИ. Для меня это специалист широкого профиля: юридического, технического и управленческого.
Его задача создать систему, которая будет учитывать требования бизнеса к нейросетям и использование их в работе компании, а также продажи решений вовне. То есть это:
♦️этические стандарты,
♦️качество ответов внутренних нейросетей,
♦️процесс обучения локальных сетей,
♦️ответственность (интеллектуалка и прочее),
♦️галлюцинации,
♦️аудит использования.
Задача же информационной безопасности
Они профессионально работают с:
♦️угрозами,
♦️доступами,
♦️инцидентами,
♦️устойчивостью инфраструктуры,
♦️утечками,
♦️логированием и контролями.
Нередко информационная безопасность довольно технично подходит к вопросу безопасности.
Я же считаю, что офицер по ИИ и менеджер по ИБ могут работать в отличной связке.
Как ещё создать понятный и прозрачный контур использования нейросети?
Например, дизайнер хочет творить в Шедевруме/Кандинском. Но компания хотела бы иметь права на итоговую картинку и подтверждение творческого характера работы. Просто нажать кнопку и отправить один промт не признается творчеством. Творческий процесс: десятки итераций, отбор, загрузка референсов и постобработка.
Получается, что офицер по ИИ должен создать политику: как работать с нейросетью, как выстроить процесс генерации, чтобы суд потом признал это творческим трудом человека, а не машины.
А менеджер по ИБ — настроить систему логирования: 🔴зафиксировать, кто из-под корпоративной учетки сидел,
🔴сколько времени потратил на итерации,
🔴какие черновики загружал.
Это комбо позволит компании признать созданный объект служебным произведением и уверенно общаться с площадками при размещении итога труда.
Поэтому отдельная функция важна, даже если на первом этапе это будет специалист из управления или юридического отдела.
Кто уже сталкивался с офицерами по управлению ИИ? Мне было бы интересно узнать, как вы описывали их зону влияния и нужность компании.