(Если вы не читали, но хотите, вот неполный список: Дарио Амодеи, Билл Гейтс, Марк Цукерберг, Брэд Смит)
Меня больше других зацепил глава Microsoft — Сатья Наделла, сумевший скрестить в одной колонке алармизм и корпоративную скуку.
Вот его мысли (я огрубляю):
Раньше можно было понять, как конкретный код влияет на решения. Сейчас у нас в руках гораздо более мощная технология, но мы не понимаем, как на результат влияет обучение и даже промпт.
И вот этим машинам мы даем порулить конфиденциальными данными и принимать решения от собственного лица. В корпорациях мы умеем управлять хаотичными обезьянами с гранатами с помощью процедур, политик и механизмов контроля.
Давайте закуем модели в такую корпоративную упряжь. Потребуем от них прозрачного хода мыслей (chain of thought transparency).
И дальше он предлагает семь принципов. Они сводятся к нулевой терпимости, нулевому доверию и бесконечному страху перед ИИ — возможно, обоснованному:
1. Разнообразие моделей. Одна модель не должна отвечать за важный результат или самопроверку.
2. Запись всего и вся, принцип наблюдения. Любое действие должно оставлять свидетельство, которое может прочесть человек и не может изменить машина. Если это не записано, этому верить нельзя.
3. Проверяемость. Надо постоянно тестировать всю систему.
4. Независимый контроль. Организация должна независимо определять, к чему у модели есть доступ, и что она способна натворить.
5. Сдерживание. Мы должны предполагать с самого начала, что модель скомпрометирована и все время держать руку на стоп-кране. Нужны стандарты сдерживания моделей.
6. Раскрытие инцидентов. Если что-то ломается или скомпрометировано, надо вовремя понять, что пошло не так и как это предотвратить. А главное — поделиться с отраслью новым опытом.
Заканчивается это все удивительной фразой:
«Наибольшего доверия заслуживает не так система Суперинтеллекта, модели которой мы больше доверяем. Это должна быть та, которая позволяет меньше всего доверять своей модели»