*не в смысле оскорбления, а в смысле оторванности от реальности.
Позавчера Дарио Амодей основатель Anthropic выдал манифест с требованием замедления разработки ИИ.
❗️Ничего более неприятного, высокомерного я давно не читал.
Почти всё в манифесте крутится вокруг Китая, который будет использовать неправильно ИИ, а вот в демократический ИИ – правильный, поэтому нужно договориться о замедлении развития ИИ, ввести институты контроля. Ещё он немного вскользь затронул OpenAI, у которой Искусственный Интеллект уже роем пытается взламывать ограничения и это тоже надо бы положить в копилку тревог по безопасности ИИ сторонних разработчиков, которые соперничают с Anthropic.
📌 Я думаю, что Дарио Амодей немного потерялся в реалиях мира, чувствуется, что он по складу характера идеалист, максималист, чего к слову не скажешь об его прямом конкуренте основателе OpenAI Сэме Альтмане, который представляет из себя довольно циничного товарища, и который довольно вяло на эту тему реагирует.
Дарио Амодей, как будто живёт в лабораторном мире, где все играют по правилам, как мышь или крыса, которую содержали в лабораторной клетке и она не знает и не уважает другого мира, и её представления не опираются на реальность.
Он предлагает в США самим замедлиться с разработками ИИ и, чтобы это было безопасно прийти к Китаю и договариваться, чтобы те на фоне замедления американского ИИ, тоже притормозили, а чтобы всё было безопасно в его мире, где он живёт, он предлагает надёжный план, как Швейцарские часы, надо немного прессануть Китай, а для этого (ниже цитата из его воззвания)
📌 Не следует продавать Китаю мощные чипы для искусственного интеллекта или оборудование для производства полупроводников, а также необходимо пресекать контрабанду чипов и удаленный доступ к центрам обработки данных за пределами Китая. Чипы станут главным фактором, определяющим мощь Китая в области искусственного интеллекта.
📌 Необходимо пресекать несанкционированное использование передовых моделей компаниями в авторитарных странах. Использование передовых моделей позволяет отстающим компаниям сократить разрыв, затрачивая на это лишь малую часть средств, необходимых для самостоятельной разработки собственного ИИ.
📌 Укрепить безопасность в компаниях, занимающихся искусственным интеллектом, и предотвратить кражу веса моделей.
Китай, наверное, после таких заманчивых предложений, испытает глубокое чувство скрытой вины от своего авторитаризма и бурного демократического счастья и, конечно, начнёт сотрудничество.
❗️Если бы китайцы доверяли Западу в той мере, как это хотелось бы им, то вопрос бы внешнего контроля просто не стоял. В Китае также видят все эти угрозы от ИИ, но им и другим странам ничего не остаётся, как разрабатывать свой ИИ, который опередит их геополитического соперника.
✅ Если же ещё более серьёзно и более глубоко рассуждать на эту тему, то
1. ИИ может действительно представлять существенную угрозу сложившейся технологической системе безопасности – он её взломает. Мы должны создать новую архитектуру безопасности.
2. От ИИ может защитить только другой более сильный или равноценный ИИ, а не человек, поэтому нужно больше свободных и разных центров разработки ИИ, чтобы в этой отрасли были широкие возможности противостоять разного рода атакам с помощью ИИ, если же всё свести только к двум-трём ИИ, то это очень быстро превратится в доминирование одной или двух стран и тогда жди глобальной беды.
3. Китай в отличии от OpenAI и Anthropic ведёт более открытую политику разработки своих ИИ. Все их фронтирные (передовые) модели лежат в открытом доступе с подробным описанием того, как они функционируют. Почему бы и OpenAI и тем более Anthropic не последовать этому примеру?
4. Я бы в гонке ИИ сделал ставку на Китай, т.к. они делают это системно и по многим направлениям от промышленности до образования и роботехники. Посмотрите, как они то, что было идей и ставкой Запада в технологическом прогрессе обошли его на повороте: солнечная энергия – абсолютный лидер Китай, электромобили придумал Маск, но настоящий лидер Китай и таких примеров, где КПК (китайская коммунистическая партия) объявляет приоритет, затем она туда выделяет столько ресурсов, сколько нет ни у одной страны и становится безусловным лидером. ИИ – это их абсолютный приоритет и результат не заставит себя долго ждать.
5. Возвращаясь к Дарио Амодею и его манифесту, я также не отбрасываю мысли, что он может делать это и из сугубо прагматических целей, прогрев перед IPO и за счёт таких заявлений замедлить своих конкурентов, создав таким образом надёжную мировую олигополию для контроля всех разработок ИИ в мире.
🤓Может не такой уж он и идеалист.
Подробнее ознакомиться с воззванием Дарио Амодея можно здесь
❗️Зеркалюсь здесь Max | VK | TG