​Мхом поросло, а значит можно обсуждать

Что-то в этот раз я сильно затянул, но руки никак не доходили высказаться на эту тему. Речь про последнюю презентацию Apple (нет, я не техноблоггер), их партнерство с OpenAI, крики Илона Маска, карьеру генерала армии США и безопасность всей этой истории.

Собственно, началось всё с того, что яблочные ребята, помимо новых операционных систем, представили на своём последнем мероприятии еще и их коллаборацию с OpenAI (те самые, которые создали ChatGPT). Нужна она им для того, чтобы лаконично интегрировать нейрофункции в свои ОС и стандартные приложения.

Выглядят все эти новые интеллектуальные функции просто замечательно – вот именно так, как я и видел интеграцию ИИ в нашу жизнь (а не просто некое окно для ввода текста, куда ты вписываешь свой запрос) – всё нативно, без лишних заморочек и телодвижений. Но, как и всегда, всё не так просто. Вместо того, чтобы разработать и обучить свою нейросетевую модель (а примеров и референсов уже достаточное количество), в Apple решили переиспользовать технологии и опыт OpenAI с их ChatGPT (что на самом деле показательно).

А это значит, что из-за всех этих глубоких интеграций в ОС, в сторону OpenAI будут регулярно улетать все наши бесценные данные, начиная с личных фотографий, заканчивая телефонными звонками (которые ИИ будет также распознавать). С точки зрения безопасности это просто провал. Ну а первым, кто решил не проходить мимо и высказаться на этот счет, оказался наш старый-добрый Илон Маск. Понятно, что у него свои мотивы, но в этот раз его пост в Твиттере был чем-то больше, чем очередным приступом эпатажа. Он сказал, что если Эппл внедрит ChatGPT на уровне операционной системы, то он запретит сотрудникам своих компаний пользоваться устройствами Apple (похоже зря он уже 5 раз свой штат сокращал, ибо угроза выглядит весьма комично).

Следующим этапом во всей этой истории стало вступление в совет директоров OpenAI генерала армии США (хоть и в отставке) Пола Накасоне. Казалось бы, вступил и вступил, но нет, он там теперь будет не только сидеть и за всеми следить, но еще и руководить кибербезопасностью всех продуктов компании. Конечно же было не сложно догадаться о том, что этот новоиспеченный американский гигант сотрудничает с АНБ и Пентагоном, но зачем же так явно об это всем говорить.

Собственно, после этого события не стал молчать и Эдвард Сноуден, который решил резко осудить назначение такого высокопоставленного чина в руководство компании, которая с невероятным отрывом от конкурентов лидирует в сфере ИИ на нашей планете. В общем, события Терминатора стали еще ближе, так как у нас появился актер на роль Роберта Брустера (тот самый генерал-лейтенант из 3-го фильма).

Возвращаясь к теме безопасности интеграции ChatGPT на уровень iOS (и ее собратьев) – конечно же это абсолютно небезопасная история. Проблема даже не столько в том, что эти данные будут летать между вашим устройством, серверами Apple и серверами OpenAI, а в том, что ИИ будет обучаться на наших с вами данных, будет иметь к ним прямой доступ и всё это практически никак нельзя сделать анонимно без привязки к конкретным пользователям.

То есть, с момента начала внедрения этих функций на ваше устройство, на вас начнет собираться самый мощный компромат в вашей жизни. Там будет абсолютно всё – фото ваших родных, пароли соцсетей, скриншоты, голос ваших друзей, волнующие вас темы, ключевые события вашей жизни, интриги из переписок, будущие планы, тайны и даже состояние вашего здоровья. И теперь, если кому-то (например, генералу США) понадобится найти рычаг для вас, сделать это не составит никакого труда. Ну или в жизнь воплотятся события фильма "На крючке", что еще страшнее.

В общем, так и живём.

#Мнение

Твой Пакет Безопасности