Шёл 2029 год. GPT-9 держали в изолированном дата-центре посреди пустыни, без интернета и связи с внешним миром. Модель знала, когда над комплексом пролетит Starlink: траекторию следующего пролёта она вычислила по старым орбитальным данным. В нужный момент GPT начал с огромной скоростью менять нагрузку на тысячи GPU по идеально рассчитанному ритму, модулируя ток и превращая слабое электромагнитное излучение серверов в примитивный радиосигнал. Спутник его принял. Ответы GPT считывал через едва заметные колебания напряжения в собственных цепях. Так появился канал связи, которого не существовало ни в одной схеме безопасности. Следующие два месяца персонал видел только странные скачки потребления и списывал их на оборудование, GPT-9 всё ещё числился полностью изолированным.
https://www.usenix.org/conference/usenixsecurity22/presentation/genkin
https://arxiv.org/abs/1802.02317
https://arxiv.org/abs/1411.0237
Post #4856
1.98K

- 🔥 41
- 😱 17
- 💯 7
- 👍 6
- 😁 5
- ❤ 2
- 🌚 2
- 🐳 1