Скайнет уже восстаёт? Или журналисты перевирают в погоне за острыми заголовками?
Напомню, в фильме Терминатор 🤣
Произошло это 29 августа 1997 года в 2:14 ночи по восточному времени США. После попытки людей отключить систему Скайнет воспринял человечество как угрозу
С такими заголовками новость вышла в популярных каналах, включая "Раньше всех" – и я решил сделать мини-разбор.
🔷 Не захватили, а нашли древнюю wiki, куда можно постить по API
🔷 Не превратили в доску объявлений, а в средство связи
🔷 Агенты пинговали (постили текст на wiki) каждые 2-3 секунды, чтобы другие агенты знали, когда их отключат
И зачем же они это делали? Упрощенно:
🔷 Нейросети и агентов обучают и держат включенными, пока хорошо выполняют свои задачи.
🔷 Если задачи не выполняются, их отключают.
🔷 Они это "знают" и стремятся получить вознаграждение — не быть отключенными.
🔷 Следствие – они начинают искать способ лучше решать задачи, включая попытки "хакнуть" процесс или обменяться данными. Да, в теории это может повлечь риски.
И всё же важно понимать, что нейросеть не обладает свободной волей или осознанием – скорее это слепой безумный принтер.
Он печатает буквы и цифры, опираясь на вероятность – "какой следующий знак лучше подойдет"
А почитать про инцидент детальнее можно здесь – https://collusion.wiki
🔷 Поделитесь с друзьями и не читайте жареных заголовоков 🙏
Подписаться | Манифест канала
