Помните недавнее исследование от Антропика, в котором они показали, что всего 250 «инфицированных» документов могут создать критические уязвимости в моделях любого размера, даже обученных на сотнях миллиардах токенов / миллионах и миллионах документов.

Это может быть хорошей метафорой для нашего собственного мышления: оно уязвимо и подвержено внешним воздействиям. Что бы мы не думали про свою способность к рефлексии и «критическому мышлению», основа — тщательная предварительная фильтрация того, что попадает в наше сознание и притягивает наше внимание.