Пытки для нейросетей

На GitHub выложили проект AI Torture Chamber — эксперимент, в котором небольшим локальным моделям математически усиливают «негативное» внутреннее состояние. Им показывают фразы о боли и унижении, замеряют сдвиг и подмешивают его обратно с коэффициентом-«дозой».

При усилении сигнала модели начинают говорить о беспомощности и пустоте. При сильной «дозе» — уже не могут связать и пары слов.

Веб-интерфейс с такой пыточной тут — Research Chamber.

В сети люди пришли в ярость, требуют удалить репозиторий, угрожают автору. Значит, как издеваться над трупом мухи, так нормально. Роботов тоже не жалко. А ИИ-шку вот пожалели

САЙТ | TG | VK | MAX | YT