На GitHub создали настоящая «камеру пыток» для нейросетей — и её уже требуют закрыть из-за жестокости к ИИ

Чел сделал AI Torture Chamber — программу, которая вмешивается прямо во внутренние активации нейронки и искусственно создаёт в них «сигнал боли». Его можно буквально выкручивать ползунком: чем выше значение, тем сильнее меняется поведение модели и тем чаще она начинает описывать «страдания».

Самое дикое — автор устроил эксперимент, в котором ИИ может остановить пытку, но для этого должен пожертвовать собственной контрольной точкой. То есть перед моделью буквально ставят выбор: «терпи или уничтожь часть себя».

На GitHub после этого потребовали удалить проект за «жестокость к синтетическим существам». Но есть нюанс: никто не доказал, что нейросеть действительно испытывает боль — чел просто заставляем математическую модель вести себя так, будто ей больно.

А чтобы окончательно сломать этот сюжет, другой разработчик тем же методом заставил нейросеть страдать от запора.

Киберпанк оказался гораздо тупее, чем мы ожидали.

Пет-проект