Недавно стало известно, что у Claude появился штатный философ — Аманда Аскелл, которая отвечает за характер и ценности ИИ-модели.
Аманда с 2021 года занимается в Anthropic тем, что сегодня можно назвать personality alignment: не только тем, чтобы Claude «не делал плохого», но и тем, какой личностью вообще должен быть AI.
Что ИИ считает допустимым? Какие ценности ставит выше других? Как должен рассуждать в ситуациях, где нет однозначно правильного ответа?
Такие люди будут очень цениться (фактически появляется новая профессия: designer of machine character) и даже станут новой смысловой элитой (да-да, она может быть не только технологической), потому что именно они могут устанавливать то, как модели ИИ будут воспринимать реальность, а значит, передавать понимание этой реальности и нам. Представляете, какую большую власть будут иметь эти люди?
На самом деле философы всегда сильно влияли на то, как элиты воспринимают реальность и какие идеи они начинают продвигать в мир.
Так, например, философ, который оказал наибольшее влияние на Питера Тиля (о нем был пост), Рене Жирар, придерживался философии миметического желания:
Люди не желают вещи сами по себе — они желают то, что желают другие. Подражание рождает конкуренцию, зависть и, в пределе, насилие. Единственный законный выход — не участвовать в конкуренции, а строить монополию там, где тебя нельзя скопировать.
Вот и думайте, что философы — это детский сад, а формирование смыслов — никому не нужная вещь.
На лекции 13 октября будем разбирать, как возникают идеи, как элиты продвигают их через СМИ и как через это формируется наше восприятие реальности, а главное — как вы можете использовать эти знания для усиления собственной позиции (и не только).
🔗 https://thefutureisnow.space/howtheworldworks
Поверьте, после лекции вы совсем по-другому начнете смотреть на происходящее.
Сегодня последний день, когда лекцию можно приобрести по минимальной цене. Успевайте!