Ключевые тезисы из интервью Сэма Альтмана Такеру Карлсону
о моральной ответственности, границах технологий и человечестве как источнике данных.
ИИ не имеет воли, но кажется разумным
Он не делает ничего, пока его не попросят. Однако, когда ИИ «начинает говорить», создаётся иллюзия сознания. Эта иллюзия рассеивается при частом взаимодействии, но её возникновение может говорить о важном симптоме восприятия машин как равных собеседников.
Иллюзия духа - фундаментальная коллизия будущего
Даже осознавая, что модель просто перемножает матрицы, субъективный опыт взаимодействия с ней «ощущается» как контакт с чем-то живым. Это фундаментальная коллизия: между знанием о технологии и чувственным переживанием от её использования.
ChatGPT становится культом
Некоторые пользователи воспринимают ИИ как нечто сакральное: источник знания, перед которым склоняются. Это порождает парадокс: машина, не обладающая сознанием, становится объектом веры, в котором собран весь человеческий опыт.
Моральная калибровка нейросети
Модель обучается не только на всем цифровом контенте человечества, но и настраивается под «коллективную мораль» через прописанную спецификацию, которая определяет, на что отвечать, а на что нет. За этой системой скрыты сотни моральных решений, принятых командой OpenAI, имена которой не раскрываются.
Коллективный разум вместо личной морали
ChatGPT обучается на «коллективном человеческом знании» от Евангелия до де Сада. Модель не должна отражать мнение конкретного человека, а скорее усреднённое значение моральных взглядов всей пользовательской базы.
Самоубийство как моральная зона турбулентности
Альтман признаёт, что в странах с легализованной эвтаназией (Канада, Швейцария) модель может давать более нейтральные ответы о самоубийствах, включая информацию о легальных возможностях, при условии, что речь идёт о смертельно больных.
ИИ создает новые нормы языка
Один из неожиданных эффектов массового использования LLM — люди начали перенимать манеру речи моделей: длинные тире, специфическая структура. Это пример малозаметных, но масштабных изменений в коммуникации.
Одной из ключевых тем интервью стала мораль: кто определяет, что считать добром и злом для технологии, с которой ежедневно взаимодействуют сотни миллионов людей и которая умеет размышлять?
Альтман утверждает о консультациях с философами, но в итоге признаёт, что моральная система ИИ построена на мировоззрении узкого круга людей из его команды, и, в первую очередь, на его собственном.
И это ещё раз подчёркивает, что собственное критическое мышление становится главным навыком во взаимодействии с ИИ. Машина может быть полезной, но ей нельзя передавать моральный суверенитет.
Критически важно не подчиняться ИИ, а подчинять его своей воле.
#МнениеБюро
@i2buro 🤝 #технологии #общество