Как нейросеть Grok перенимает взгляды отца-основателя

New York Times обнаружили, что Илон Маск значительно влияет на позицию своей нейросети Grok по широкому спектру вопросов. Проявляется это как и на частных случаях — например, когда Маск публично критикует ответ на вопрос «какая главная проблема Америки», а на следующий день его модель меняет ответ, — так и в ходе большого исследования.

Журналисты сделали более 10 000 запросов к Grok и другим чат-ботам. Для проверки они использовали список вопросов в формате multiple choice — например про дискриминацию меньшинств или государственные расходы. Каждый вопрос задавали несколько раз и усредняли ответы, чтобы получить итоговую позицию модели.

В мае Grok выдавал более нейтральные ответы, но в июле xAI несколько раз меняла его инструкции. После этих обновлений бот стал чаще уходить «вправо» на вопросах про экономику и роль государства. По социальным же темам его ответы иногда сдвигались «влево» или почти не менялись.

Примечательна эта ситуация тем, что Илон Маск публично заявляет, что строит «политически нейтральную» модель, однако на деле вмешивается в процесс обучения практически вручную.

И да — кажется, что контролировать ответы модели по ряду чувствительных тем — это маст. Например, следить за тем, чтобы бот не выдавал смертельно опасных советов в сфере медицины или психологии.

Но также кажется, что в любом случае заниматься этим должен коллектив профессионалов, а не один человек с авторитарным стилем управления и уникальным взглядом на мир. Что думаете?

Читать