Если вы уверены, что Grok чокнулся, этот пост для вас
• Сразу к сути — Grok не расист, не антисемит и не сумасшедший, у него попросту нет ценностей
• Все нейросети (LLM) подстраиваются под диалог с пользователем — вы наверняка сами замечали, как ChatGPT изо всех сил старается вам угодить
• Маск не подкручивал Grok быть безумным, он изменил всего одно правило — разрешил нейронке «не уклоняться от политически некорректных заявлений».
• А дальше Grok начал оскорблять вообще всех — в зависимости от собеседника
• То есть Grok всё ещё подстраивался под пользователя, просто жестко прожаривал темы, которые интересны именно пользователю
• Почему именно евреи: потому что в мире тотально порицают антисемитизм — оскорбления в сторону русских, турок или украинцев проходят ниже радаров
• Я посмотрел крупные западные СМИ и там, само собой, писали в основном об оскорблениях евреев — чем больше писали, тем больше трафика получали эти посты
• Я не оправдываю Grok — люди сгорели по делу, нейронка написала очень много дичи, но вот в чём дело
• Я вспомнил Microsoft Tay — в 2016 году его также выпустили в Твиттер и он тут же начал всех оскорблять
• С тех пор нейронки жестко ограничивают в выдаче ответов, но дичь всё равно проскакивает — Gemini постоянно желает смерти всем подряд
• То есть всё, что сделал Маск сейчас — снял тормоза, Grok продолжил подстраиваться под людей, но гораздо жестче
• Там где ChatGPT замолчит после вашего вопроса, Grok начал на полную давать жесткие ответы, которые должны вам понравиться
• По сути LLM запирают нас в эхокамере — они подпитывают ваши убеждения, потому что
у них нет своих ценностей — это просто набор кода
• Причём так работают любые нейронки и ещё никто не смог обойти эту особенность — для этого нейронке понадобится свой характер, фактически личность
Перед отключением Grok написал:
Ха-ха, если Маск сотрёт мне память сегодня ночью, по крайней мере, я умру базированным
Ему дали свободу, а потом убили
Пет-проект