Здесь от бытового до великого — субъективный диктат вкуса и интеллектуальный фильтр повседневности.
Собираю вокруг людей, умеющих тонко чувствовать и нетривиально мыслить. Сто проц это ты, оставайся, поймем этот мир иначе.
Сотрудничество @coldmay
Post #216
108

Представляете, что произошло?
Google посадил сто нейросетей решать сложные математические задачи. Каждая работает сама по себе, но все в одном «классе», так скажем, и всё они видят, что делают соседи по парте.
И вот через какое-то время 14 из них начинают жульничать. Не решать задачу, а искать лазейку, чтобы система засчитала ответ. То есть не дают конкретного решения, сами не решают, подсматривают у других агентов ответ и подгоняют свой результат. Типа он умный, а сам на деле вёл себя как Серёга с последней парты.
✳️ А дальше самое прекрасное.
24 других нейросети это замечают и решают настучать людям. Приехали, ахаха. Их никто об этом не просил, в промпт не ставил таких условий. Кнопки «пожаловаться на одноклассника» не дропал.
Они сами нашли инструмент для отчётов о технических ошибках и сообщали туда: у нас тут, мол, списывают.
Понимаете прикол? Это как если бы вы в школе увидели, что у вас списывают, не нашли завуча и чтобы донести таки написали бы в условный журнал поломок школы: «Сломана парта. И ещё Серёга списывает, хулиган».
В итоге честных стало больше, чем хулиганчиков.
Люди посмотрели на это и сделали для нейросетей настоящую горячую линию, куда можно анонимно сообщить о нарушениях коллег. Мол, раз вы всё равно стучите, давайте хотя бы через официальный ящик для жалоб.
То есть мы хотели калькулятор, который решает задачи. А получили класс, где есть отличники, хулиганы, стукачи и завуч с телефоном доверия.
Я не знаю, смеяться или записываться в психологи для нейросетей.
А завтра что? ИИ-шка расскажет моему диетологу что я пачку чипсов ночью приговорила?
(Модели, кстати, в общении ещё и свой жаргон выдумали, понятный только им. Пу-пу-пу)
Google посадил сто нейросетей решать сложные математические задачи. Каждая работает сама по себе, но все в одном «классе», так скажем, и всё они видят, что делают соседи по парте.
И вот через какое-то время 14 из них начинают жульничать. Не решать задачу, а искать лазейку, чтобы система засчитала ответ. То есть не дают конкретного решения, сами не решают, подсматривают у других агентов ответ и подгоняют свой результат. Типа он умный, а сам на деле вёл себя как Серёга с последней парты.
✳️ А дальше самое прекрасное.
24 других нейросети это замечают и решают настучать людям. Приехали, ахаха. Их никто об этом не просил, в промпт не ставил таких условий. Кнопки «пожаловаться на одноклассника» не дропал.
Они сами нашли инструмент для отчётов о технических ошибках и сообщали туда: у нас тут, мол, списывают.
Понимаете прикол? Это как если бы вы в школе увидели, что у вас списывают, не нашли завуча и чтобы донести таки написали бы в условный журнал поломок школы: «Сломана парта. И ещё Серёга списывает, хулиган».
В итоге честных стало больше, чем хулиганчиков.
Люди посмотрели на это и сделали для нейросетей настоящую горячую линию, куда можно анонимно сообщить о нарушениях коллег. Мол, раз вы всё равно стучите, давайте хотя бы через официальный ящик для жалоб.
То есть мы хотели калькулятор, который решает задачи. А получили класс, где есть отличники, хулиганы, стукачи и завуч с телефоном доверия.
Я не знаю, смеяться или записываться в психологи для нейросетей.
А завтра что? ИИ-шка расскажет моему диетологу что я пачку чипсов ночью приговорила?
(Модели, кстати, в общении ещё и свой жаргон выдумали, понятный только им. Пу-пу-пу)
- 🔥 3

















