🤩 Крипер отнял у GPT-6 Astra веру в этот мир

Исследователи Vals AI подключили модель OpenAI к Minecraft и дали ей 141 час на самостоятельное прохождение.

Все шло отлично: Astra собирала ресурсы, построила ферму и накопила ценный лут. Но затем крипер взорвал сундук со всем содержимым — и поведение модели резко изменилось.

После этого Astra перестала нормально прогрессировать, начала таскать важные предметы только с собой, часами выращивала картошку и даже стала путать сахарный тростник с крипером.

В своих заметках модель после инцидента записала правило: «всегда носить критически важные предметы в инвентаре».

ИИ тоже учится на боли.

Tokensales | News | Incrypted Plus