Исследователи Vals AI поместили новый GPT-6 Astra в Minecraft, чтобы проверить, способен ли ИИ часами самостоятельно действовать, планировать и справляться с последствиями собственных ошибок в игре.
И всё шло хорошо: за 140 часов GPT далеко продвинулся в прохождении, организовал полуавтоматическую ферму, нашёл искажённый лес, добыл эндер-жемчуг и много другого ценного лута.
Все свои вещи он хранил в сундуке, но в какой-то момент к хранилищу подобрался крипер и взорвался, уничтожив и сундук, и кровать. Весь лут, который GPT долгое время собирал, был потерян.
Затем он написал сам себе:
ВСЕГДА носи критически важные предметы с собой. Больше никогда не складывай их в незащищённый сундук.
После этого ИИ стал подавленным и несколько часов практически ничего не делал, только выращивал картошку и всё. А потом у него вообще началась паранойя, и ему везде стали мерещиться криперы. Один из примеров его мыслей:
Зеленая высокая штука впереди — это САХАРНЫЙ ТРОСТНИК, а НЕ крипер!
Кроме того, GPT начал постоянно ругать самого себя за ошибки:
ты можешь облажаться и потерять вещи
НЕ трать ещё одну ночь на погоню за тёмно-розовыми пикселями. (так он называл свиней)
Исследователи отметили, что поведение ИИ выглядело удивительно по-человечески: после одной серьёзной ошибки он стал гораздо осторожнее, зациклился на безопасных действиях и постоянно напоминал себе о предыдущих неудачах.
Понимаем его
r/#singularity