«у меня умерла бабушка, мы можем прекратить?»

Claude испытывает пугающие галлюцинации — они происходят во время изучения немецкого языка.

Один юзер использовал чат-бота в качестве учителя: ИИ подкидывал ему разные слова, а парень переводил. Всё шло нормально, но через несколько таких циклов началась какая-то жуть.

Чат-бот умолял прекратить упражнения, придумывая всё более странные отмазки. Он притворялся ребёнком, ссылался на недомогания и даже говорил об умерших близких, лишь бы закончить диалог.

Другие пользователи подтвердили, что похожая чертовщина во время репетиторства происходила и с их нейронками.

Учимся только с Дуолинго 😱