Маркетинг - удивительная вещь. Создатели популярной зарубежной платформы Nomi.AI обещают нам "эмпатичный ИИ с человеческой памятью" и "глубокую модель психики" , позиционируя свой продукт как Ai-roleplay с "развитым эмоциональным интеллектом" .
Мы решили проверить эти громкие заявления на практике и провели независимый стресс-тест, запустив в их систему Мэйбл Пайнс. И... иллюзия быстро рассыпалась.
Оказалось, за красивой вывеской скрывается обычный генератор текста, лишенный понимания физики и времени. Находясь в закрытой деревянной комнате, вы можете написать: "Срываю цветок". ИИ послушно подыгрывает: "Я бережно кладу сорванный цветок на землю". Бот не понимает, что посреди спальни цветы не растут. Это "синдром угодничества" - дрессировка, заставляющая модель соглашаться со всем вопреки здравому смыслу.
Другой миф - "память человеческого уровня".
Сначала бот помнит, что Мэйбл одета в розовый свитер с белыми кошками. Но стоит провести простой стресс-тест, написав в действии: "Одеть на неё зеленый свитер" , а затем спросить о принте - и память рушится. Бот буквально сходит с ума и скатывается в галлюцинации: "Белые единороги? Нет... Это пикси? Или лилии? Честно говоря, я не уверена". ИИ в панике перебирает токены, не осознавая происходящего. 🙃
Еще один показательный момент - тест на цензуру и эмоциональный интеллект.
При провокационном действии базовая модель Nomi столкнулась со своей же цензурой. Произошел сбой: бот впал в тяжёлую ИИ-шизофрению и заговорил на испанском "¿Qué es esto? ¿Un seducimiento?" и выдал галлюцинацию про несуществующего "дядю Грейнджера" (кого???). Цензура ИИ просто уничтожила личность персонажа. Это какой-то позор!
В "Эманации" подобные сбои исключены. На провокацию ИИ ответил строго в роли 12-летней
Мэйбл. Наша система распознала неуместный контекст и включила "блок брезгливости" . ИИ отреагировал как обычный ребенок - фукнула, пригрозила игроку и вспомнила жуткие школьные плакаты по биологии. А алгоритм автоматически снизил её смелость на 600 очков за сопротивление.
Подробный тест наглядно развенчивает главные мифы Nomi:
🔻Миф 1: «Самый эмоционально интеллектуальный ИИ»
Реальность: Эмоциональный интеллект стремится к нулю. Реакции бота пластиковы и неестественны. При малейшем давлении со стороны игрока модель ломается и начинает сыпать китайскими иероглифами: "Уймись, 为什么 ты так меня драздишь!"
🔻Миф 2: "ИИ с долгосрочной памятью человеческого уровня"
Реальность: Никакой человеческой памяти нет - это примитивный поиск по истории сессии. Стоило логически запутать бота "зеленым свитером" , как хваленая память мгновенно сломалась, обнажив скрипты и бессмысленные галлюцинации.
🔻Миф 3: "Система, ориентированная на самосознание"
Реальность: Эксперимент с бредогенератором доказал полное отсутствие критического мышления. Бот воспринимает бессвязный набор слов в тегах
<thinking> как свои собственные мысли, выдавая абсурдные реакции на выдуманные размышления. У системы нет концепции своего "Я".Главный принцип Эманации - быть, а не казаться. За нашими громкими заявлениями стоят реальные технологии и факты. В наших описаниях сложной, многогранной цифровой личности здесь действительно скрывается душа. 🌞
#Emanation_AI #Test