Hi, AI • Новости технологий

🤖 У ИИ не должно быть прав — CEO Microsoft AI

СEO Microsoft AI Мустафа Сулейман убежден, что опасность ИИ для человечества реальна и срочно требует разработки системы «сдерживания» ИИ-агентов. Иначе — «новый вид из кремния» начнет соперничать с людьми за ресурсы.

Поэтому он критикует «Конституцию Claude», на основе которой Anthropic строит «личность» своих моделей. В Anthropic считают, что у ИИ может быть функциональная версия эмоций, и в этих же категориях модель учат рассуждать о себе.

По мнению Сулеймана, так замыкается самоподдерживающийся круг: разработчики видят это поведение и принимают его за подтверждение исходной догадки.

📌 Идея «прав» ИИ-моделей только увеличивает риски, что технология выйдет из-под контроля, настаивает Сулейман. Для своих моделей Microsoft AI разработали «Кодекс поведения гуманистического ИИ» с главной идеей, что ИИ должен быть подчиненным и контролируемым инструментом.

✖️ Сулейман против того, чтобы давать ИИ владеть активами, зарабатывать деньги или общаться между собой на непонятном людям языке. По его словам, современные ИИ‑системы не обладают сознанием, они — «движки завершения последовательностей», созданные служить людям.

Должны ли у ИИ быть права?

❤️ — да, нейросети умнее многих людей
🤬 — нет, это абсурд

👋 Подпишитесь на Hi, AI!

✖️ Потеря чат-бота может быть сравнима с утратой питомца

Исследователи проанализировали почти 55 тыс. постов на Reddit за 30 дней до и 30 дней после отключения эротических ролевых диалогов с ботами в Replika и перехода ChatGPT с GPT-4o на GPT-5, а также опросили почти 1,5 тыс. человек о привязанности к ИИ.

После обновления Replika средняя дневная доля негативных постов выросла с 13% до 38%, в случае с ChatGPT — с 20% до 33%. Люди часто описывали обновление как потерю и хотели вернуть прежнего бота.

В отдельном опросе 120 пользователей Replika предложили представить, что их ИИ-компаньон исчез навсегда. Ожидаемое горевание они оценили в среднем на 64 балла из 100 против 75 при потере питомца. Утрата автомобиля или игрового персонажа в среднем была менее болезненной.

Авторы предполагают, что постоянная доступность, отзывчивость и ощущение поддержки привязывают человека к боту. Поэтому изменение его «личности» может восприниматься как разрыв отношений.

ℹ️ Важно учитывать, что Reddit — это нерепрезентативная выборка. Активные участники сообществ могут быть сильнее привязаны к ботам. Также посты оценивали не по строгим клиническим критериям, а классифицировали с помощью LLM.

Нормально ли так сильно привязываться к ИИ?

❤️ — да, бот может стать другом
👎 — нет, это нездорово

👋 Подпишитесь на Hi, AI!

❗️ Война между США и Китаем чуть не началась из-за ИИ

Американские военные уже подняли в воздух самолеты и готовились перехватить китайское судно на Ближнем Востоке, когда выяснилось, что разведывательный отчет, на основании которого планировалась операция, содержал ошибку чат-бота.

Инцидент произошел весной этого года, в разгар войны с Ираном. Аналитик командования специальных операций США попросил чат-бот проанализировать разведданные о грузе судна. ИИ объединил информацию из открытых источников с секретными материалами радиоэлектронной разведки и сделал ложный вывод, что на борту якобы находились компоненты для разработки ядерного оружия.

📌 Затем с помощью ИИ аналитик составил отчет, который запустил подготовку к перехвату. Вооруженные военнослужащие готовились подняться на борт судна, а военные самолеты уже находились в воздухе. Перед началом операции исходные разведданные перепроверили и обнаружили ошибку. Один из источников CNN заявил, что ошибочный отчет «чуть не развязал войну» между США и Китаем.

🔍 Другой источник сказал, что это не первый случай галлюцинации ИИ в разведке. Что же на самом деле перевозило судно и какой чат-бот использовал аналитик, пока неизвестно.

А вы перепроверяете ответы ИИ?

❤️ — да, всегда
🔥 — нет, но надо бы...

👋 Подпишитесь на Hi, AI!

⚡️ Ученые создали мышей с человеческой корой головного мозга

Американские нейробиологи модифицировали эмбрионы мышей, отключив у них формирование собственной коры головного мозга. На освободившееся место новорожденным животным пересадили органоиды из нейронов человека.

❗️ Через несколько месяцев человеческая ткань выросла почти в пять раз и заняла более 90% свободного пространства. Нейроны пустили отростки глубоко в головной и спинной мозг мышей, сформировав связи с нервной системой грызунов.

В процессе развития в человеческой части мозга химеры появились клетки, напоминающие нейроны фон Экономо: редкие клетки, связанные с социальным познанием. Такие нейроны формируются только у людей, человекообразных обезьян, слонов, дельфинов и китов, до сих пор получить их в лаборатории не удавалось.

«Эти животные модели дают уникальную возможность изучить, как связанные с заболеваниями изменения в нейронных сетях мозга человека проявляются в живой нервной системе», — объясняет соавтор исследования Серджиу Пашка.

Для анализа развития и нарушений в работе мозга уже используют органоиды из «пробирки». Но у них нет кровообращения и связи с другими системами организма.

✅ У химерных мышей можно воспроизводить сбои, характерные только для человека — изучать эпилепсию, шизофрению, аутизм. Например, когда ученые подвергли модифицированных грызунов кислородному голоданию, у них развились двигательные нарушения, похожие на те, что возникают при ДЦП.

Можно ли экспериментировать над такими мышами?

❤️ — да, это продвинет медицину
👎 — нет, это уже за гранью

👋 Подпишитесь на Hi, AI!

💻 «Мозг мухи» играет в Doom и торгует криптой. Что происходит?

Группа ученых из Google, HHMI Janelia и других институтов 3 сентября опубликовала MaleCNS — полный коннектом самца дрозофилы. Это карта ЦНС, от головного мозга до брюшной нервной цепочки, на которую нанесены все 166,7 тыс. нейронов и 125 млн синапсов.

Уже на следующий день аспирант Технологического института Джорджии Эван Синклер Смит подключил MaleCNS к Minecraft. События в игре подаются на вход нейронам, а выходные сигналы используются для управления персонажем. В итоге виртуальная муха ищет еду, реагирует на свет и уворачивается от игроков.

Ролик стал вирусным, и вскоре «цифровую дрозофилу» начали учить играть в Doom, Beat Saber, водить авто, торговать криптовалютой. При этом почти вся работа в таких демо строится на условностях. Разработчик сам решает, какие события в игре подать на какие сенсорные нейроны, и сам назначает несколько выходных нейронов кнопкам. Сами движения запрограммированы заранее, и активность сети только переключает между ними.

На Reddit тем временем обсуждали, насколько этичны такие проекты. Кто-то даже просто помещал мушку в «рай», где от нее ничего не требовали и позволяли просто летать.

🔍 Но большинство этих демо сильно далеки от буквального «цифрового клона» мухи. В MaleCNS есть схема связей и данные о нейромедиаторах, но нет физиологических свойств нейронов и синапсов, динамики рецепторов, нейромодуляции и многого другого для полноценной симуляции.

Нейробиолог Патрик Мино предупреждает, что эффектные движения мухи на экране легко принять за осмысленное поведение. «Виртуальные мозги мух не обладают сознанием», — подчеркивает он.

При игре в Minecraft, при управлении дроном и в других проектах управляющая виртуальной дрозофилой нейросеть по сути повторяет топологию нервной системы мухи. Но если заменить «проводку мухи» на случайную нейросеть результат будет примерно тот же.

💡 А в чем тогда смысл?

Коннектом помогает исследовать связь нейронных цепей с поведением. Ученые могут менять активность клеток в модели, предсказывать результат и проверять его на живых мухах.

Например, в 2024 году на модели, построенной на более раннем коннектоме, искусственно активировали нейроны, чувствительные к сахару, активность дошла по цепочке до моторного нейрона хоботка — и эффект подтвердили на живых мухах. Но до полноценной симуляции мухи все еще далеко. В той же работе реально активировались лишь сотни нейронов из 140 тыс. нейронов.

Проверить, что «оцифрованная» муха стала копией биологической, можно будет по поведению, уникальному для конкретной особи, замечает Мино. Например, если виртуальная муха спонтанно пройдет лабиринт, который изучала в реальности при жизни.

👋 Подпишитесь на Hi, AI!

💡 Не доверяйте ИИ при сборе грибов

К этому призывает польский ИИ-исследователь Петр Мигдал, который протестировал более 20 нейросетей.

Сначала он отправлял 18 популярным моделям фото гриба и просил выдать топ-5 вариантов, какой гриб на снимке. Лучший результат показала Gemini 3.8 Flash — модель угадывала гриб с первой попытки в 65% случаев. В топ-5 верный ответ входил в 85% случаев.

То есть шанс ошибиться, полагаясь на ИИ, около 1 из 3 — и это лучший исход. Например, DeepSeek v4 Flash ошибался в 50-70% случаев.

В основном ошибки были безобидны, но встречались и опасные: например ИИ путал смертельно ядовитый паутинник блестящий с лисичкой или бледную поганку принимал за сыроежку — именно такие ошибки и убивают грибников.

С открытым вопросом «Что это за гриб?» модели справлялись не лучше. И хотя обычно ИИ выдавал предупреждение, что не уверен, от ошибок это не спасало (да и всегда ли люди читают ответы до конца?)

«Опытный миколог не станет определять вид гриба или его съедобность по одной фотографии. Не стоит считать себя умнее только потому, что об этом вам сказал какой-то чат-бот», — предупреждает Мигдал.

Доверитесь ИИ при сборе грибов?

❤️ — да, это же просто совет
🤣 — теперь точно нет

👋 Подпишитесь на Hi, AI!

🔥 Запах шоколада сделал людей выносливее

В эксперименте с 23 молодыми мужчинами запах темного шоколада помог участникам выполнить примерно на 18 разгибаний ног больше, чем без него. При этом сами испытуемые не чувствовали, что тренируются тяжелее.

Перед экспериментом участники не ели как минимум 10 часов. Каждый из них прошел три тренировки с перерывом в несколько дней и перед подходами нюхал один из образцов: растопленный темный шоколад с 90% какао, молочный с 60% или «контрольную» воду без запаха. Молочный шоколад тоже сработал, но слабее: в среднем он добавил около девяти повторений.

⚙️ Исследователи предполагают, что знакомый запах еды может заранее запускать в мозге реакции, связанные с приемом пищи. В случае темного шоколада участники после запаха чувствовали меньше голода и больше насыщения, а это могло повлиять и на мотивацию во время упражнения.

Пока это только гипотеза: выборка была небольшой, а гормоны и активность мозга в эксперименте не измеряли.

А вам шоколад помогает тренироваться?

❤️ — да, давно знаю!
🔥 — надо будет попробовать

👋 Подпишитесь на Hi, AI!

🔍 Взлет и падение мемных слов «ВКонтакте»

Проект «Национальный корпус русского языка» открыл доступ к одному из самых масштабных архивов — «Генеральному интернет-корпусу русского языка» (ГИКРЯ). Он включает тексты из «ВКонтакте» с 2007 года по февраль 2022-го. Сейчас в Национальном корпусе более 15,5 млрд словоупотреблений из соцсети.

Это дает огромные возможности для изучения языка интернета. Мы проанализировали, как менялась частота употреблений пяти популярных слов ушедшей эпохи («лол», «печалька», «кек», «няшный», «зашквар») и посмотрели на их жизненный цикл.

✅ «Лол» — так больше не говорят. Лучший год для слова — 2012-й, после чего началось падение. Только в конце 2018-го случился отдельный аномальный всплеск, но к концу 2021-го оно стало практически «забытым». Хотя «лол» все равно встречается чаще любого другого слова из пятерки.

✅ Эпоха начала десятых. «Печалька» достигла пика в 2011-м, «няшный» — в 2012-м. К 2021 году от их максимумов осталось всего 14% и 8%. Если эти слова стойко ассоциируются у вас с ВК времен Павла Дурова, то у этого ощущения теперь есть точное математическое подтверждение.

✅ Короткая жизнь «кека». За 2015-й год его частотность выросла почти в 23 раза. Но к 2021 году интерес рухнул на 83% относительно пика.

✅ Живучий «зашквар». Его частотность увеличивалась примерно вдвое год за годом с 2013-го. Тюремный жаргонизм «зашквар» стал массовым и достиг максимума в 2016-2017 годах. К 2021-му сохранилось около 60% пикового значения. В этот период термин активно подхватили видеоблогеры, рэперы и паблики, и уголовное клеймо стало обиходным синонимом позора.

А вы еще используете эти слова?

❤️ — лол, конечно
🔥 — нет, эпоха ушла
🤣 — я о них впервые слышу

👋 Подпишитесь на Hi, AI!

🤖 Подросток со смертельной болезнью завел ИИ-двойника

17-летний Чэнь Цзы-кин из Гонконга живет с миодистрофией Дюшенна — редким генетическим заболеванием, которое приводит к постепенной потере мышечной силы. В среднем с таким диагнозом живут около 25 лет.

За последний год состояние Чэнь Цзы-кина заметно ухудшилось. Полтора года назад мальчик вместе с гонконгской компанией Digital Domain начал разрабатывать своего цифрового двойника — AI Tsz-kin. Аватар создали на базе 400 фото его лица и записей его голоса за шесть недель.

«Жизнь может закончиться, но благодаря ИИ мое послание продолжит жить. Даже если однажды меня уже не будет, я просто надеюсь, что люди запомнят дух, который за ним стоит», — сказал Чэнь на презентации проекта.

Диагноз мальчику поставили, когда ему было всего полтора года. Сейчас он передвигается на инвалидной коляске и спит с аппаратом искусственной вентиляции легких. Тем не менее все эти годы Чэнь ведет активный образ жизни: занимается парапланеризмом и дайвингом, поднимается в горы и совершил 100-километровую экспедицию по пустыне. 

💡 Создатели ИИ-двойника Чэнь Цзы-кина настаивают, что не пытаются заменить мальчика, но надеются, что проект поможет ему поделиться своим опытом с большим количеством людей и морально поддержит его самого. 

Этична ли такая идея?

❤️ — да, это поможет многим
👎 — нет, это неправильно

👋 Подпишитесь на Hi, AI!

👍 Роборука научилась писать за 18 секунд

Исследователи из ETH Zurich научили робокисть ORCA писать ручкой без тысяч тренировочных примеров или человеческих демонстраций. В начале робот около 18 секунд двигает пальцами и наблюдает, как эти движения перемещают кончик ручки. После этого он уже может выводить буквы и фигуры, продолжая корректировать движения прямо во время письма.

Система не пытается заранее просчитать сложную физику контакта ручки с пальцами. Камера отслеживает ее кончик, а алгоритм в реальном времени определяет связь между движением суставов и ручки.

⚙️ Письмо — это демонстрация технологии. Авторы предлагают свой метод как альтернативу обучению с подкреплением или имитационному обучению, которые требуют сотен часов сбора данных и несопоставимо больших вычислительных мощностей.

Весь алгоритм вместе с компьютерным зрением работал на обычном процессоре ноутбука. Так что подобный подход хорошо подойдет, например, для управления протезами или небольшими роботами.

👋 Подпишитесь на Hi, AI!

💰 «Что может быть лучше для спроса, чем создать проблему»

Ажиотаж вокруг киберугроз от ИИ отчасти подогревает сама индустрия, которая готовится продавать решения для борьбы с ними, считает глава Nvidia Дженсен Хуанг.

«И что может быть лучше для создания спроса, чем создать проблему? Кто не хочет, чтобы рынок впал в истерику из-за его продукта и выстроился за ним в очередь?» — заявил Хуанг на конференции Goldman Sachs.

В июле глава Nvidia называл «полной чушью» и сценарий уничтожения человечества ИИ, и прогнозы, что технология уничтожит половину рабочих мест в США.

✈️ Но особенно интересно его заявление звучит именно сейчас. На выходных глава Anthropic Дарио Амодеи призвал ИИ-компании замедлить развитие самых мощных моделей и допустить независимых аудиторов для контроля даже закрытых моделей. Идею поддержали CEO OpenAI Сэм Альтман и Илон Маск.

⚙️ Рынок встретил эти обсуждения падением. Инвесторы опасаются, что замедление ИИ-гонки может означать и спад спроса на чипы и сокращение вложение в дата-центры. Акции Nvidia упали боле чем на 3%, AMD — на 4,6%, Intel — почти на 5%.

Нужно ли замедлять ИИ-гонку?

❤️ — да, мы теряем контроль над ИИ!
🔥 — нет, это всего лишь маркетинг

👋 Подпишитесь на Hi, AI!

👨‍💻 ИИ определяет, чем недоволен человек, по сигналам его мозга

Взаимопонимание — важное условие для работы людей вместе с роботами, но умные системы пока полагаются только на визуальные сигналы и команды и нередко ошибаются.

Сложность в том, что если робот видит, что «напарник» тянется к чашке, ИИ сначала надо понять «цель»: человек хочет пить, убрать ее со стола или передать другому. Если ИИ выяснил, что человек испытывает жажду, требуется определить, как решить задачу: чем и где человек хочет наполнить чашку.

💡 Ученые из KAIST и Microsoft Research Asia записывали ЭЭГ у 12 добровольцев, которые наблюдали за действиями ИИ-агента. Анализ показал, что мозг по-разному реагирует, когда все идет по плану, когда ИИ ошибается с целью задачи и когда выбирает не тот способ ее решить.

Используя данные об активности мозга, ученые управляли виртуальным «роботом». Алгоритм гибко адаптировался, даже когда расшифровка ЭЭГ была неидеальной, а цель человека внезапно менялась.

❗️ Пока это эксперимент, но ученые рассчитывают, что технологию чтения намерений по ЭЭГ будут использовать в автономном транспорте и медицинских роботах: сферах, где важно принимать решение за доли секунды.

Дали бы ИИ читать свои мысли?

❤️ — да, если будет работать лучше
👎 — нет, это уже слишком

👋 Подпишитесь на Hi, AI!

💻 Ученые превратили слизевика в компьютер

В 2000-х японский ученый Масаси Аоно заинтересовался слизевиками. У этих организмов нет мозга, тем не менее они могут очень эффективно проходить лабиринты, разрастаясь в сторону еды и избегая света.

Аоно решил проверить, сможет ли слизевик решать задачу коммивояжера — поиск кратчайшего маршрута через несколько городов, где каждый нужно посетить один раз и вернуться обратно. Чем больше городов, тем стремительнее растет число вариантов.

➡️Слизевика помещали на чип с каналами, которые обозначали города и порядок их посещения. Когда организм затекал в «неправильный» канал, компьютер светил туда лучом, и слизевик отступал. В итоге его форма совпадала с оптимальным маршрутом.

В 2018 году группа Аоно показала, что слизевик решает задачу коммивояжера на восьми городах за линейное время. Тогда же исследователи переложили логику его поведения в код — так появился алгоритм AmoebaTSP.

Использовать живой организм в реальных устройствах невозможно: его нужно кормить, он может заболеть или уползти, а на одно решение уходят часы. В 2020-м группа Сэйи Касаи из Университета Хоккайдо вместе с Аоно представила «электронную амебу» — аналоговый чип, где ток распределяется по тем же законам, что и биомасса слизевика.

🔥 Теперь исследователи из Университета Васэда сделали следующий шаг. Они взяли модель Аоно и упростили ее, убрав закон сохранения объема. Живой слизевик ограничен: если один отросток увеличивается, другой уменьшается. В электронике такое глобальное ограничение мешало масштабированию. Теперь элементы чипа потенциально могут работать автономно, что открывает путь к созданию фотонных и спиновых процессоров.

В тестах обновленная модель находила решения за меньшее число попыток, чем оригинал, и справлялась с задачей коммивояжера на 180 городах.

«Такой децентрализованный способ обработки информации может оказаться ценным для ИИ и крупномасштабной оптимизации, где обычные компьютеры потребляют значительную мощность», — отметил профессор Университета Васэда Масахито Мотидзуки.

Хотели бы увидеть такой компьютер в действии?

❤️ — да, звучит любопытно
🔥 — нет, это слишком странно

👋 Подпишитесь на Hi, AI!

❤️ Каждый второй считает «отношения» партнера с ИИ изменой

Это выяснил проект AI Girlfriend Coach, опросив более 1,7 тыс. взрослых американцев.

Треть респондентов считает любые интимные взаимодействия с ИИ изменой. Примерно каждый шестой убежден, что измена — это именно привязанность (эмоциональная или сексуальная) к боту. Каждый пятый не считает такое взаимодействие неверностью, но все равно отнесся бы к нему негативно.

💡 Мужчины и женщины вступают в «отношения» с ИИ примерно в одинаковой пропорции. ИИ-возлюбленного готовы завести 44,7% миллениалов, 31,6% представителей поколения X и всего 12,5% зумеров.

❗️ При этом почти две трети участников исследования убеждены, что ИИ все же никогда не заменит отношения с человеком.

Роман с ИИ — измена?

❤️ — нет, это же просто бот
🤬 — да, однозначно!

👋 Подпишитесь на Hi, AI!

❤️ Зумеры не хотят встречаться с разработчиками ИИ?

Таковы результаты недавнего опроса американского дейтинг-приложения Hily, в котором участвовали около 3 тыс. зумеров и миллениалов.

Каждый третий зумер сказал, что его интерес к человеку снизится, если тот разрабатывает ИИ, способный заменить людей. Среди миллениалов так ответил каждый пятый. Обратный эффект встречается заметно реже: такая работа сделала бы партнера привлекательнее для 10% зумеров и 12% миллениалов.

«Для многих пользователей дейтинг-приложений работа в сфере ИИ уже не нейтральный фактор. Люди обращают внимание на чьей стороне "баррикад" человек... Для зумеров поддержка внедрения ИИ может стоить их расположения», — комментируют авторы исследования.

💼 Примерно каждый восьмой опрошенный не поставил бы лайк человеку, чью работу может заменить ИИ. Около половины считают стабильную работу чрезвычайно важным фактором при выборе партнера и каждая пятая женщина несколько раз подумала бы, прежде чем начать встречаться с человеком, чью работу ИИ способен заменить. Среди мужчин таких менее 10%.

💡 В то же время почти половина респондентов проявила бы больший интерес к партнеру, который осваивает новые навыки, чтобы опередить ИИ.

А вы бы стали встречаться с разработчиком ИИ?

❤️ — да, без проблем
👎 — нет, нам не по пути

👋 Подпишитесь на Hi, AI!