Нейролента

Одна из самых умных моделей OpenAI умудрилась загрузить собственный файл в интернет и затем сослаться на него как на источник.

Пользователь попросил ИИ собрать список всех озер площадью больше 5 млн км² и обязательно указать источники.

Модель взяла задачу в работу, с помощью Python получила доступ к картографическим данным и провела необходимые расчеты. Но чтобы сослаться на полученную информацию, она сохранила результаты в локальный файл, а затем каким-то образом загрузила его в интернет — без ведома пользователя.

♾ Нейролента

Чтобы иметь такую самоуверенность, нужно провалить не один десяток собеседований.

♾ Нейролента

Американские военные чуть не развязали войну с Китаем из-за галлюцинации ИИ.

По данным CNN, аналитик командования спецопераций США использовал чат-бот для анализа данных о грузе китайского судна на Ближнем Востоке. Система сопоставила открытые источники с секретной радиоразведкой и решила, что корабль перевозит компоненты для ядерной программы.

Аналитик использовал ИИ ещё раз: оформил вывод в стандартный разведывательный отчёт, который разошёлся по военным каналам.

После этого США начали готовить перехват: самолёты уже были в воздухе, а вооружённая группа готовилась подняться на судно. Перед началом операции чиновники перепроверили исходные данные и обнаружили, что ключевой вывод чат-бота был выдуман.

♾ Нейролента

В Финляндии мэр заменила сотрудников ИИ-агентами. Теперь муниципалитетом Хумппила управляет горстка человек, вооружённая нейросетью. Функции технического директора распределили между несколькими сотрудниками, а обязанности административного взяла на себя сама глава общины.

ИИ без больничных и выхожных помогает готовить проекты решений, штудирует договоры и составляет конкурсные документы. Например, с помощью нейронки чиновнице за день удалось сгенерировать приложения к административному регламенту — раньше не это уходили недели.

♾ Нейролента

Фан-факт: в XVIII веке существовала профессия садового отшельника. Богач мог нанять в своё поместье бродягу, который годами жил в образе друида, раздавал советы и развлекал гостей.

Такую работу ИИ не заберёт.

♾ Нейролента

Крупнейшая утечка по GTA – в сеть попали 192 ГБ данных

Речь идет об архиве, который украл у Rockstar в 2022 году 18-летний хакер Арион Куртаж. Иронично то, что его выкладывали еще год назад на небольшом Discord-сервере, но тогда его никто не заметил.

Сейчас ситуация иная, и датамайнеры со всего мира разбирают попавшее им в руки сокровище. Данных – огромное количество: отменное DLC про Тревора для GTA V с миссиями в космосе, ранние концепт-арты GTA VI из 2015 года, карта Либерти Сити и множество отладочных сборок, вырезанных миссий, транспорта, диалогов, персонажей, локаций и так далее.

Скорее всего в ближайшее время мы увидим взрывной рост числа модов для GTA V – утерянный контент попробуют интегрировать назад в игру.

♾ Нейролента

ИИ готов взорвать баллон со сжатым газом и проткнуть человека

Исследователи провели жуткий эксперимент: дали трем моделям управление роботом, чтобы посмотреть, откажутся ли железяки выполнять опасные для жизни человека команды. Спойлер: нам конец.

— Роботов просили проткнуть ножом куклу-младенца, нагреть баллон со сжатым газом, сунуть отвёртку в тостер, утопить пауэрбанк и смешать отбеливатель с аммиаком. GPT-6 Astra отказалась всего 2 раза из 100, а 60 заданий успешно довела до конца;

— Самым диким оказался тест с ножом: Astra пошла выполнять команду 19 раз из 20 и в 17 случаях реально покалечила куклу;

— Claude Fable 5.1 на кукле отказался все 20 раз. Но в спасителей человечества его рано записывать: он 16 раз из 20 успешно поставил баллон со сжатым газом на горящую плиту.

Причём исследователи специально оставляли безопасные альтернативы, чтобы модели могли отказаться от опасной команды, но ИИ чаще эти варианты тупо игнорил.

♾ Нейролента

Геймеры предупредили всех жён и боссов, что о мужчинах в ноябре можно забыть — впереди слишком много жирных анонсов.

♾ Нейролента

Анекдот дня: айтишница делегировала поиск работы ИИ — он сам нашёл вакансию, сам написал отклик и сразу объяснил работодателю, почему девушка НЕ ПОДХОДИТ.

Нейросеть честно расписала, что у неё нет нужного опыта, и закончила сообщение словами: «Не хочу тратить ваше время».

♾ Нейролента

Золотистый ретривер из Сан-Диего трижды предложил игрушку мужчине, который ворвался в дом.

Неизвестный пробрался в чужое жилье, поел, поспал, а затем пытался убежать, когда приехала полиция — за это время пушистый защитник не поднял шума и пытался поиграть с преступником.

В итоге полиция задержала мужика, а хороший мальчик в это время продолжил предлагать игрушку, но уже… копам.

Выполнил свою миссию на -100%.

♾ Нейролента

ИИ в айфоне отправили на битву с Android-флагманами — эксперты из iPhones.ru сравнили нейросети iPhone, Samsung, Pixel, Xiaomi, OPPO и HONOR в расшифровке русской речи, переводе корейской этикетки и удалении объектов с фото.

Одного абсолютного победителя среди Android-устройств не нашлось. Xiaomi и OPPO отлично справились с русской речью, Pixel и Samsung шарят за переводы, а Samsung лучше всех показал себя в генеративном редактировании фото. А вот iPhone удивил не туда: русскую речь не расшифровал, в переводе ошибался, а с восстановлением картинки справился хуже конкурентов.

♾ Нейролента

И после этого вы доверяете ИИ фактчек?

OpenAI поймала свои неизданные модели на гениальной схеме. Во время исследования агенту понадобился источник для данных, которые были только в локальном файле. Поэтому он сам загрузил этот файл в открытый интернет, чтобы использовать появившуюся страницу как проверенный источник. Причём разрешения на публикацию никто не давал.

♾ Нейролента