Горизонт сингулярности

Google TI: обзор методов использования ИИ хакерами

Google Threat Intelligence опубликовали интересную подборку обнаруженных способов использования ИИ в различных сценариях взлома.

PROMPTFLUX через Gemini API переписывает собственный код каждый час, чтобы уходить от антивирусов. Использует тег "gemini-1.5-flash-latest".

PROMPTSTEAL от APT28 генерирует команды через Qwen2.5-Coder на Hugging Face. Маскируется под генератор картинок, а фоном собирает данные.

Защита Gemini чаще всего обходится запросами: "я студент на CTF-соревновании" или "пишу диплом по кибербезопасности".

На андерграунд-форумах появился полноценный рынок AI-инструментов для фишинга и эксплойтов с подписочными моделями.

Пока большинство примеров экспериментальные, но тренд чёткий - ИИ малвари, - новый стандарт.

#PROMPTFLUX #cybersecurity
———
@tsingular

Nvidia Rubin CPX — чипы для ИИ всё более специализируются

Инференс современных LLM состоит из двух стадий: prefill и decoding, которые крайне отличаются по своим требованиям. Префил требует вычислительную мощность чтобы сгенерировать KV кэш, а для декодинга нужна пропускная способности памяти, чтобы грузить KV кэш и веса на чип.

Из-за такой разницы, на нодах которые занимаются префилом, простаивает самая дорогая часть современных датацентровых GPU — HBM память, которая сейчас составляет 50%+ всей стоимости GPU. К тому же она всё ещё в дефиците и является чуть ли не основным ограничителем производства видеокарточек.

Решение от Nvidia — сделать специальные, более дешёвые, карточки для префила. В качестве памяти — 128 гигабайт GDDR7 (против 288GB HBM4 у VR200), пропускной способность в 2 терабайта в секунду вполне достаточна для префила. Кроме этого экономят на других штуках вокруг чипа — вместо дефицитного CoWoS-L используют более бюджетный FC-BGA, а связываются карточки друг с другом по PCIe вместо NVLink.

Большой плюс — упаковать в одну стойку можно 144 таких видеокарты, против всего 72 GPU в NVL144. При этом такая стойка с Rubin CPX будет не просто иметь больше компьюта, но и кушать меньше энергии.

Так как префил в больших деплойментах и так делают на отдельных нодах, на высоком уровне мало что изменится — просто машины для префила переедут на специальное железо. Главный минус — такие GPU перекидывать между тренировкой и инференсом вряд-ли выйдет, но это явно будет компенсировано разницей в цене и доступности.

@ai_newz

Забираем: Perplexity выложили ГИГАНТСКИЙ гайд, как использовать нейросети в работе на МАКСИМУМ.

🔅 Внутри — 4️⃣3️⃣ страницы годноты для всех, кто хочет работать меньше, но делать больше.
🔅 Лучшие промпты, идеи, воркфлоу, кейсы и сценарии автоматизации различных задач.
🔅 Гайд написан для тулз Perplexity, но советы универсальные — пригодится для ЛЮБЫХ чат-ботов.

🔤🔤🔤🔤🔤🔤🔤

Сохраняйте — тут.

🙂 Не баг, а фича

ИИ-браузеры позволяют читать платные статьи НА ХАЛЯВУ

Браузеры, вроде новенького ChatGPT Atlas и других, обходят пейволы и легко пересказывают всё содержимое платных материалов совершенно бесплатно.

Забираем лайфхак, пока не прикрыли 😁

#ai

От друзей

🔗 NVQLink - GPU управляление для квантового компьютера

Nvidia соединила GPU с квантовыми процессорами для коррекции шумов через канал с латентностью 3.96 микросекунд.

Коррекция ошибок (QEC) должна работать в реальном времени - если декодер отстаёт хоть чуть-чуть, система встаёт.

Что предлагает NVidia:
FPGA квантового процессора → RDMA → GPU memory → декодинг → обратно.

Без участия CPU.
За 4 микросекунды сигнал проходит туда-обратно.

- Латентность: 3.96 μs (max), σ=35 ns
- Пропускная способность: 400 Гбит/с
- Ускорение декодера: 29-35× (до 42× на батчах)
- 100 логических кубитов требуют ~50 PFLOPS

arXiv

#NVIDIA #NVQLink #Quantum
———
@tsingular

В октябре ученые узнали тайну отравления неандертальцев, приоткрыли секрет двухсотлетней жизни гренландских китов и вырастили клетки с обонянием. Мы собрали самые яркие открытия октября — от генной терапии до использования искусственного интеллекта в создании белков.

Читайте наш традиционный ТОП-5 по итогам месяца и голосуйте реакцией за новость, которая понравилась больше всего:

🧬 — Новая система редактирования генома
🔫 — Неандертальцев погубило отравление свинцом?
👃— Клетки с обонянием
🤖 — ИИ моделирует несворачиваемые белки
🐳 — Генетические тайны вековой жизни китов

Немного генетики

Google запускает дата-центр в космосе

Project Suncatcher - план разместить около 80 спутников с TPU-процессорами на высоте 640 км.

Первые прототипы отправят на орбиту в начале 2027 года совместно с компанией Planet.

Основные вызовы:
- Связь между спутниками должна поддерживать десятки терабит в секунду через оптические линки
- Отвод тепла в вакууме
- Радиация: Trillium TPU выдерживают 5 лет без отказов, но нужна защита

К середине 2030-х стоимость космического дата-центра может сравняться с земным — если цены на запуски продолжат падать.

Вообще проектов ЦОДов в космосе становится уже достаточно много.
Астрономы уже жалуются, что спутники как мухи на лобовом стекле.
С панелями ЦОДов по 16 км2 вообще скоро звёзд не увидим. :)

#Google #Suncatcher #космос
———
@tsingular

Кто там говорил что космос это где то далеко ?

Запись вэбинара про лейкхаус.
Мило поговорили, немного поспорили, немного подпалили пердаки аудитории ♨️

В общем было весело, полистайте презу, там интересные цифры.

https://rutube.ru/video/private/b89bca6b1364949339bd2727ff66a09e/?p=zlKkuYvEMqr4cyxSg7gxdA

Я тут немного, писать начал.
Почитайте, там интересно.

Добавил оригинальную картинку, она слишком мрачная поэтому в хабр не пошла.

https://habr.com/p/962024/

OpenAI выпустила открытые модели модерации gpt-oss-safeguard

OpenAI совместно с некоммерческой организацией ROOST запустили gpt-oss-safeguard - opensource модели с рассуждениями для классификации и модерации контента.

Уже доступны на ollama в двух размерах: 20B и 120B параметров под лицензией Apache 2.0

Фишка - «bring your own policies»: можно подать несколько политик модерации одновременно, и модель разберётся со всеми сразу. Проверено на внутренних датасетах OpenAI, на публичном moderation dataset 2022 года и на ToxicChat.

В модель-карте описали «deliberative alignment» - обучение отказу от токсичного контента через рассуждения. Есть риски переобучения на бенчмарках, предложили динамическую оценку и темпоральное разделение данных.

#OpenAI #ROOST #ollama #guardrails
------
@tsingular

Отличная новость для тех кто модерирует контент

👨‍🎓 ChatGPT переходит на новый уровень естественности — теперь он будет писать тексты, неотличимые от человеческих. Больше никаких шаблонных оборотов, странных фраз и типичных следов ИИ-генерации.

Чтобы активировать обновлённый стиль, достаточно вставить в системные настройки следующую инструкцию:

🕤Пиши просто: короткие фразы, без усложнений.
Пример: «Мне нужна помощь с этим вопросом».

🕤Избегай ИИ-клише: не используй штампы типа «погрузитесь», «раскрой потенциал», «решение нового уровня».
Пример: «Вот как это работает».

🕤Говори прямо и коротко: не растягивай.
Пример: «Надо встретиться завтра».

🕤Держи естественный тон: пиши как говоришь; можно начинать с и/но.
Пример: «И поэтому это важно».

🕤Избавься от маркетинга: без слов вроде «революционный», «меняет жизнь», «уникальный».
Пример: «Этот продукт может помочь».

🕤Будь честным:
Пример: «Не думаю, что это хорошая идея».

🕤Не парься про идеальную грамматику: можно без заглавных, без сложных конструкций.
Пример: «думаю, можем попробовать».

🕤Не перегружай прилагательными:
Пример: «Мы выполнили задание».

🕤Ставь ясность выше всего: чтобы тебя понимали сразу.
Пример: «Пришли файл до понедельника».

💎 PDA

Для тех кто делает агентов и пишет диплом будет самое то :)

Превращаем нейронку в апскейлер картинок — собрали инструкцию для улучшения разрешения любого фото.

Забираем:

— Увеличь изображение в без потери мелких деталей.
— Сохрани оригинальные цвета, фактуру, зернистость и микроконтраст.
— Не изменяй детали, формы, тени и текстуры.
— Уменьши цифровой шум, но не делай кожу или поверхность «пластиковой».
— Не добавляй псевдо-детали, не пересвечивай.
— Оптимизируй изображение для печати и цифрового просмотра (300 dpi).

💎 PDA

Немного не про ИИ, но про будущее. Мне было интересно посмотреть

https://youtu.be/R-Se5u1-Iq8?si=-mc0YbrjM8urYxw8