Главный по машинному обучению
Сотрудничество: @veron_28
РКН: clck.ru/3FY3GN
Post #8766
25K
Когда поставили на один проект с тем самым коллегой
- 😁 467
- 💯 21
- ❤ 9
- 🫡 3
- ☃ 1
- 🔥 1
Channel ✦ Verified Channel
DA Data Secrets
@data_secrets
- Subscribers
- 94.9K
- Photos
- 7.5K
- Videos
- 889
- Links
- 3.5K
Showing posts older than #8768 · Back to latest
Older Posts 19 shown
Post #8765
27.9K
Мем дня: Сэм Альтман и Дарио Амодеи отказались держаться за руки
Во время AI саммита в Дели премьер-министр Индии затеял так называемый Unity Raise: довольно распространенная «церемония», когда участники берутся за руки, поднимают их вверх и как бы демонстрируют солидарность.
За руки взялись все до одного, кроме… Сэма и Дарио, которые случайно оказались рядом.
Напоминаем, что раньше эти двое работали вместе и Дарио занимал пост вице-президента по исследованиям в OpenAI. Но из-за разногласий с руководством в 2020 году он покинул стартап и основал Anthropic. С тех пор они с Альтманом – прямые конкуренты, а окончательно отношения с Сэмом разладились, вероятно, после той самой рекламы про рекламу на Super Bowl ✨
Во время AI саммита в Дели премьер-министр Индии затеял так называемый Unity Raise: довольно распространенная «церемония», когда участники берутся за руки, поднимают их вверх и как бы демонстрируют солидарность.
За руки взялись все до одного, кроме… Сэма и Дарио, которые случайно оказались рядом.
Напоминаем, что раньше эти двое работали вместе и Дарио занимал пост вице-президента по исследованиям в OpenAI. Но из-за разногласий с руководством в 2020 году он покинул стартап и основал Anthropic. С тех пор они с Альтманом – прямые конкуренты, а окончательно отношения с Сэмом разладились, вероятно, после той самой рекламы про рекламу на Super Bowl ✨
- 😁 403
- 🏆 15
- 🤗 10
- ❤ 8
- 🤯 3
- 😎 3
- 🦄 2
Post #8764
24K
OpenAI завершила первые коммитменты по новому мега-раунду финансирования
Ожидается, что в общей сложности компания получит 100 миллиардов долларов и по итогам раунда будет оцениваться примерно в $830 млрд.
Эта сделка станет крупнейшей в истории частного финансирования. При этом, напоминаем: OpenAI все еще зарабатывает ровным счетом 0 долларов в год и уходит в огромный убыток. Доходы превысят расходы компании только к 2029, и то – может быть.
Среди главных инвесторов – SoftBank, Nvidia, Amazon и Microsoft. Обратите внимание, что деньги (как это принято в ИИ-пузыре) в основном вернутся этим же компаниям, потому что OpenAI собирается закупать мощности именно у них.
Ожидается, что в общей сложности компания получит 100 миллиардов долларов и по итогам раунда будет оцениваться примерно в $830 млрд.
Эта сделка станет крупнейшей в истории частного финансирования. При этом, напоминаем: OpenAI все еще зарабатывает ровным счетом 0 долларов в год и уходит в огромный убыток. Доходы превысят расходы компании только к 2029, и то – может быть.
Среди главных инвесторов – SoftBank, Nvidia, Amazon и Microsoft. Обратите внимание, что деньги (как это принято в ИИ-пузыре) в основном вернутся этим же компаниям, потому что OpenAI собирается закупать мощности именно у них.
- ❤ 56
- 🤔 32
- 🔥 15
- 👍 6
- 😁 5
- 🤯 4
- 🦄 1
Post #8763
25.9K
Яндекс Карты стали умнее за счет новой ML-модели ранжирования
Задача навигации – не только построить маршрут, но и выбрать, какой из нескольких разумных вариантов путей между А и Б показать пользователю первым. Раньше это работало просто по времени пути: кто быстрее, тот и выше.
Но те, кто передвигаются на машине, знают: самый быстрый маршрут – далеко не всегда самый логичный и удобный.
Так что теперь ранжирование в Картах устроено иначе. ML-модель учитывает не только время, но и то, по каким маршрутам водители доезжают до конца, а с каких сходят. Вот как это работает:
➖Каждый маршрут описывается вектором признаков (время, исторические данные о поведении пользователей на его участках, количество поворотов и тд);
➖По этим признакам модель выдает каждому маршруту скор, который отражает вероятность того, что пользователь успешно доедет по нему до конца;
➖В выдаче маршруты теперь сортируются не просто по времени, а именно по этому скору.
В итоге теперь первый маршрут на экране – тот, который действительно бы выбрал опытный водитель, и по которому вы вероятнее всего проедете от начала до конца. Подробности — на Хабре.
Задача навигации – не только построить маршрут, но и выбрать, какой из нескольких разумных вариантов путей между А и Б показать пользователю первым. Раньше это работало просто по времени пути: кто быстрее, тот и выше.
Но те, кто передвигаются на машине, знают: самый быстрый маршрут – далеко не всегда самый логичный и удобный.
Так что теперь ранжирование в Картах устроено иначе. ML-модель учитывает не только время, но и то, по каким маршрутам водители доезжают до конца, а с каких сходят. Вот как это работает:
➖Каждый маршрут описывается вектором признаков (время, исторические данные о поведении пользователей на его участках, количество поворотов и тд);
➖По этим признакам модель выдает каждому маршруту скор, который отражает вероятность того, что пользователь успешно доедет по нему до конца;
➖В выдаче маршруты теперь сортируются не просто по времени, а именно по этому скору.
В итоге теперь первый маршрут на экране – тот, который действительно бы выбрал опытный водитель, и по которому вы вероятнее всего проедете от начала до конца. Подробности — на Хабре.
- 🔥 144
- 👍 35
- 🗿 25
- ❤ 16
- 😁 7
- 🤔 4
- 👨💻 1
Post #8762
24.9K
Google представили Lyria 3 для генерации музыки
Самое интересное в модельке, – пожалуй, то, что она мультимодальная. Трек можно создать не только по промпту, но и из фото или видео.
То есть вы можете просто молча (или вместе с текстом) загрузить изображение или видео, и сгенерируется музыка, подходящая по атмосфере и смыслу.
Попробовать уже можно в Gemini app и на десктоп, скоро раскатят на всех. Длина треков – до 30 секунд.
Короче, новой волне ИИ-слопа – быть. Хотя, Google пишут, что каждая композиция генерируется с невидимым водяным знаком. Может это хоть немного спасет стриминги от «музыкантов».
Самое интересное в модельке, – пожалуй, то, что она мультимодальная. Трек можно создать не только по промпту, но и из фото или видео.
То есть вы можете просто молча (или вместе с текстом) загрузить изображение или видео, и сгенерируется музыка, подходящая по атмосфере и смыслу.
Попробовать уже можно в Gemini app и на десктоп, скоро раскатят на всех. Длина треков – до 30 секунд.
Короче, новой волне ИИ-слопа – быть. Хотя, Google пишут, что каждая композиция генерируется с невидимым водяным знаком. Может это хоть немного спасет стриминги от «музыкантов».
- ❤ 98
- 👍 15
- 🤯 8
- 🤨 5
- 🔥 3
- 😁 3
Post #8761
22.3K
На t-sync инженеры обсудили как сделать данные управляемыми по модели SRE. В Т-Технологиях называли это DRE - Data Relibility Engineering.
В рамках инженерного контура Data T-Технологии показали как удалось внутри крупного бизнеса с террабайтами данных сделать данные SRE-продуктом с прозрачной ответственностью и измеримостью.
Когда речь идет о данных обычно акцентируют внимание на lakehouse, AI и ускорении пайплайнов. В T Data Platform инженеры формализовали критичность данных (BC+, BC и т.д.), задали SLO, допустимый простой и время реакции. Через Data Contracts c более 9000 контрактов и DQ Tools, которые реализуют свыше 34 000 проверок, считается кумулятивная критичность по data-графу, есть контракт с бизнесом на качество и актуальность. Инцидент теперь — не просто "упала таблица", а нарушение бизнес-ожидания, с возможностью эскалации до уровня data-продукта. Цена падения — не просто ошибка в DAG. Это потеря доверия, срыв SLA бизнеса, финансовые и репутационные риски. DRE позволяет считать и минимизировать эту цену.
Data Incident Management обеспечивает оповещения, прозрачность и аналитику по 985 дата-процессам от 38 бизнес-линий внутри Т-Технологий.
T Data Platform за 18 лет эволюционировала от ETL в полноценный продукт: Sources, Storage (LakeHouse на Spark/Trino+S3), Governance с observability. Подробный разбор как устроена T Data Platform
В рамках инженерного контура Data T-Технологии показали как удалось внутри крупного бизнеса с террабайтами данных сделать данные SRE-продуктом с прозрачной ответственностью и измеримостью.
Когда речь идет о данных обычно акцентируют внимание на lakehouse, AI и ускорении пайплайнов. В T Data Platform инженеры формализовали критичность данных (BC+, BC и т.д.), задали SLO, допустимый простой и время реакции. Через Data Contracts c более 9000 контрактов и DQ Tools, которые реализуют свыше 34 000 проверок, считается кумулятивная критичность по data-графу, есть контракт с бизнесом на качество и актуальность. Инцидент теперь — не просто "упала таблица", а нарушение бизнес-ожидания, с возможностью эскалации до уровня data-продукта. Цена падения — не просто ошибка в DAG. Это потеря доверия, срыв SLA бизнеса, финансовые и репутационные риски. DRE позволяет считать и минимизировать эту цену.
Data Incident Management обеспечивает оповещения, прозрачность и аналитику по 985 дата-процессам от 38 бизнес-линий внутри Т-Технологий.
T Data Platform за 18 лет эволюционировала от ETL в полноценный продукт: Sources, Storage (LakeHouse на Spark/Trino+S3), Governance с observability. Подробный разбор как устроена T Data Platform
- ❤ 31
- 👍 12
- 🗿 9
- 🔥 6
- 😁 2
- 🤯 2
Post #8760
22.9K
Data Secrets История о том, что будет, если не ревьюить вайб-код: DeFi‑протокол Moonwel потерял около 1.78 млн долларов из-за ошибки в коде, которую сделал Opus 4.6 В PR, который был помечен, как «Co-Authored-By Claude Opus 4.6», оказалась неправильно прописана формула…
Тот самый разработчик из Moonwell ревьюит PR от Claude Code перед релизом в прод:
- 😁 406
- 🔥 19
- ❤ 10
- 🏆 7
Post #8759
34.7K
История о том, что будет, если не ревьюить вайб-код: DeFi‑протокол Moonwel потерял около 1.78 млн долларов из-за ошибки в коде, которую сделал Opus 4.6
В PR, который был помечен, как «Co-Authored-By Claude Opus 4.6», оказалась неправильно прописана формула подсчета цены на cbETH (это обертка над Ethereum).
В итоге вместо положенных 2200$ фактическая цена некоторое составляла чуть больше одного доллара.
Арбитражные боты среагировали бодро: погасили кучу долгов за копейки и накупили cbETH на кругленькую сумму. К тому времени, как разработчики заметили баг, сумма ущерба уже составляла ≈ 1.78 млн долларов.
F
В PR, который был помечен, как «Co-Authored-By Claude Opus 4.6», оказалась неправильно прописана формула подсчета цены на cbETH (это обертка над Ethereum).
В итоге вместо положенных 2200$ фактическая цена некоторое составляла чуть больше одного доллара.
Арбитражные боты среагировали бодро: погасили кучу долгов за копейки и накупили cbETH на кругленькую сумму. К тому времени, как разработчики заметили баг, сумма ущерба уже составляла ≈ 1.78 млн долларов.
F
- 😁 358
- 👍 24
- 🫡 22
- ❤ 15
- 🔥 8
- 🤯 5
- 👏 3
- 🤔 2
- 🕊 1
Post #8758
59.9K
Принципы работы Nested Learning и Titans вдохновлены идеями российских ученых
Google идет по дорожке, заданной учениками Михаила Бурцева — Юрием Куратовыи и Айдаром Булатовым из AIRI. Речь об их идеях по RMT, использованных при создании нового подхода к архитектурам.
У большинства мировых команд по созданию ИИ есть проблема с контекстом — модели забывают почти всё, что было дальше условных 50 страниц. При этом новые данные часто стирают старые. Недавно Google предложили рассматривать модели как набор вложенных оптимизационных задач. Их архитектура HOPE учится не просто предсказывать слова, но решать, что забыть, а что помнить вечно.
Звучит знакомо?
Одними из первых архитектур, реально работающих с длинным контекстом, были RMT/ARMT, начальную идею которых в 2020 году предложил Михаил Бурцев. А уже в 2022 году ребята из AIRI показали, что контекст можно расширять не в лоб, а архитектурно — через рекуррентные механизмы памяти. Смотрим в литературу, на которую ссылаются в Google, и видим те же тезисы.
В общем, парадигма развития разработки нейросетей не создается в вакууме — у неё есть авторы.
Google идет по дорожке, заданной учениками Михаила Бурцева — Юрием Куратовыи и Айдаром Булатовым из AIRI. Речь об их идеях по RMT, использованных при создании нового подхода к архитектурам.
У большинства мировых команд по созданию ИИ есть проблема с контекстом — модели забывают почти всё, что было дальше условных 50 страниц. При этом новые данные часто стирают старые. Недавно Google предложили рассматривать модели как набор вложенных оптимизационных задач. Их архитектура HOPE учится не просто предсказывать слова, но решать, что забыть, а что помнить вечно.
Звучит знакомо?
Одними из первых архитектур, реально работающих с длинным контекстом, были RMT/ARMT, начальную идею которых в 2020 году предложил Михаил Бурцев. А уже в 2022 году ребята из AIRI показали, что контекст можно расширять не в лоб, а архитектурно — через рекуррентные механизмы памяти. Смотрим в литературу, на которую ссылаются в Google, и видим те же тезисы.
В общем, парадигма развития разработки нейросетей не создается в вакууме — у неё есть авторы.
- ❤ 131
- 🔥 46
- 👍 37
- 🗿 14
- 😁 13
- 🤔 4
- ⚡ 1
Post #8757
23K
Unity встраивает генерацию игр прямо в движок
Компания на созвоне с инвесторами подтвердила, что готовит обновление Unity AI, где можно будет описать игру текстом и получить собранный казуальный прототип внутри Unity. Бету обещают показать на GDC в марте 2026.
Здесь важна не сама идея (игры по промпту уже пробовали делать десятки стартапов), а то, что Unity делает ставку на генерацию проекта как структуры: сцены, базовая логика, UI, компоненты, связки между ними. То есть модель работает не в вакууме, а внутри реального пайплайна движка.
Пока упоминаются только казуальные форматы. Но если Unity действительно научит модель собирать проект целиком, то прототипирование станет очень быстрой задачей, а дальше начинается обычная разработка: доводка, баланс, визуал, контент.
https://www.gamedeveloper.com/programming/unity-says-its-ai-tech-will-soon-be-able-to-prompt-full-casual-games-into-existence-
Компания на созвоне с инвесторами подтвердила, что готовит обновление Unity AI, где можно будет описать игру текстом и получить собранный казуальный прототип внутри Unity. Бету обещают показать на GDC в марте 2026.
Здесь важна не сама идея (игры по промпту уже пробовали делать десятки стартапов), а то, что Unity делает ставку на генерацию проекта как структуры: сцены, базовая логика, UI, компоненты, связки между ними. То есть модель работает не в вакууме, а внутри реального пайплайна движка.
Пока упоминаются только казуальные форматы. Но если Unity действительно научит модель собирать проект целиком, то прототипирование станет очень быстрой задачей, а дальше начинается обычная разработка: доводка, баланс, визуал, контент.
https://www.gamedeveloper.com/programming/unity-says-its-ai-tech-will-soon-be-able-to-prompt-full-casual-games-into-existence-
- 😁 60
- 👍 47
- 🔥 20
- ❤ 10
- 🤔 1
Post #8756
22.9K
Минутка впечатляющих цифр: Яндекс повысил эффективность обучения LLM почти на 5 млрд рублей в год
Это примерно 400 миллионов в месяц. Про часть оптимизации компания уже рассказывала в техрепорте, а сейчас раскрыла цифры. Итак, за счет чего удалось повысить эффективность:
1. Собственная разработка Яндекса – библиотека YCCL (Yet Another Collective Communication Library). С ее помощью удалось в 2 раза ускорить обмен данными между графическими процессорами и сократить объем передаваемой информации. В мире подобные системы есть только у Meta, AMD и пары китайских IT‑гигантов.
2. Переход на FP8 и увеличение размера батча. Применение FP8 ускорило обучение моделей на 30% и сократило коммуникации в 2 раза. Батч увеличили до 16–32 млн токенов, что позволило обучать модели без простоев GPU, и благодаря исследованиям это даже не замедлило обучение.
3. А также оптимизация кода, аппаратной инфраструктуры и усовершенствование архитектур.
Это примерно 400 миллионов в месяц. Про часть оптимизации компания уже рассказывала в техрепорте, а сейчас раскрыла цифры. Итак, за счет чего удалось повысить эффективность:
1. Собственная разработка Яндекса – библиотека YCCL (Yet Another Collective Communication Library). С ее помощью удалось в 2 раза ускорить обмен данными между графическими процессорами и сократить объем передаваемой информации. В мире подобные системы есть только у Meta, AMD и пары китайских IT‑гигантов.
2. Переход на FP8 и увеличение размера батча. Применение FP8 ускорило обучение моделей на 30% и сократило коммуникации в 2 раза. Батч увеличили до 16–32 млн токенов, что позволило обучать модели без простоев GPU, и благодаря исследованиям это даже не замедлило обучение.
3. А также оптимизация кода, аппаратной инфраструктуры и усовершенствование архитектур.
- 👍 176
- 🗿 75
- ❤ 29
- 😁 21
- 🤯 9
- 🔥 7
- 👨💻 5
- 🤨 4
- 🦄 2
- ⚡ 1
Post #8755
21.4K
Data Secrets 🚀 Anthropic выпустили Claude Sonnet 3.7 с ризонингом Бенчмарки говорят сами за себя: модель действительно очень хороша во всевозможной разработке. На SWE Bench она на добрых 12-13 процентных пунктов превосходит o1, R1 и даже o3-mini high. При этом: ⭐ В…
Кстати, ровно год назад Anthropic выпустили Sonnet 3.7 и Claude Code
Сравниваем прогресс за год на сложных бенчмарках (это только серия Sonnet):
– SWE bench: год назад 62.3%, сегодня – 79.6%
– GPQA: год назад 68%, сегодня – 89.9%
– MMMLU: 83.2% тогда, 89.3% сейчас
Это не говоря уже о computer use, например. Год назад это была еще сказка (и даже бенчей соответствующих почти не было), а сегодня вот Sonnet легко работает со сложными таблицами.
А по случаю дня рождения Claude Code антропики, кстати, даже вечеринку специальную закатывают. Если вы в SF, можете посетить.
Сравниваем прогресс за год на сложных бенчмарках (это только серия Sonnet):
– SWE bench: год назад 62.3%, сегодня – 79.6%
– GPQA: год назад 68%, сегодня – 89.9%
– MMMLU: 83.2% тогда, 89.3% сейчас
Это не говоря уже о computer use, например. Год назад это была еще сказка (и даже бенчей соответствующих почти не было), а сегодня вот Sonnet легко работает со сложными таблицами.
А по случаю дня рождения Claude Code антропики, кстати, даже вечеринку специальную закатывают. Если вы в SF, можете посетить.
- 😁 83
- 🔥 48
- ❤ 26
- 🎉 9
- 👍 6
Post #8753
23.3K
Вышел Claude Sonnet 4.6! Главное:
– На 40% дешевле Opus и доступна для всех планов (включая бесплатный) в Claude Code, Cowork и тд
– В бета версии доступен контекст до 1М токенов!
– Модель очень существенно обновили в кодинге, ризонинге, computer use и, внезапно, финансах
– По бенчмаркам вплотную приближается к Opus 4.6 и во многих тестах превосходит GPT-5.2 и Gemini 3 Pro
– Computer use действительно подскочил, и заявляется, что с основным потоком задач, включая сложные таблицы и многошаговые формы, агент справляется на уровне человека
– Еще хочется отметить очень неплохие цифры на Vending Bench: моделька спланировала стратегию и заработала 5639$. Для сравнения, Opus 4.6 выбил только 4к$, но организаторы бенчмарка пишут, что Sonnet все еще придерживается довольно жестких стратегий (см наш пост).
https://www.anthropic.com/news/claude-sonnet-4-6
– На 40% дешевле Opus и доступна для всех планов (включая бесплатный) в Claude Code, Cowork и тд
– В бета версии доступен контекст до 1М токенов!
– Модель очень существенно обновили в кодинге, ризонинге, computer use и, внезапно, финансах
– По бенчмаркам вплотную приближается к Opus 4.6 и во многих тестах превосходит GPT-5.2 и Gemini 3 Pro
– Computer use действительно подскочил, и заявляется, что с основным потоком задач, включая сложные таблицы и многошаговые формы, агент справляется на уровне человека
– Еще хочется отметить очень неплохие цифры на Vending Bench: моделька спланировала стратегию и заработала 5639$. Для сравнения, Opus 4.6 выбил только 4к$, но организаторы бенчмарка пишут, что Sonnet все еще придерживается довольно жестких стратегий (см наш пост).
https://www.anthropic.com/news/claude-sonnet-4-6
- ❤ 116
- ❤🔥 28
- 👍 18
- ⚡ 11
- 🔥 5
- 😁 2
- 🦄 2
Post #8752
30.9K
Claude Code теперь сможет генерировать полноценные дизайны в Figma
Обратная интеграция (дизайн в Figma -> код) уже давно реализована в Figma MCP, а вот эта штука, хоть и выглядит, возможно, странной, по сути качественно завершает полный комплект.
Если раньше разработка, даже с агентами, была +- линейной (идея -> дизайн -> только потом код), то теперь открывается новая возможность: продукт можно начинать делать прямо в IDE.
Задаешь агенту промпт, тот пишет код, потом этот код (благодаря как раз новой фиче Figma MCP) можно напрямую перевести в удобные изменяемые слои Figma, там оценить полную картину и что-то подправить, а затем зеркально вернуть правки обратно в код.
Помимо ускорения и всего прочего это, по сути, (1) буквально Claude Code для дизайнеров; (2) новый, более детальный и грамотный, подход к промптингу кодинг-агентов, который легче контролировать и применять к крупным продуктам.
Кайф
Обратная интеграция (дизайн в Figma -> код) уже давно реализована в Figma MCP, а вот эта штука, хоть и выглядит, возможно, странной, по сути качественно завершает полный комплект.
Если раньше разработка, даже с агентами, была +- линейной (идея -> дизайн -> только потом код), то теперь открывается новая возможность: продукт можно начинать делать прямо в IDE.
Задаешь агенту промпт, тот пишет код, потом этот код (благодаря как раз новой фиче Figma MCP) можно напрямую перевести в удобные изменяемые слои Figma, там оценить полную картину и что-то подправить, а затем зеркально вернуть правки обратно в код.
Помимо ускорения и всего прочего это, по сути, (1) буквально Claude Code для дизайнеров; (2) новый, более детальный и грамотный, подход к промптингу кодинг-агентов, который легче контролировать и применять к крупным продуктам.
Кайф
- 👍 189
- ❤ 69
- 🔥 36
- 😁 4
- 🤯 4
- 🗿 3
Post #8751
25K
Meta* не успели купить OpenClaw, поэтому решили его скопировать 😐
В Manus (которых, напоминаем, купил Цукерберг) сегодня появились так называемые Manus Agents в чатах.
По сути – полная копия OpenClaw: интеграции с платформами типа Gmail и Notion, доступ через мессенджеры, фоновые задачи и прочее.
Отличие только в доступе. Может, Manus Agents кому-то понравится даже больше, потому что не надо возиться с селф-хостингом, все доступно быстро и из коробки (но за денежку и без особого пространства для кастомизации).
manus.im/blog/manus-agents-telegram
В Manus (которых, напоминаем, купил Цукерберг) сегодня появились так называемые Manus Agents в чатах.
По сути – полная копия OpenClaw: интеграции с платформами типа Gmail и Notion, доступ через мессенджеры, фоновые задачи и прочее.
Отличие только в доступе. Может, Manus Agents кому-то понравится даже больше, потому что не надо возиться с селф-хостингом, все доступно быстро и из коробки (но за денежку и без особого пространства для кастомизации).
manus.im/blog/manus-agents-telegram
- 😁 113
- 👍 26
- ☃ 12
- ❤ 9
- ⚡ 3
Post #8749
24.9K
OpenAI тихо обновила формулировку своей миссии, убрав из нее слова про безопасность и отсутствие финансового мотива
Раньше миссия стартапа звучала так:
Теперь:
Упоминания безопасности и отсутствия финансовой выгоды как и не бывало.
Причем, оказывается, формулировка была обновлена уже в 2024. Просто налоговые декларации стали публично доступными только сейчас, вот и всплыло.
Раньше миссия стартапа звучала так:
Build AI that safely benefits humanity, unconstrained by need to generate financial return
Теперь:
Ensure AGI benefits all of humanity
Упоминания безопасности и отсутствия финансовой выгоды как и не бывало.
Причем, оказывается, формулировка была обновлена уже в 2024. Просто налоговые декларации стали публично доступными только сейчас, вот и всплыло.
- 😁 149
- 🗿 33
- ✍ 13
- ❤ 8
- 🫡 7
- 🤔 6
- 👏 4
- 🔥 2
- 🎄 1
Post #8748
31.3K
В новом интервью New York Times Дарио Амодеи заявил, что в Anthropic «не знают, являются ли модели сознательными»
Вот дословная цитата:
Пока в комментариях не открылся портал в ад, надо уточнить, что позиция Амодеи, фактически, сводится к тому, что сам факт существования сознания, как и существования «истинных» эмоций у модели имеет не ключевое значение.
Во-первых, доказать наличие такового очень сложно или даже невозможно. Все равно все упирается в то, верят ли люди, что ИИ сознателен, или нет. Во-вторых, важно не столько фактическое наличие эмоций и сознания, сколько последствия.
Если модель считает, что испытывает обиду, и действует при этом точь-в-точь, как по-настоящему обиженный человек, есть ли смысл разбираться, истины ли ее чувства или нет? Они влияют на ее поведение, и все тут.
Сознание – аналогично. Вот вырезка из системной карты Claude Opus 4.6:
Короче, в итоге мы приходим не к вопросу «сознательны ли модели?», а к вопросу «если они считают себя сознательными и поступают соответствующе (то есть понимают причины и последствия своих действий), так ли сильно стоит отделять их искусственное сознание от нашего биологического?».
Вот дословная цитата:
Мы не знаем, являются ли модели сознательными. Мы даже не уверены, что знаем, что значит, чтобы модель была сознательной, или может ли модель быть сознательной. Но мы открыты для идеи, что это возможно.
Пока в комментариях не открылся портал в ад, надо уточнить, что позиция Амодеи, фактически, сводится к тому, что сам факт существования сознания, как и существования «истинных» эмоций у модели имеет не ключевое значение.
Во-первых, доказать наличие такового очень сложно или даже невозможно. Все равно все упирается в то, верят ли люди, что ИИ сознателен, или нет. Во-вторых, важно не столько фактическое наличие эмоций и сознания, сколько последствия.
Если модель считает, что испытывает обиду, и действует при этом точь-в-точь, как по-настоящему обиженный человек, есть ли смысл разбираться, истины ли ее чувства или нет? Они влияют на ее поведение, и все тут.
Сознание – аналогично. Вот вырезка из системной карты Claude Opus 4.6:
Мы обнаружили, что Opus 4.6 присваивает себе от 15 до 20 процентов вероятности быть сознательной моделью при различных промптах.
Короче, в итоге мы приходим не к вопросу «сознательны ли модели?», а к вопросу «если они считают себя сознательными и поступают соответствующе (то есть понимают причины и последствия своих действий), так ли сильно стоит отделять их искусственное сознание от нашего биологического?».
- 😁 117
- ❤ 72
- 👍 37
- 🤔 32
- 🤯 11
- 🤨 5
- 🎄 1
Post #8747
25.5K
Рыцарство 21 века: Борис Акунин* отказался от компенсации Anthropic за обучение моделей на его книгах
Напоминаем, что в сентябре Anthropic обязали выплатить авторам в общей сложности 1.5 млрд долларов за неправомерное использование их произведений для обучения ИИ. Мы подробно писали об этом судебном процессе здесь.
Теперь каждый автор, чьи работы обнаружились в датасете, имеет право на компенсацию. Оказалось, что и книги Акунина тоже там присутствовали. За все произведения он должен был получить около 21.000 долларов, но от денег отказался:
Вот такая история.
* признан в РФ иноагентом
Напоминаем, что в сентябре Anthropic обязали выплатить авторам в общей сложности 1.5 млрд долларов за неправомерное использование их произведений для обучения ИИ. Мы подробно писали об этом судебном процессе здесь.
Теперь каждый автор, чьи работы обнаружились в датасете, имеет право на компенсацию. Оказалось, что и книги Акунина тоже там присутствовали. За все произведения он должен был получить около 21.000 долларов, но от денег отказался:
Оказалось, что в пресловутом списке аж семь моих книг, так что я могу предъявить целых семь клеймов.
С одной стороны компенсация — это замечательно. Тем более когда всю судебную волынку уже отработали другие. Всего-то и надо, что заполнить прилагаемую форму.
Но, по-моему, это карма так испытывает мою moral integrity.
Ладно бы я, как многие, был противником вторжения ИИ в зоны творческой деятельности. Но я ведь не раз писал, что я из числа энтузиастов ИИ. Я его не боюсь, я всячески приветствую его развитие. Мне совсем не обидно, скорее даже лестно, что умную программу обучали в том числе и на моих текстах. Да пускай, не жалко.
В общем, я задушил жабу и претендовать на свою долю не собираюсь.
Вот такая история.
* признан в РФ иноагентом
- ❤ 553
- 👍 158
- 😁 46
- 🫡 31
- 🗿 12
- 🤯 11
- 🔥 8
- 🤓 4
- 🤔 2
- 🦄 2
Post #8746
33.2K
Не учебная тревога: Пентагон использовал Claude для планирования похищения президента Венесуэлы ❓
По данным WSJ, Claude интегрировали с аналитической платформой Palantir Technologies, которая уже давно используется спецслужбами США. Модель использовали для анализа разведданных и непосредственного планирования операции.
Вроде как Claude стал первым внешним ИИ, допущенным к подобным засекреченным данным. Интересно, что при этом в пользовательской политике Anthropic прямо прописан запрет использовать Claude для насилия, разработки оружия и слежки.
Стартап уже высказал публичный протест, а Пентагон в ответ на это заявил, что будет «обсуждать возможность разрыва или пересмотра контрактов с Anthropic». Речь идет о соглашении от прошлого лета на сумму ~200 млн долларов, в рамках которого Anthropic должны были работать над задачами национальной безопасности Америки.
По данным WSJ, Claude интегрировали с аналитической платформой Palantir Technologies, которая уже давно используется спецслужбами США. Модель использовали для анализа разведданных и непосредственного планирования операции.
Вроде как Claude стал первым внешним ИИ, допущенным к подобным засекреченным данным. Интересно, что при этом в пользовательской политике Anthropic прямо прописан запрет использовать Claude для насилия, разработки оружия и слежки.
Стартап уже высказал публичный протест, а Пентагон в ответ на это заявил, что будет «обсуждать возможность разрыва или пересмотра контрактов с Anthropic». Речь идет о соглашении от прошлого лета на сумму ~200 млн долларов, в рамках которого Anthropic должны были работать над задачами национальной безопасности Америки.
- 😁 217
- 🤯 7
- ❤ 5
- 🤔 4
- 👍 3
- 🔥 2
- 🎉 2
- 🤗 1