На неделе было много новостей, которые хотелось бы обсудить, но на отдельные посты они как-то не тянут. Так что собрал вам небольшой пятничный #дайджестив ☕️

▪️️️OpenAI запустила безопасную версию ChatGPT для подростков

— Режим ChatGPT for Teens автоматически определяет юзеров 13-17 лет и включает фильтры: блокирует контент для взрослых и темы селфхарма, а вместо готовых ответов на домашки – задает наводящие вопросы.

Минпрос уже неоднократно просил отечественные компании перестать давать школьникам решения домашек. Засекаем с секундомером, когда будет очередной заход, на этот раз с этой новостью ⏱️

▪️️️Nvidia вложит $1,5 млрд в дата-центр для OpenAI

— Вдобавок к инвестициям Nvidia предоставит кредит до $105 млрд на строительство ЦОД мощностью до 8 ГВт, закрепив за собой статус единственного поставщика инфраструктуры для проекта.

Продолжается трата виртуальных денег на реальные дата-центры под будущие прибыли и накачка ИИ-экономики.

▪️️️Годовой темп роста выручки Anthropic превысил $65 млрд перед IPO

— По данным Bloomberg, показатель annualized revenue run rate у них вырос почти в семь раз с начала года, обогнав OpenAI (у которых свыше $40 млрд). Рост укрепляет планы компании на осеннее IPO с оценкой около $2 трлн.

Моя любимая компания, которая первая начала нормально зарабатывать на продуктах с LLM, все еще делает это лучше всех. Что-то понимают в продуктах)

▪️️️«Крестная мать» ИИ предупреждает о неприятии нейросетей

— Фей-Фей Ли заявила, что индустрия пока не смогла убедительно объяснить обществу пользу от ИИ. Американцы, судя по опросам, боятся нейронок больше, чем в Азии.

Фей-Фей Ли – автор революции данных, которая перетекла в революцию глубокого обучения. Именно ей пришла в голову идея, что дело не в моделях, а в количестве данных. И она эти данные начала активно собирать. Почему же пользы от ИИ нет? Потому что собрать данные про всех раковых пациентов несравнимо сложнее, чем котиков из интернета 🐈

▪️️️Глобальные протесты из-за ИИ на экзаменах

— В Мексике, Индии и Португалии бастуют из-за списываний, утечек и ошибок при ИИ-проверке (в Индии министр образования даже ушел в отставку). В Дании школьников уже обязали устно защищать письменные работы.

Не завидую ни школьникам, ни учителям. Мир меняется быстрее, чем мы успеваем понимать, что с этим делать. Чем сможем – поможем.

▪️️️ИИ-рекрутеры порождают иски о дискриминации

— В США растет число исков к Meta, IBM и Eightfold AI – их системы найма обвиняют в предвзятости и непрозрачности. Исследователи отмечают, что модели склонны усиливать стереотипы сильнее, чем человек.

Простой совет: пишите резюме с помощью ИИ так, чтобы их лучше отбирал ИИ 🤖

▪️️️Крупные ИИ-лаборатории не понимают, чего хотят люди

— Тим О'Райли критикует ИИ-гигантов за попытку «запереть» юзеров в своих продуктах по образцу Microsoft 1990-х и выступает за открытый исходный код всего ИИ-стека.

Ну деньги же тоже хочется заработать 🤷‍♂️

▪️️️Prompt injection вошла в топ-6 уязвимостей

— По данным BI.ZONE, а год специалисты нашли 823 уязвимости в корпоративных системах, большинство проблем все еще связано с настройками доступа, но ИИ-атаки стремительно растут. Агентные системы, к слову, упрощают жизнь злоумышленникам.

Видимо, дело идет к перестройке принципов построения ИТ-систем с временным переходным периодом в виде агентов-хакеров и агентов-починяльщиков защиты.

▪️️️Сгенерированный контент хотят маркировать принудительно

— Совет по кодификации подготовил поправки об обязательной маркировке ИИ-аудио, видео и картинок. Заодно хотят обязать техногигантов платить правообладателям за обучение моделей на их контенте.

Ну чем-то же должен заниматься Совет по кодификации. Комментировал тут.