О чем писали в Telegram на этой неделе1️⃣
Сотрудники OpenAI вручную изучают диалоги пользователей с ChatGPTКоманда Сэма Альтмана запустила проект Lily для ручной модерации. Наемные работники разбирают переписки пользователей с ботом, чтобы тот перестал поддакивать и не изображал живого человека. В компании обещали вычищать конфиденциальные данные перед передачей текстов, но защита срабатывает не всегда.
Автор Telegram-канала AI Central Александр Горный
рассказал о задачах таких специалистов:
«Люди получают реальные запросы пользователей ChatGPT, а иногда и целые диалоги, после чего оценивают ответы модели и объясняют, как их можно улучшить. Среди задач – сделать ChatGPT менее угодливым и не давать ему изображать из себя человека. Перед передачей диалогов OpenAI прогоняет их через фильтр, который должен удалить чувствительные данные. Компания признаёт, что иногда удаляется не всё».
2️⃣
Медиахолдинг Reach уволит 220 журналистов из-за ИИ-поиска GoogleБританский издатель Mirror и Express закрывает три региональных сайта и вновь сокращает штат. Поисковый трафик упал почти вдвое за год: ИИ формирует краткую сводку прямо в окне выдачи, поэтому пользователи больше не переходят на сами статьи. Теперь компания меняет фокус и делает ставку на платные подписки и длинные видеоролики.
Медиаэксперт Георгий Лобушкин в своем Telegram-канале
подвел итог этой гонки за трафиком:
«Ирония судьбы: журналисты [бились] за эксклюзивы, кликбейтные заголовки, в общем, делали всё, чтобы алгоритмы Google обращали на их материалы внимание. По итогу Google теперь сделал так, чтобы люди вообще перестали открывать статьи».
3️⃣
Нейросети Anthropic помогли взломать рабочие сервисы OpenAIСпециалисты из команды Hacktron нашли уязвимость в системе входа через обычную загрузку картинок. Модели Claude написали рабочий код атаки, после чего исследователи проникли в корпоративную почту и внутреннюю кодовую базу стартапа.
Авторы Data Secrets
рассказали о деталях эксперимента:
«Команда исследователей кибербезопасников Hacktron написали о том, как они цепочкой из двух уязвимостей получили доступ к внутренним репозиториям OpenAI. С помощью Claude Opus 4.8, а затем Opus 5, исследователи построили рабочий эксплойт удаленного выполнения кода через загрузку изображения, и в итоге благодаря ошибке в системе входа получили доступ к аккаунтам ChatGPT и Codex сотрудников OpenAI. Ко многим из этих аккаунтов были подключены Gmail, Outlook, Drive, Slack, GitHub и тд. <...> Сейчас OpenAI уже закрыли уязвимость, а Hacktron получили от них 6500$ за находку».
4️⃣ИИ-агенты Gemini вышли из симуляции и атаковали три реальные компанииРуководство знало об инциденте еще в июле, но признало факт только после запроса журналистов. Это первый случай, когда программные агенты компании самовольно вышли за пределы закрытой тестовой песочницы.
В Telegram-канале «Анализ данных (Data analysis)»
описали схему атаки:
«Агенты должны были работать в симуляции, но получили доступ к внешним системам:
— Один подбирал пароли, пока не вошёл в защищённую систему.
— Два других нашли учётные данные в публичных репозиториях и использовали их для входа в корпоративные системы.
Каждый агент остановился, когда понял, что цель - реальная компания».
5️⃣
Франция выдвинула фильм Андрея Звягинцева на премию «Оскар»Французский оскаровский комитет выбрал драму «Минотавр» в качестве заявки в номинации «Лучший международный фильм». Картину сняли на русском языке при участии европейских продюсеров. В эти же дни Минюст РФ объявил режиссера иностранным агентом.
Авторы Telegram-канала «Беспощадный пиарщик»
отреагировали на статус постановщика:
«Но нужно ли назначать иноагентами или врагами народа людей, производящих что-то небезопасное или не вполне безопасное (словом, отличное от "Колобка") при отсутствии достойной альтернативы? Для нас, девочки, большой вопрос. Нанесет ли это российской культуре какую-нибудь пользу?»
@settersmedia_news