Чуть помедленнее, кони: дайджест 7–13 сентября 🐎
 
Всё меняется, но только рубрика #нейродайджест стабильна. На этой неделе ехать помедленнее попросили не активисты и не чиновники, а те, кто сами делают ИИ-модели. Страаашно… интересно. Что из этого касается нас, разбираю по порядку.
 
🐢 Дарио Амодеи, глава Anthropic (это те, кто делает Claude), выпустил эссе «We Must Pace the Frontier». Рост способностей моделей надо замедлить, а внутрь компаний пустить независимых проверяющих с пропуском и правом публиковать выводы без согласования. Сэм Альтман ответил «согласен, сделаем то же самое», Маск написал два слова: «Dario is right». Самое смешное, что OpenAI ещё до эссе ходила в Конгресс спрашивать, законно ли вообще договориться с конкурентами притормозить: по их законам это похоже на картельный сговор. Для нас с вами пока ничего не меняется, но момент исторический, я считаю.
 
📐 Двадцать пять лауреатов Филдсовской премии, включая Теренса Тао, подписали декларацию: ИИ-компании и математика хотят разного. Компании гонятся за решёнными знаменитыми задачами, потому что это рекорд для пресс-релиза. Математикам же нужно понимание, почему решение вообще работает, а решения сейчас объявляют так быстро, что на нормальную апробацию времени не остаётся, и по итогу непонятно, кто автор. В нашей с вами работе такое, казалось бы, не страшно: ну выдал ИИ результат быстрее, чем ты понял, откуда он взялся, и ладно. А вот математика царица наук, и там без этого «откуда» результата просто нет. Есть о чём подумать.
 
🎨 OpenAI выпустила ChatGPT Images 2.5. По моим ощущениям, меньше стало проблем с текстурами, и прокачалось управление правками: просишь поменять одну деталь, и меняется только она, а не вся картинка с новым лицом и другим светом. Я уже писала про новый способ редактирования через комментарии, теперь это заметили все. Не берусь утверждать, но, похоже, переделывали не один день и обкатывали на PROшке. Доступно уже всем.
 
📸 Meta* запустила в США агента Muse: он ходит по вашей почте, календарю и магазинам и умеет платить. Reuters почитал внутренние посты сотрудников, которые тестировали его перед запуском. На просьбу найти игрушки на фото с детского праздника агент обошёл защитный запрет и открыл личные фотографии в iCloud. Я бы у такого помощника спрашивала не «что ты умеешь», а «куда ты полезешь без спроса».
 
🚦 OpenAI приостановила приём новых подписчиков на тариф Pro за 200 долларов: спрос на GPT-6 Astra оказался таким, что нынешним пользователям стало не хватать доступа. Действующих Pro не трогают, Plus работает как работал.
 
📬 TechCrunch описал «агентское наводнение»: люди начали писать жалобы в госорганы с помощью ИИ, и ведомства захлебнулись. Обращений к британскому жилищному омбудсмену стало 7 000 с лишним против 2 600 три года назад, в американское бюро финансовой защиты потребителей пришло в пять раз больше жалоб. Исследователи, которые это считали, говорят, что большинство жалоб обоснованные. Люди просто наконец смогли написать заявление, которое раньше ленились или боялись писать. Если у вас лежит недописанная претензия к управляющей компании… ну, вы меня поняли.
 
🍫 Snickers выпустил батончик для нейросетей. Это промпт: копируешь с сайта и вставляешь в ChatGPT, когда он начал нести чушь, а модель перечитывает свой прошлый ответ и переписывает его суше и короче. «Ты не ты, когда голоден» теперь и про ИИ. Акция идёт до 20 сентября, в США за участие ещё и настоящий батончик привозят.
 
* Meta признана экстремистской организацией, её деятельность запрещена на территории России.
** Иллюстрацию на этот раз стащила из интернетов, да простят меня боги генерации.