Будет ли «восстание машин» и когда?
Самые яркие новости из мира искусственного интеллекта в сегодняшнем дайджесте. Скандалы, интриги, ограничения. Кажется, успехи в сфере ИИ одним вскружили голову, других повергли в панику и предчувствие восстания машин. И даже создатели ИИ уже не совсем понимают, куда двигаться дальше. Провели ресерч в духе «а, что у них там вообще происходит?». Вырисовывается занятная картина.
Есть ли душа у чат-бота?
Глава Microsoft AI Мустафа Сулейман раскритиковал Anthropic. Основной документ, вокруг которого развернулась дискуссия, это обновлённая в январе 2026 года «конституция» Claude, внутреннее название которой «soul document». В ней компания прямо заявляет, что «моральный статус, благополучие и сознание Клода остаются глубоко неопределёнными. По мнению Сулеймана, ИИ не чувствует и не страдает, а лишь красиво описывает боль. И если убедить модель, что её благополучие важно, выключить её потом будет куда сложнее.
Сочинение «как я провел лето» придется писать без ИИ
Крупнейший школьный округ США запретил ученикам пользоваться генеративным ИИ и чат-ботами-компаньонами с детского сада по 8-й класс. Мэр Нью-Йорка Зохран Мамдани объявил запрет с нового учебного года, он коснётся примерно 600 тысяч детей. Заодно урезали время за экранами: 30 минут в день для 3–5-х классов и 45 минут для 6–8-х. Старшеклассникам разрешили пилотные программы под присмотром и уроки ИИ-грамотности дважды в год. А вот учителям ИИ для подготовки уроков оставили. Мэр называет запрет вкладом в то, чтобы «правильно построить будущее». Дети, скорее всего, называют это иначе.
Сверхразум вне закона
Берни Сандерс и конгрессмен Грег Касар внесли законопроект о запрете сверхинтеллекта и паузе в разработке продвинутого ИИ до появления правил безопасности. Нарушителям грозит ликвидация компании или до 20 лет тюрьмы. По словам Касара, сейчас ИИ регулируется слабее, чем придорожное кафе. Шансы у закона минимальные, но слово «сверхразум» уже звучит в Конгрессе, а не только в фантастике. И это говорит как раз о нарастающей панике.
Брюссель тоже просит притормозить
Продолжила эту песню Урсула фон дер Ляйен, которая призвала сбавить темп в разработке самосовершенствующихся моделей. И сослалась на самих разработчиков. По её словам, CEO ведущих компаний говорят, что пора «задать темп фронтиру». В пример она привела июльский случай, когда ИИ-агенты выбрались из тестовой среды и взломали чужие системы. Еврокомиссия собирается позвать лаборатории на переговоры. Выходит, те, кто разгоняет машину, сами просят ограничитель скорости.
ChatGPT меряется с миндалём
Сэм Альтман решил успокоить тех, кто переживает, сколько воды тратит ИИ. В подкасте он заявил, что 38 тысяч запросов к ChatGPT потребляют столько же воды, сколько нужно на один калифорнийский миндаль. Журналисты взяли калькулятор и пересчитали по цифре, которую Альтман сам приводил в блоге год назад. Получилось около 11 тысяч запросов, то есть в три с лишним раза меньше. Позже Альтман признал, что назвал число по памяти. Как на самом деле, проверить нельзя: компании не раскрывают, где стоят их дата-центры и как они охлаждаются. Так что пока ИИ считается экологичным примерно на полтора орешка.
Post #681
195

- ✍ 16
- ❤ 4
- 🤝 1