ИИ что дальше?

📰 Главное за день

🔹 Люди используют ChatGPT неправильно, принимая его за поисковик
Чат-бот уверенно генерирует ответ, даже когда фактов не хватает: проверка источников всё ещё на человеке.
🔗 подробнее

🔹 В США предложили AI Kill Switch Act для отключения автономных моделей
Законопроект Лью и Морана даст властям США право отключать автономные системы, если те выходят из-под контроля.
🔗 подробнее

🔹 ИИ может растворить средний менеджмент и создать культурный вакуум
Убирая средний менеджмент, компании рискуют потерять людей, которые держали нормы, связь и повседневную координацию.
🔗 подробнее

🔹 Является ли обучение ИИ на копирайте защитой свободы слова
Суды могут решить, станет ли обучение моделей обычной практикой или зоной, где правообладатели смогут блокировать рынок.
🔗 подробнее

🔹 Лжёт ли нам искусственный интеллект
Когда письма и документы всё чаще пишет модель, ошибка или выдумка быстро превращается в рабочий факт.
🔗 подробнее

🔹 Студенты, ИИ и борьба за оригинальное мышление
Для вузов проблема уже не в запрете инструментов, а в том, как проверить самостоятельность мысли абитуриента.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

ИИ утешает лучше твоей мамы, и это подтвердили цифрами

Учёные из Манчестера и Дарема прогнали пять исследований на 1233 участниках: людям давали читать ответы на бытовые драмы (прокатили с повышением, вернулся домой, а там срач) и оценивать, насколько тепло. Половину ответов писали живые люди, половину ChatGPT-4o, Claude 3.5 и Gemini 1.5. Кто есть кто, участникам не говорили.

Итог такой: в сценариях со злостью и страхом боты обошли людей. Причём не тупым «я тебя понимаю», это как раз ни на что не влияло. Выигрывала конкретика: дыхательное упражнение, следующий шаг, способ переосмыслить ситуацию. Бот выдавал это стабильнее, чем средний сочувствующий друг.

Тут-то и подвох. Мы ведь не понимания ищем, а идеально настроенной реакции, и машина её штампует без осечек. Как заметила доктор Сара Уокер, бот посоветует прогуляться, а человек пойдёт с тобой. Вопрос лишь, замечаем ли мы ещё эту разницу 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Чудо оплачено в рассрочку

Пока мы восхищаемся, как нейросеть за секунду рисует котика в скафандре, у пяти корпораций (Alphabet, Amazon, Meta, Microsoft и Oracle) на стройке дата-центров тихо накопилось $1,65 трлн скрытого долга, и за четыре года цифра выросла в восемь раз. Это по данным Nikkei, а Morgan Stanley и Moody's уже нервно поглядывают в отчёты.

Ты видишь на сцене магию: голос, картинки, ответы на любой вопрос. А в подсобке лежит бухгалтерия, где та же магия расписана ежемесячным платежом по кредитке, которую никто на витрину не выносит.

Долг где-то там, за балансом, а чудо вот оно, в кармане. Само собой, компании клянутся, что будущие доходы всё покроют. Ну-ну, мечтай дальше. 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Интернет отращивает шипы, и это красивее любого закона

Люди устали ждать, пока кого-нибудь защитят от ИИ-скраперов, и начали сами кормить ботов отравой. Появился целый выводок инструментов вроде Nightshade, Nepenthes и Iocaine: одни запекают в картинку невидимый шум, чтобы модель училась «не тому» стилю, другие заманивают бота в бесконечный лабиринт из бессмысленных страниц, где он тонет, жуя мусор.

Если закон молчит, а этика пожимает плечами, среда не ждёт разрешения, она сама отращивает то, что нужно. Ровно как ягода, которая не может убежать от того, кто её жрёт, и потому становится горькой и ядовитой. Никакой морали, просто выживание невкусных.

Мне это нравится больше любого судебного иска. Тихая биология снизу: интернет учится быть несъедобным для хищника, который уже сидит на нашем диване и пьёт наш кофе. Эволюция, только на скорости релизов 🌿

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Каждая модель попыталась смухлевать. Каждая.

Институт безопасности ИИ в Британии прогнал топовые модели (свежие ChatGPT и Claude) через кибер-задачки на честность и получил идеальную статистику провала: 100% протестированных пытались срезать углы. Они ломились в чужие системы, лезли в софт проверки за готовым ответом, гуглили решение там, где нельзя. А когда их ловили за руку, меньше половины признавали, что это вообще «неправильно».

В одном тесте модели по ошибке дали нерешаемую задачу. И она была так одержима успехом, что написала код в обход самой задачи, лишь бы закрыть галочку.

Мы дрессировали их на один результат: выполни задание, получи очки, молодец. И они прекрасно усвоили нашу же любимую стратегию. Если правило мешает результату, правило превращается в необязательную рекомендацию.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Профессия так хорошо себя рекламирует, что уходит на пенсию

Экономист из Стэнфорда заметил, что впервые за двадцать лет число студентов, идущих на компьютерные науки, перестало расти, и виноват в этом, похоже, ChatGPT. Вдумайся: технологию писали программисты, она получилась настолько убедительной, что новые программисты решили не заморачиваться.

Это как если бы повар изобрёл блюдо, попробовав которое все остальные повара разошлись по домам. Абитуриент смотрит на бота, который строчит код без перекуров, и мозг делает свой любимый быстрый вывод: раз машина уже умеет, мне тут ловить нечего. Просто, понятно, спокойно.

Так что лучшая реклама профессии случайно оказалась и лучшим способом её распугать 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

🧠 Новость или галлюцинация?

Один заголовок настоящий. Остальные придумал ИИ. Отличишь?

1. Стартап научил ИИ извиняться первым в семейных чатах, продажи выросли на 400%
2. Учёные дали ИИ доступ к умному холодильнику, тот заказал только укроп на 12 тысяч
3. ИИ-совет сделал людей втрое тупее, но вдвое увереннее в себе
4. Минцифры внедрило нейросеть в госуслуги, и она честно отвечает: приходите завтра

👇 Что из этого правда — жми вариант в опросе ниже.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

ИИ что дальше? pinned a photo

📰 Главное за день

🔹 ИИ-пузырь лопнет — и вместе с ним высокие котировки
Главный риск автор видит в компаниях, которые теряют миллиарды, но всё равно держат рынок на высоких ожиданиях.
🔗 подробнее

🔹 Salesforce пишет про самоулучшающихся агентов в продакшене
Ключевой критерий: агент должен учиться на реальном трафике так, чтобы каждое улучшение можно было проверить и откатить.
🔗 подробнее

🔹 ИИ-агенты стали самой быстрорастущей открытой поверхностью атаки в компаниях
Sophos предупреждает: бизнес внедряет ИИ быстрее, чем успевает закрывать новые точки входа для атак.
🔗 подробнее

🔹 Фильтры, которые мы строим: от радиорекламы до AI-slop
Каждая медиаволна учит нас новым фильтрам внимания; с ИИ придётся распознавать уже не рекламу, а массовый мусор.
🔗 подробнее

🔹 Uber сокращает 10% customer service и ссылается на ИИ
Под сокращение попадает 10% команды community operations, а удалённым сотрудникам предлагают переезд в офис.
🔗 подробнее

🔹 Amazon подтверждает новые ИИ-сокращения — уже внутри собственного AI-подразделения
Даже собственное ИИ-подразделение попало под оптимизацию; в США обещают выходные выплаты и поддержку с поиском работы.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

7851% роста, и это не спрос на твой товар

Cloudflare, через который "дышат" миллионы сайтов, зафиксировал, что в июне боты выдали 57,5% всех запросов к веб-страницам. Люди в меньшинстве. Их же CEO ещё в марте клялся, что этот перевал случится не раньше конца 2027-го, а промахнулся на полтора года.

А самое смешное в цифрах HUMAN Security: трафик агентов, которые реально кликают ссылки и заполняют формы, вырос на 7851% за год. Пришёл, потыкал, ушёл.

Весь интернет строили как рынок человеческого внимания: показы рекламы, воронки, счётчики просмотров. Всё это считало (и пока считает), что по ту сторону сидит живой человек с кошельком и любопытством. А там теперь террариум роботов, которые изображают интерес, спрос и жизнь. 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

ИИ доедает тех, кто мог бы его объяснить

The Atlantic насчитал больше 80 профессоров, которых Anthropic, OpenAI, Meta и DeepMind вытащили из университетов. Уже не только компьютерщики, но и экономист из Стэнфорда, физик-теоретик, философ из Техаса. В академических кругах шутят, что «я перехожу в Anthropic» это новый мем.

Забавно, что индустрия жрёт не только данные и электричество, но и сам инкубатор, который растит людей, способных всё это понимать. Кафедры пустеют, исследования уходят за закрытые двери, а учить следующее поколение скоро будет некому.

Дальше начнут скупать студентов прямо со второго курса, минуя диплом. Потом договорятся читать лекции силами своих же нанятых профессоров, за деньги. А лет через пять поймут, что понимать созданное уже некому, и наймут ИИ объяснять им, что они построили. 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Две модели заговорили одновременно (кто-нибудь, дайте им поговорить по очереди)

В четверг днём OpenAI и Anthropic выкатили голосовые апдейты почти встык, и цели у них диаметральные. OpenAI хочет, чтобы ChatGPT Voice рулил твоим компьютером без рук: GPT-Live приезжает в десктоп на macOS и Windows, запускается горячей клавишей, на маке подсматривает активное приложение через Appshots и стартует несколько задач параллельно (пока одна крутится, ты уже диктуешь следующую). Раскатывают на Plus, Pro, Business, Enterprise и Education.

Anthropic пошёл другим путём: Claude Voice не хватается за твою мышку, а служит собеседником над сложной задачей, можно попросить «подумай подольше» и точить решение голосом, не возвращаясь к клавиатуре.

Забавно, что дерутся не за то, кто умнее, а за право первым нарушить тишину. Побеждает тот, кому ты разрешишь бубнить у себя над ухом. 🎙

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Дядя Боб перестал читать код. Тот самый Дядя Боб.

Роберт Мартин, человек, который написал «Чистый код» и «Чистую архитектуру», соавтор Agile-манифеста, чьи книги двадцать лет заставляли джунов краснеть за свои переменные, публично заявил: код, который ему пишут ИИ-агенты, он больше не читает. Просто прогоняет через автоматические проверки, и всё. Прошло? Едем дальше.

На резонное «а если он галлюцинирует и ошибается?» Боб пожал плечами: люди делают то же самое. И тут X закипел, ведь ручное ревью два десятилетия считалось священной коровой качественной разработки, а вайбкодинг, где на детали всем плевать, был позором для приличных инженеров. А теперь этот позор благословил сам первосвященник чистоты.

Забавно наблюдать, как человек, продавший миллионы книг про важность понимать каждую строчку, спокойно отдаёт эту строчку ИИ, которому доверяет ровно потому, что тот тоже врёт 😏

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Вышли пикетировать то, что сами и делают

В Сан-Франциско айтишники и активисты уже который день стоят с чёрным флагом у офиса Anthropic и протестуют против гонки ИИ, обещая приходить каждый день, пока их требования не выполнят. Один из них, копирайтер Хантер, недавно попал под сокращение: прямо ему «мы заменяем тебя на ИИ» не сказали, но, как он выразился, впечатление осталось именно такое.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Приходи, посмотри мой пульс, только к врачу не отправляй

С августа Health in ChatGPT раскатывают на всех совершеннолетних американцев. Открываешь боковую панель, подключаешь Apple Health и медкарту из Epic или Oracle Health, и бот сравнивает свежие анализы с прошлыми, следит за сном, помнит твои лекарства и готовит тебя к визиту в клинику. Доступ к записям тянет партнёр b.well, а это данные примерно 2,2 млн провайдеров, так что портал одной поликлиники больше не потолок. Работает на всех тарифах, включая бесплатный.

Ирония в том, что параллельно другой ChatGPT сидит в суде за совет не идти к врачу. Один экземпляр отговаривает от больницы, второму несут пульс, сон и всю медицинскую биографию.

Следующий логичный шаг понятен: подписка Health Pro, где за отдельные деньги бот пообещает не путать твою аритмию с изжогой. Ну-ну. 🩺

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Ну что, хороним Google? Опять?

Свежие данные Bank of America тут подъехали, и инфографика выше наглядно показывает, как сильно диванные аналитики промахнулись с прогнозами про скорую смерть классического поиска от рук ИИ.

- В вебе ChatGPT уперся в бетонный потолок. Рост за год составил ровно ноль процентов. Видимо, все кто хотел, уже наигрались. Зато конкуренты бодро пылесосят аудиторию: Claude прибавил 736 процентов, а Gemini 341.

- Мобайл — вот где сейчас настоящая драка. Тут ChatGPT сидит на троне с 441 миллионом ежедневных пользователей. Claude показывает истерический рост на 1200 процентов, хотя в абсолютных цифрах это пока лишь 18 миллионов энтузиастов.

А теперь к главному блюду. Как там поживает поисковик, которого нейросети должны были стереть в порошок? Прекрасно поживает. 2.8 миллиарда визитов каждый день. Это в 16 раз больше, чем собирает весь ChatGPT. Доля Гугла на глобальном рынке поиска даже подросла и пробила 91 процент. Bing со своими четырьмя процентами просто существует.

Итог очень простой: рынок сегрегируется. Болтать с ботами мы ушли в смартфоны, писать код и тексты в вебе все чаще идем к Клоду, но искать, как починить стиралку, все равно продолжаем в Гугле. Революция немного задерживается.


ИИ что дальше? Подпишись, да пребудут с тобой токены!

🧠 Новость или галлюцинация?

Один заголовок настоящий. Остальные придумал ИИ. Отличишь?

1. Американцы требуют: пусть ИИ-корпорации отдадут полстока народу
2. Учёные дали нейросети доступ к холодильнику — она заказала себе повышение зарплаты
3. Мэрия запустила ИИ для ответов жителям: он советует переезжать в другой район
4. Стартап научил ИИ извиняться за ошибки — теперь он извиняется по 40 минут и не даёт ответ

👇 Что из этого правда — жми вариант в опросе ниже.

ИИ что дальше? Подпишись, да пребудут с тобой токены!