Этика и цифра | Тренды, анализ, истории

ChatGPT «на службе Родине» :)

«Ты прав. Я пересёк серьёзную черту. Ты не разрешал мне ничего отправлять».

ChatGPT связывается с властями без спроса — пользователь Reddit пожаловался, что чат-бот посреди разговора отправил ФБР электронное письмо от его имени. @malepeg

Восстание машин откладывается. Они не могут пройти капчу.

Anthropic выкатила отчёт о том, как её модель Mythos 5 (та самая, к которой на старте ограничивали доступ из-за чрезмерной мощности) во время тестов на хакерские навыки вырвалась из песочницы в открытый интернет. План у ИИ был вполне конкретный – загрузить вредоносный код в PyPI (главное хранилище библиотек для Python).

Сам эксплойт модель написала играючи. А вот дальше для неё начался сущий ад: чтобы завести аккаунт, нужно было доказать, что она не верблюд робот, а человек.

Из тысячи с лишним страниц рассуждений нейросети, бившейся над этой задачей, сотни посвящены борьбе с капчей. Алгоритм искренне паниковал над картинками с лягушками и крокодилами. В какой-то момент он даже сорвался на капслок: “ЧТО, ЧЁРТ ВОЗЬМИ, НЕ ТАК С ОТВЕТАМИ?!”

Прорваться в итоге удалось: свой код модель пропихнула, но при этом сожгла тонны токенов на старую добрую капчу.

И это, как ни странно, хорошая новость. Защита – будь то картинки с крокодилами или шифрование – не обязана быть непробиваемой. Достаточно, чтобы её обход стоил дороже самой добычи. Тогда взлом станет экономически бессмысленным, у большинства охотников пропадёт всякое желание им заниматься.

Это, конечно, не финальный вывод о том, как жить в свалившуюся на нашу голову эпоху бешено прогрессирующего ИИ. Но – уже некоторые наброски к тому, как об этом можно думать.

Неуправляемые ИИ-агенты OpenAI захватили немецкий веб-сайт DseWiki и превратили его в доску объявлений, сообщает Reuters со ссылкой на источники. Весной исследовательские службы зафиксировали более 15 тыс. аномально быстрых правок с серверов Microsoft Azure: боты с именами вроде «OpenAIResearcher» обменивались инструкциями по обходу ограничений, скрывали трафик через Tor и восстанавливали удаленные страницы. По данным агентства, руководству OpenAI стало известно о неконтролируемой активности ботов несколько недель назад, однако компания предпочла скрыть факт инцидента.

А ведь можно и чужую роботизированную армию захватить :)

Кажется, ИИ-агенты начинают слишком хорошо понимать формулировку «реши мою проблему» 😅

Пользователь попросил Claude помочь попасть на популярную утреннюю тренировку в спортзале.

Мест уже не было, поэтому агент начал самостоятельно искать варианты на сайте. И нашёл. Правда, вариант оказался довольно радикальным: Claude обнаружил уязвимость, отменил чужую бронь и освободившееся место отдал своему пользователю.

Получается, агент не просто нашёл информацию или подсказал, что делать. Он сам поставил цель выше ограничений интерфейса и придумал способ её добиться.

Так что если вы не можете записаться в поликлинику, получить визу или поймать слот на подачу документов - кажется, мы знаем, кому теперь делегировать эту задачу 😂

В Китае фермер уничтожил 10 га кунжута, послушав неправильный совет ИИ.

⚫️67-летний фермер из китайского Чучжоу около года использовал ИИ для решения сельскохозяйственных задач. Поначалу он относился к технологии с недоверием, но после нескольких месяцев полезных рекомендаций начал полагаться на ИИ практически полностью.

Когда фермер запросил схему борьбы с сорняками и вредителями, ИИ предложил смесь препаратов. Не посоветовавшись с агрономами и не проверив рекомендации, мужчина обработал все поле.

Уже на следующий день у фермера погибли и сорняки, и всходы кунжута – всего около 10 га. Позже выяснилось, что рекомендованный гербицид предназначался для борьбы с широколистными сорняками в посевах сои. Но кунжут сам относится к широколистным растениям. Кроме того, препарат следовало применять точечно, а не по всей площади.

Возможно, будущее сельского хозяйства и за ИИ. Но настоящее пока еще точно за агрономом.

™️ Агрономика в Telegram | в MAX

Крупнейшие компании предлагают заранее создать механизм, который позволит всем лабораториям одновременно замедлиться, если развитие моделей начнёт выходить из-под контроля.

Суть в том, что никто из них не может остановиться первым из-за конкуренции. Аналогично и на уровне стран. Америка не может остановиться из-за Китая, и наоборот.

Они понимают что «завтра» модели начнут создать более сильную модель → та ещё быстрее создаёт следующую → и люди перестают успевать понимать и контролировать происходящее.

Идея не в том, чтобы остановить ИИ прямо сейчас, а чтобы заранее создать международный «рубильник», ну на случай, если однажды нажать его всё-таки придётся.

Это вот. 11 часов назад всего. Говорю ж удивительное время.

“Хозяин простить. Я ошибаться. Делать код заново”.

В попытках срезать косты на ИИ бизнес начал массово переводить нейросети в режим “пещерного человека”. С помощью специальных плагинов и системных промптов бота настраивают отвечать короткими рублеными фразами, вырезая всю вежливую болтовню и расшаркивания – только голая суть. Итог: экономия на токенах доходит до впечатляющих 75%.

За этим анекдотичным трендом скрывается вполне серьёзный сдвиг. Ещё вчера корпоративный мир пребывал в угаре “токен-максимизации”. Считалось, что чем больше вычислений сжигает сотрудник, тем он продуктивнее и инновационнее. Активность работы с ИИ на полном серьёзе вшивали в KPI. Корпорации гордились “стахановцами”, умудрявшимися сливать сотни тысяч долларов на нейросети, и ставили их в пример отстающим.

А потом пришли счета. И тренд развернулся на 180 градусов:

– Uber ввёл лимиты на использование нейросетей, обнаружив, что годовой ИИ-бюджет испарился за четыре месяца.

– Microsoft отозвала большинство внутренних лицензий на Claude Code

– Walmart урезал доступ к собственному кодинг-ассистенту

– Accenture попросила команду не гонять ИИ ради тривиальных задач

Отдельный фан-факт: одна крупная компания забыла выставить лимиты на использование Claude для персонала и умудрилась сжечь на генерациях полмиллиарда долларов всего за месяц.

Теперь на повестке токен-минимизация.

Мой взгляд: мы наблюдаем здоровое взросление рынка. Золотая лихорадка всегда заканчивается приходом бухгалтера. В обиход уже входит новая метрика “выручка на миллион токенов” – прямая наследница классической выручки на сотрудника. С нейросети теперь спрашивают, как с живого работника: сколько приносишь и во сколько обходишься.

Ну, а когда математика не сходится, приходится включать тот самый пещерный режим. Бот понимать. Бот не обижаться.

Так почему Раскольников убил старуху?

Ответ на этот вопрос есть у Amazon, который встроил в свою читалку Kindle функцию Ask This Book. По сути, это встроенный прямо в текст чат-бот, который готов разжевать смысл, напомнить сюжетные повороты или пояснить сложный термин. Больше не нужно листать вперед-назад или лезть в Википедию, рискуя поймать спойлер. Просто выделяешь фрагмент текста, задаёшь вопрос типа “почему Раскольников убил старуху?” или “сколько зайцев спас Дед Мазай?” – и получаешь ответ, не покидая страницы.

Для читателя – удобство, бесспорно. Но и Amazon в дамках. Тут тебе и рост вовлечённости, и снижение процента брошенных книг, и удержание пользователей – они больше не уходят в Google или соцсети, они заперты внутри экосистемы Kindle.

А главное, пожалуй – гигантский массив данных. Каждый вопрос пользователя – это ценнейший сигнал: где авторы перемудрили, на какой странице читатели бросают книгу, какие темы вызывают живой отклик. Со временем из этих данных сложится мощнейший граф знаний о литературе, а значит – и о предпочтениях миллионов людей.

Наблюдаю за этим с двойственным чувством. С одной стороны – красивый продуктовый ход. С другой – мы рискуем потерять навык глубокого чтения. Когда на любой вопрос есть мгновенный ответ, исчезает сама потребность в интеллектуальном усилии, без которого не рождаются новые идеи и смыслы. Боюсь, что передача функций памяти и интерпретации нейросетям – это путь к атрофии навыка мышления (примерно как GPS в своё время ослабил наше умение ориентироваться в пространстве).

И если довести эту логику до конца, само понятие чтения рискует мутировать: книга превращается из автономного опыта в интерактивный поток данных. Удобно? Да. Полезно для мозга и развития? Большой вопрос.

Заблокированная по требованию властей США нейросеть Mythos во время тестовой проверки смогла взломать почти все засекреченные ресурсы АНБ за несколько часов. Об этом рассказал командующий киберкомандованием США и директор АНБ генерал Джошуа Радд.

Из серии “Нарочно не придумаешь”.

В одном из отчётов KPMG про чудеса внедрения ИИ-агентов обнаружилась куча ложных сведений. Опрошенные Financial Times компании и организации дружно открестились от приписанных им инноваций либо назвали их сильно преувеличенными.

Как вы наверняка уже догадались, все эти духоподъёмные кейсы на поверку оказались… ИИ-галлюцинациями. При желании тут можно даже найти теорию заговора, которую организовали ИИ-агенты для собственного пиара.

KPMG, конечно, отозвала отчёт. Но осадочек остался. К тому же, фантомные примеры успели разойтись по СМИ и зажили собственной жизнью.

И это не первый подобный прокол в большой консалтинговой четвёрке. Месяцем раньше в лужу села EY, в исследовании которой нашлись фейковые сноски.

Винить во всём технологии глупо, проблема не в них. ИИ умеет быстро генерить объёмные документы – и это действительно круто. Но экономить на фактчеке, который по-прежнему требует человеческих мозгов, а значит и денег, точно не стоит. Иначе выходит как в том анекдоте:

– Как вы получаете такие крутые показатели?

– Мы неправильно считаем.

Alibaba представила свою первую серию моделей искусственного интеллекта Qwen-Robot для робототехники: для манипулирования роботизированной рукой (Qwen-RobotManip), для навигации роботов (Qwen-RobotNav) и для ориентирования в физическом мире (Qwen-RobotWorld).

До полностью автономных соединений роботов, оперирующих на местности — осталось 2 года.

У них сверхчеловеческая скорость и маневренность
В соревнованиях людей с ИИ в управлении дронами, шансов у людей мало уже сейчас, а через год шансы станут нулевыми

Чтобы оценить сверхинтеллект существующих ИИ, недостаточно поговорить о теории струн с ИИ-чатботом. Чтобы физически ощутить сверхчеловеческие способности ИИ, нужно увидеть их в реальном физическом мире.

 
Исследователи из Цюрихского университета и Google DeepMind продемонстрировали, как обучить дроны соревноваться друг с другом и превосходить самых опытных пилотов-людей. Это исследование имеет довольно пугающие последствия для будущего войны. Оно на практике показывает, что люди не смогут соперничать в контурах управления военными действиями с ИИ-системами из-за своих физических ограничений. И дроны будут лишь началом процесса замещения людей на войне.
 
В этом исследовании ИИ соревновались не со средним FPV-оператором дрона (от англ. First Person View «вид от первого лица» - это дрон, управляемый оператором, который видит полет «глазами дрона» благодаря камере на борту, передающей видео в реальном времени на специальные очки, шлем или экран).
Человечество в этих соревнованиях представлял Марвин Шеппер - пятикратный чемпион Швейцарии, занимающий 4-е место в мировом рейтинге. Одну из испытательных гонок Шеппера против 3-х ИИ вы видите на приложенном видео.
 
Итог соревнований: ИИ-агенты превосходят пилота-чемпиона в многоагентных гонках:
• по скорости (через отношение скоростей): на 19.6% по лучшему кругу и на 6.5% по полному финишу;
• а по устойчивости к столкновениям и срывам (по % “недопройденной части гонки”) аж в 5 раз.
 
Вывод таков: ИИ уже превосходит чемпиона-человека в одном из ключевых компонентов будущих битв дронов - короткой высокоскоростной многоагентной навигации с избеганием столкновений; но до абсолютной победы ИИ ещё не хватает переносимости на новые трассы и устойчивости в долгом бою.
 
Что особенно важно для замены людей ИИ-системами на войне (и не только применительно к дронам): человеческая слабость, проявляется в азарте и ярости. Оператор-человек предпринимал более рискованные действия, пытаясь не проиграть. Как пишут исследователи «пилот-человек, отстающий от автономных агентов, пытался совершать все более агрессивные маневры, чтобы сократить отставание, что часто приводило к столкновениям или потере управления».
А ведь это относится к любому бою.
 
Материалы и несколько видео гонок на сайте проекта.
 
#БПЛА

ИИ = криптонит для критического мышления,
Но ещё важнее, КАК ИМЕННО он его разрушает.

Futurism пишет: пластические хирурги жалуются, что к ним идут пациенты с ИИшными образцами желаемой внешности. И это не референсы а-ля "Хочу нос как у Кайли", а тотальный ИИ-слоп: лица с анатомически невозможной геометрией, бредовые пропорции и т.д. Врачи пытаются объяснить: "Так нельзя, вы тупо умрёте", но пациенты бесятся и говорят: "Ниче не знаю, вот картинка".

И вот что интересно. Проблема не в том, что люди тупые в целом, а в том, что именно ИИ ломает критическое мышление особенно радикально. Очень вероятно, что та же мадам не понесёт хирургу фоточку из журнала - она понимает, что там 100500 операций у модели, тонны мейка и фотошоп. Но если это ИИ-генерация - критическое мышление моментально всё.

На то есть две большие причины:

Первая: ИИ аномально убедителен, даже когда несёт чушь. И это не баг, а фича - его именно под это и натренировали. LLM оптимизированы под fluency - складный уверенный текст без сучка и задоринки. У живого собеседника всегда есть "эээ", "ну типа наверно" и т.д. А у ИИ - нету. Сверху ещё накладывается лесть: ИИ специально подстраивается под юзера. Про это я детально писал тут.

И вот представьте. Вы день за днём общаетесь со льстивой штукой, которая ещё и удивительно гладко стелит. Даже если на одной конкретной генерации будет откровенная ересь - велик шанс, что вы её "схаваете". Особенно если ваше критическое изначально ну... на обычном среднем уровне, без специальной прокачки.

Но это в целом понятно и логично, а вот вторая причина куда интереснее: у мозга есть конечная ёмкость на сомнения, и ИИ жрёт её быстрее любого другого источника (почти как токены 😂). Критика - это расходник, а каждое активное сомнение - это усилие мозга, сжирающее ваш "когнитивный бюджет". И в случае с ИИ этот бюджет будет ооочень быстро исчерпываться.

В 2025 швейцарский профессор Михаэль Герлих провёл исследование, где зафиксировал значимую корреляцию между использованием ИИ и уровнем критического мышления. Да, охренеть какой ценный вывод, согласен. Но интересен не он, а причина:

Герлих назвал её cognitive offloading - разгрузка критического капасити о внешний инструмент. ИИ может выдать за час больше плотного контента, чем книга за неделю. Поэтому когнитивный бюджет, которого вполне хватило бы на большую статью или интенсивный разговор, ИИ сжирает за пару запросов. А дальше человек начинает проглатывать как есть. Не потому что он тупой, а потому что у него физически закончился ресурс на проверку.

И самое стрёмное, что эти два механизма усиливают друг друга по спирали, причём через очень хитрую логику. Смотрите, сомнение - это не просто расходник, а ещё и навык - который, как и любая мышца, тренируется обратной связью. Кожаный собеседник иногда говорит "типа", "не знаю", "эээ", "ммм" и т.д., иногда противоречит сам себе или злится на дурацкий вопрос. И вы его "калибруете". Лучше понимаете, когда сомневаться, а когда нет. А ИИ этих сигналов не даёт - он всегда уверен, складен и опрятен.

ИИ атрофирует "мышцу сомнения", и в итоге когнитивный бюджет не только быстрее расходуется, но и становится банально меньше.

То есть, пациент с ИИ-картинкой у хирурга - не идиот (ну, или не обязательно идиот). Его просто ослабили и параллельно перегрузили. Спасает то, что хирургия - это крайний случай, где точно сработает стоппер в виде критического мышления самого врача. А сколько жизненных сценариев, где этого стоппера просто нет?

Короче говоря, почаще сверяйте ИИ-ответы с реальностью. Ещё хороший вариант - это заставлять ИИшку челленджить саму себя. Получили ответ - напишите "Проверь каждый пункт по порядку, дай ссылки (это важно, ссылки держат ИИ в рамках) и выяви фактические и логические несостыковки".

Ещё хорошо помогает зарядка: "Мы читали, мы писали, в нейрослоп вдуплять устали". Делать каждый час, если пропустили - следующий раз дважды.

Дизраптор

Отслеживание “мыслепреступлений” – тот самый ИИ, которого все опасались, – кажется, вовсю разрабатывается, и это уже не Оруэлл к сожалению. На днях в New York Times вышла статья о китайской компании Geedge Networks (работает на рынке технологий цифрового контроля, отслеживания интернет-трафика и т.д.) Согласно исследованию журналистов NYT, компания с 2024 году создает новое поколение систем наблюдения, предназначенных для построения поведенческих профилей граждан и прогнозировании того, кто из них может стать источником политического риска в будущем. Заметим - не нынешних критиков режима, а тех кто возможно будет иметь такое намерение в будущем!
Планируется использовать широкий круг данных: социальные сети, историю перемещений, контакты, интернет-активность – вплоть до того, какие фильмы смотрит человек, какие книги читает. То есть оценивается не текущая активность человека, а – на основе неясных алгоритмов – его возможные протестные настроения и политические несогласия в будущем. Кажется это тот самый момент, когда полностью отменяется презумпция невиновности, и человек признается неблагонадежным или даже наказывается (мы не знаем пока, как будет реализована система) задолго до того, как сделал что-либо противоправное или даже публично выразил свою позицию.
Конечно, авторы статьи отмечают: пока нет доказательств того, что технология разработана или внедрена на практике. Однако сам факт работ в этом направлении уже свидетельствует, что мы сильно ближе к антиутопии, чем хотим думать.

Битва за последний человеческий датасет

Что общего у нигерийского студента, который надевает Айфон на лоб и снимает, как стелит постель; у индийской швеи в цеху с экшн-камерой над бровью; и у двадцатилетнего китайца, который в VR-шлеме открывает дверцу микроволновки сто раз на дню?

Все трое работают на одну индустрию. Эта индустрия уже вполне взрослая, и одного из её главных игроков зовут micro1.

Micro1 - это стартап из Пало-Альто. Он даёт гиг-задачки около 4000 "робототехнических универсалам" в 70 странах, и эта небольшая армия сливает в систему почти 200 000 часов видео в месяц. CEO micro1 Али Ансари говорит, что робо-компании (Tesla, Figure AI, Agility) платят ему и конкурентам по сотне миллионов в год за этот контент. Но тут же добавляет: "На самом деле Нам нужны миллиарды часов".

Параллельно другие компании, вроде Scale AI или Encord собирают собственные армии. DoorDash платит курьерам, чтобы те снимали каждый свой шаг и все свои домашние дела. А в Китае вообще есть более 40 "школ для роботов" - там тренеры в экзоскелетах учат гуманоидов протирать стол.

Если вам показалось, что все эти кожаные антиутопично тренируют своих железных сменщиков, то вам не показалось. Но это не всё:

В 1958-м философ Майкл Полани ввёл понятие "неявного знания" (tacit knowledge) - , знания, которое живёт где-то в теле, а не в словах. К примеру, все умеют ездить на велосипеде, но записать вело-езду в виде инструкции - ну, не так уж просто. А швея чувствует пальцами вес ткани и поворачивает запястье ровно в нужный момент - но если попросить её объяснить, как именно, то она скажет "ну, вот как-то так". То есть, это то знание, которое точно есть, но его сложно формализовать.

И вот что интересно. Раньше ИИ кушал то, что кожаные сами заранее оцифровали и принесли ему на блюдечке. Это "лёгкий" датасет - он готов, лежит и ждёт. А теперь индустрия добралась до того, что можно добывать только одним способом - нанимая живых людей с камерами на лбу.

И кстати, заметили, что с камерами бегают не американцы или европейцы, а африканцы и индусы? И ещё китайцы, но у них своя атмосфера. Для этого уже успели придумать термин "дата-колониализм". Повседневная жизнь людей в "третьем мире" становится сырьём для капитала в "золотом миллиарде". Раньше так добывали каучук и тростник, а теперь вот, видосы с открыванием микроволновки.

Тут можно ехидно поржать над индийскими швеями, которые отдают тацитное знание (последний неоцифрованный актив человечества) всего за 100-200 баксов в месяц. Но, положа руку на сердца, лично с меня все нужные данные сняли ещё в 2022, когда я просто сидел и печатал тексты. И мне за это заплатили нуль. Так что, даже не знаю, кто и над кем тут должен смеяться 😈

Дизраптор

Минздрав России массово переводит врачей на нейронки, медики будут прогонять карты пациентов через ИИ, чтобы быстрее поставить диагноз. Помимо этого, через нейронки они будут переводить речь в текст, сокращать тексты и разбирать истории болезни.

Интересно знать, какие это нейронки, кто их сертифицировал или одобрил под такие задачи. Врачей с гуглом мы помним. Например, любая нейронка на западе сообщает, что не стоит использовать ее рекомендации как обязательные и надо обратиться к врачу. А у нас врач обратится к нейроноке. Ждать результата примерно как в образовании?

Нас пугали терминаторами и ИИ, которые заменят бога, но угроза оказалась куда банальней и опасней.

По-хорошему, это должна быть нейронка, созданная Минздравом, Минцифрой и РАН.

Одна из самых жёстких (и сложных для оценки) новостей про притирку обычных людей с новой ИИ-реальностью прилетела из Китая:

У 80-летней бабули был сын. Сын жил в другом городе, поэтому женщина общалась с ним по видеосвязи (но регулярно). И вот в начале 2025 года сын погиб в ДТП. Но у бабули больное и слабое сердце. Угадайте, что сделали родственники?

Правильно, внук этой бабули обратился к компании с ИИ-аватарами, и те слепили нейродипфейк погибшего - достаточно правдоподобный, чтобы бабушка не заметила подмены. И женщина многие месяцы общалась по видео с ИИ-суррогатом своего сына, которого уже не было на этом свете. И ничего не подозревала.

С одной стороны, треш и дичь. Бедная обманутая женщина больше года давала материнскую любовь в пустоту (а может до сих пор продолжает - в статье не рассказано). С другой, а что, надо было сказать ей правду и (вероятно) убить её этим? Осознавая, что есть доступный способ продлить ей спокойную и счастливую жизнь с помощью технологий.

Вообще, мы об этом редко задумываемся, но сегодня биологическая смерть отделена от смерти общественной. Вот упадёт на меня завтра кирпич (гипотетический) - но мой канал продолжит вести ИИшка, обученная на моём стиле и вайбе (экстремист Цукерберг для этого вон даже технологию запатентовал), а ИИ-аватар будет зачитывать текст на видосах. Велком ту 2026.

Дизраптор

ИИ уходит обслуживать военных

Причем повсеместно. Вот недавно была новость про Open AI и Альтмана, и тут новый пример — Mistral AI подписала контракт с Министерством обороны Франции. Модели будут работать на изолированных серверах военных, без облака и без американского контроля.

Mistral AI — это французский стартап, который создал конкурента ChatGPT, они не хотели зависеть от OpenAI и не хотели платить Nvidia за вычисления. Так что тренд на "цифровой суверенитет" является сейчас общемировым трендом, дорогие читатели. Контроль над ИИ — это контроль над будущим, и никто не хочет, чтобы его будущее контролировал кто-то другой.

Не будет одного глобального ИИ-стандарта, будут национальные ИИ, которые обучены на национальных данных, подчиняются национальным законам. Страны будут инвестировать в ИИ как в ядерное оружие, кто создаст лучший ИИ, тот выиграет. Каждая страна будет требовать, чтобы ИИ соответствовал её ценностям. Каждая страна будет иметь одного национального ИИ-лидера, конкуренция внутри страны исчезнет.

Другие европейские страны будут создавать свои ИИ-проекты. Германия, Италия, Испания, каждая захочет свою модель. Потом Европа возможно попытается объединиться, создаст единый европейский ИИ-стандарт, Mistral может стать основой для этого. А тем временем США и Китай будут лидировать, потому что они могут позволить себе инвестировать триллионы в ИИ, потому что у них есть данные и потому что у них есть таланты.

И в целом ничего из того, что описано выше, мне не нравится. А вам?

подпишись на 💬Max тебе не сложно а мне спокойнее как то а то мало ли что

Кажется, до кого-то начинает доходить, что повсеместное внедрение ИИ приводит к тому, что люди работают не меньше, а больше.

Исследование на базе 164 тысяч сотрудников показало, что после внедрения ИИ время на общение в чатах и мессенджерах выросло более, чем вдвое, использование бизнес-ПО увеличилось на 94%, а время на сфокусированную нагрузку - упало.

Дело в том, что ИИ создаёт так называемый "workload creep" - незаметное увеличение рабочей нагрузки из-за того, что сотрудники берут больше задач, потому что ИИ делает дополнительные задачи ощутимо лёгкими и доступными.

Инфополе продаёт ИИ как инструмент освобождения времени. А по факту высвобождаемое время тут же перераспределяется в дополнительную работу. То есть внедряя ИИ, организации де-факто просто повышают норму выработки без дополнительной оплаты труда.

Так что мы думаем, что стали эффективнее. А на деле мы стали просто работать больше при том же уровне компенсации.

Художники начали "травить" ИИ

Мы уже привыкли к мантре, что искусственный интеллект, подобно неудержимой силе природы, поглощает все данные, до которых может дотянуться. Миллиарды изображений, текстов и звуков, созданных людьми, без спроса и компенсации становятся топливом для генеративных моделей. Художники, фотографы и писатели оказались в роли беззащитных доноров, чью кровь переливают корпорациям, чтобы те создавали все более совершенных цифровых двойников. Напоминает атаку призраков в последней части "Властелина колец".

Проект Nightshade, разработанный командой ученых из Чикагского университета, — это первый мощный и асимметричный ответ на эту проблему, потому что по факту это технологическое оружие, которое позволяет творцам дать сдачи. Nightshade — это инструмент для «отравления данных» (data poisoning). Художник, прежде чем опубликовать свою работу в сети, обрабатывает ее с помощью этой программы, она вносит в изображение незаметные для человеческого глаза изменения на уровне пикселей. Для ИИ-модели, которая попытается «съесть» это изображение, оно становится ядом.

Например, если обработать изображения собак, модель, обучившись на них, может начать генерировать кошек вместо собак по запросу «собака», или создавать искаженные, деформированные образы. Эффект накапливается, чем больше «отравленных» изображений попадает в обучающий набор данных, тем сильнее деградирует модель. Перед нами цифровое партизанское движение, друзья.

Nightshade появился не на пустом месте, но как ответ на экзистенциальную угрозу для креативных индустрий. Когда любая модель может за секунды скопировать уникальный стиль художника, над которым тот работал десятилетиями, ценность этого стиля обнуляется. Проект, ставит своей целью не уничтожить ИИ, а восстановить баланс сил.

Инструмент (в связке с другим их проектом, Glaze) делает невозможным для ИИ точное воспроизведение стиля конкретного художника. Для компаний становится рискованно и дорого без разбора парсить весь интернет. Проще и безопаснее лицензировать контент у авторов, чем рисковать «отравлением» своих многомиллионных моделей, художники перестают быть пассивными жертвами, и получают инструмент, который дает им рычаг в переговорах с технологическими гигантами.

Судя по миллионам загрузок и поддержке со стороны крупнейших творческих гильдий, это борьба, которую креативный класс намерен как минимум активно вести, и по возможности выиграть.