Крутая книга The AI Con про механики AI хайпа и как противостоять пропаганде. От CS/социолога Hanna и лингвиста Bender

AI хайп мутировал уже аж в научные статьи и долгие подкасты. Мы долго терпели, но каждый раз новое дно и горы булшита

Глава 1 Вводные
- В 2023 (!) сенатор Шумер вдруг заюзал термины p(doom) и p(hope) Юдковского, в США волна арестов по ложным распознаваниям фото, аппы раздевания на 99% про женский пол, Израиль юзал AI на десятки тыс смертей в Газе, а в VC вдруг всё стало AI
- AI как термину маркетинга уже лет 50, но щас - просто беспредел. Хайп стоит одновременно:
1) и на возвеличивании
2) и на FOMO и страхах

Гл.2 LLM живые?
- Разгон про проблески сознания в AI пошел с 2022, людьми типа Blaise Agüera y Arcas. Да, LLM это оч успешные предсказыватели символов. Да, они стали гигантские (Llama 400 млрд весов связей между перцептронами, натренены на 15 трлн слов). Но одушевлять этот autocomplete / synthesis machine?! Люди оперируют смыслами, а не перебором
- Это было нужно чисто для раскрутки и как тактика продаж. А термин, кгрхм, general intelligence - взяли из IQ тестов (те уже полвека дискриминируют людей)

3 Work
- Практике изъятия value от работников в пользу капиталистов - сотни лет. А всех кто против - обзывают луддитами. AI - это очередная волна и value proposition для корпоратов. Типа как мечты у отрасли роботакси, но - для всей контентной работы
- Цель текущей волны агиток от OpenAI до McKinsey итп - чисто чтобы работодатели закупились AI и выкатили на весь свой штат в обязательном порядке. И всё. Как когда-то Windows и прочие vendor lock-ins
- И отрасль оч. прячет сколько crowdwork, data labor, ghost work из Африки итп стоят за подготовкой датасетов и модерацией чатов

4 Social services
- Тезис акселерационистов типа что AI всюду создаст изобилие. Но крякает как утка - это ещё не утка. Айтишники ловко соскочили с промышленных стандартов надежности своих агентов. Нужны тесты на реальную применимость AI в любых значимых социуму сферах: учеба, соцобеспечение, право, диагнозы, медстраховки, риски рецидивов у заключенных, ответы от госведомств итп. А не потрясание (нахера?) своими рандомными бенчмарками
- Ложнопозитивные ответы отвлекают ресурс врачей, а ложноотрицательные убивают пациентов. А еще big data имеет нескончаемую историю biases и дискриминации (расовые, по уровню бедности итп) и судебных исков
- Тут нужны люди, молчим уж про эмпатию

5 Арт, наука, пресса
- В этих сферах больше креатива, чем логики. И миксование усредненного чужого - это не креатив. А кто отрицает, что креатив это люди - мои соболезнования
- Еще AI всё потырили без а) согласий, б) упоминаний, в) оплат. Главная “ачивка" AI отрасли - почему-то удалось слить законы о копирайте. Marс Andreessen: "судебные иски обрушат цену нашего портфеля стартапов"
- Науке, кстати, от AI shit (даже устанем перечислять) вреда пока больше, чем выгод. И этот процесс только начался..

6 В AI думерстве и AI акселерационизме нет смысла
- И те и другие стоят на ложных допущениях и диких фантазиях. Да еще и с bias к Западу и whites. Общее у них - тотальность и радикализм
- Среди думеров есть "полезные идиоты" (честно верят) типа EA и longtermists и Max Tegmark. Думеры и e/acc были далеки от мэйнстрима пока их не взялся финансировать Sam Bankman и упоминать Musk. Думеризм, впрочем, лихо способствует safetyism и over-regulation/Антихристу. Зачем в конгрессе обсуждать бредни про p(doom)?
- Климату будет хуже от гонки к датацентрам (планы жечь через лет 7 больше кВт, чем вся Индия)

7 И?
- Включайте мозг, задавайте вопросы, связывайте вводные и выводы, смотрите кто выиграл и кто теряет, какие labor & data практики
- Видите очеловечивание (e.g. assistant) - игнорьте. Высмеивайте genAI. И какая нафиг emergence по тому, что сделано из данных?
- Нужно строже регулировать (надежность AI tech, а не бенчмарки), законы о данных/privacy (воровство затянулось), защита прав работников. Пишите конгрессменам
- Tech-мафии пора заметить людей. Живых

**

НЕ читать (объемно) - конспекта хватит. Но агонь как пропаганду разобрали. И см. Безумства толпы