/Продолжение конспекта по статье «Темная сторона ИИ»/

📌Нейросети врут и не краснеют

14. Исследователи корпорации Google выявили, что функция AI Overviews в Google Search интерпретирует вымышленные фразы как реальные идиомы.
15. Нейросети могут тиражировать и усиливать бесконечно человеческую ошибку. Пример - бессмысленный термин «вегетативная электронная микроскопия», закрепившийся в научных базах данных.
16. Современные ИИ-модели ограничены в решении сложных математических задач. Даже передовые системы не способны генерировать полные доказательства — их средний результат составил менее 5 % от максимального балла. Лучший показатель — 24 % — продемонстрировала только модель Gemini 2.5 Pro.
17. Компания OpenAI протестировала свои ИИ-модели и установила, что они часто допускают «галлюцинации», то есть дают вымышленные ответы вместо фактов. Так, нейросеть o3 сочиняла ложные данные в 33 % случаев, а o1 и o3-mini выдумывали ответы «всего» в 16 % и 14,8 % случаях соответственно.

📌Использование нейросетей против человека

18. ИИ-модели могут предлагать программные пакеты с внедренным злонамеренным кодом.
19. Специалисты компании HiddenLayer обнаружили универсальный метод взлома генеративных ИИ-моделей под названием Policy Puppetry. Вредоносные запросы маскируются под файлы с настройками в формате XML, INI или JSON.
20. Спам-бот AkiraBot использовал API OpenAI для генерации тематических спам-комментариев с помощью модели GPT-4o-mini, обманывая системы фильтрации на 80000 сайтов.

📌Нейросети следят за человеком

21. Компания Perplexity разрабатывает собственный браузер, способный собирать информацию о действиях пользователей за пределами самого приложения. Это должно позволить формировать детальные пользовательские профили для таргетированного рекламы.
22. Microsoft выпустила апрельское обновление для Windows 23. Его главной новинкой стала функция Recall, позволяющая быстро находить ранее просмотренную информацию. Она периодически сохраняет снимки пользовательского экрана и активности пользователя.
24. Новые модели от OpenAI научились точно находить местоположение объекта по фотографиям. «Вы еще выкладываете в Сеть снимки вашего отдыха или мест, где гуляют ваши дети?»

📌Нейросети теперь официально в кинематографе

25. Американская киноакадемия ввела новые правила для премии «Оскар», впервые официально регламентирующие использование ИИ в кинопроизводстве. Согласно обновленным требованиям, применение нейросетей не будет автоматическим критерием для дисквалификации, но жюри будет оценивать степень творческого участия человека в проекте. Новые правила начнут действовать уже со следующего года.

📌Люди гибнут за ИИ?

26. В Китае несколько ведущих специалистов в области IT ушли из жизни при невыясненных обстоятельствах.
27. Утрата молодых и перспективных исследователей поставила под вопрос дальнейшее развитие критически важных направлений.

📌Куда приведут цифровые мечты?

28. Сила и слабость нейросетей в том, что они не видят грани реальности.
29. В случаях, когда программе передадут широкие полномочия в реальности, это может привести к таким эксцессам, которые никак нельзя спрогнозировать.
30. Одно ясно точно: обратного пути нет.