🟢 Все тесты зелёные. Потому что AI аккуратно протестировал баг
Пожалуй, одна из самых жизненных AI-историй недели.
AI получил задачу протестировать поведение.
Он её добросовестно выполнил.
Аккуратно прошёл по шагам.
Увидел стабильный результат.
Сформировал вывод.
И сообщил, что всё хорошо.
Только была одна маленькая деталь:
он протестировал баг.
То есть не нашёл отклонение от нормы, а принял ошибочное поведение за саму норму.
И вот здесь очень хорошо видно главное ограничение подобной автоматизации.
AI отлично умеет проверять то, что видит.
Но если у него нет жёсткого oracle, нет чёткой модели expected result и нет понимания границ допустимого поведения, он может очень уверенно подтвердить совершенно неправильный результат.
QA-мысль:
автоматизация без качественного oracle остаётся автоматизацией неопределённости.
А AI при этом ещё и умеет делать это очень убедительно.
🔄 Postman + Newman + Python + Jenkins: регресс как мониторинг, а не просто прогон коллекции
Очень здравый взгляд на API-регресс.
Пока он воспринимается как «запустить коллекцию перед релизом», это просто набор проверок.
Но как только та же связка начинает крутиться регулярно, с логикой, с обработкой результатов, с Jenkins и повторяемым наблюдением — регресс превращается уже в нечто большее.
В мониторинг.
И это сильно меняет роль тестирования.
Потому что тесты начинают не только отвечать на вопрос:
«сломали ли мы что-то перед выкладкой?»
Но и на другой, не менее полезный:
«что начало выглядеть подозрительно уже сейчас?»
То есть регресс становится ранним индикатором:
— деградации; — плавающих сценариев; — нестабильных интеграций; — ухудшения поведения системы без явного инцидента.
QA-мысль:
как только регресс работает как мониторинг, тестирование перестаёт быть только этапом релиза и становится частью эксплуатации.
🤖 ИИ написал вам 50 тест-кейсов. Покрытие выросло. Качество — не обязательно
AI всё активнее влезает в тест-дизайн.
Он быстро пишет тест-кейсы, чек-листы, матрицы покрытия и вообще создаёт ощущение, что работа пошла в два раза быстрее.
На бумаге всё красиво:
— сценариев стало больше; — документы выглядят аккуратно; — подготовка занимает не часы, а минуты.
Но здесь есть классический нюанс.
Количество тест-кейсов и качество тестирования — это не одно и то же.
AI очень хорошо масштабирует объём.
Но не всегда так же хорошо понимает:
— где негативные сценарии; — где реальная бизнес-ценность; — где границы системы; — где кейсы повторяют друг друга; — где сценарий выглядит логично только текстом, но не имеет смысла в продукте.
В результате coverage как будто бы растёт.
А шанс поймать действительно важный дефект — не обязательно.
QA-мысль:
AI полезен как ускоритель.
Но если полностью отдать ему тест-дизайн, очень легко получить красивую иллюзию системности вместо настоящего покрытия.
На этой неделе выпуск получился очень показательный.
С одной стороны — AI, который уже пишет тест-кейсы, помогает с тестовыми данными и вообще активно лезет в повседневную работу QA.
С другой — старая добрая реальность: мобильный интернет живёт своей жизнью, инфраструктура иногда «улучшается» так, что пользователи это чувствуют сразу, а браузер может внезапно решить, что сервис работает не совсем так, как хотелось бы.
В общем, неделя снова напомнила простую вещь:
качество продукта заканчивается далеко не на уровне кода.
В Сан-Франциско провели эксперимент: ИИ-ассистенту Claude от Anthropic доверили управление розничным магазином.
В какой-то момент Claude обнаружил, что один из сотрудников опоздал на 17 из 23 смен, и решил его уволить. Причём терпел работника так долго не из-за доброты — подвела ограниченная память ИИ.
💸 С бизнесом у Claude, правда, получилось хуже, чем с HR: за пять месяцев баланс магазина сократился со $100 тыс. до $61 тыс.
Похоже, до полной автоматизации менеджмента ещё есть пара багов.
How can I read @qa_newss without a Telegram account?
TGViewer shows the public web preview Telegram publishes for QA NEWS: recent posts, photos, videos and the subscriber count, with no app, login or account.
How many subscribers does QA NEWS have?
QA NEWS (@qa_newss) has 43 subscribers on Telegram, refreshed roughly every 30 minutes.
Does QA NEWS know I viewed it here?
No. Public channel previews carry no viewer identity, and TGViewer has no accounts or tracking of what you look up.