LLM генерируют пароли, которые выглядят надёжными, но таковыми не являются 🤷‍♂️

Нейросети научились писать код и рисовать картины, но провалили базовый тест на криптографическую паранойю. Эксперты из компании Irregular попросили топовые LLM (Claude, GPT, Gemini) сгенерировать надежные пароли. На первый взгляд всё круто: разные регистры, спецсимволы, 100 баллов по шкале энтропии. Но стоило попросить выдать еще 50 штук, как магия интеллекта рассеялась. Оказалось, что сверхразум лепит клонов, пароли почти всегда начинаются с G7, используют один и тот же шаблон, а один конкретный пасс (G7$kL9#mQ2&xP4!w) Claude выдал аж 18 раз из 50. Вероятность совпадения, которая в безопасности должна стремиться к нулю, у ИИ составила дикие 36%.

Причина этого фиаско заложена в самой архитектуре языковых моделей. База любой защиты - это генератор псевдослучайных чисел, который выдает абсолютный, непредсказуемый хаос. А суть работы любой LLM - угадывать наиболее вероятный следующий токен. Нейросеть физически не умеет в настоящий рандом. Она генерирует то, что выглядит как типичный сложный пароль в её обучающей выборке. Она даже избегает звездочек (*), чтобы случайно не сломать Markdown-разметку, и не повторяет символы подряд, потому что ей кажется, что это выглядит менее случайным.

Искусственный интеллект может написать вам дипломную работу, но генерацию секретов лучше оставить математике 😬

🥸 godnoTECH - Новости IT