Я тут делал небольшой проект по ИИ в компании и столкнулся с интересным культурным феноменом. Есть слой знаний, который «и так все знают». Большой слой информации удерживается коллективом постоянно в головах, поэтому его никто и не думает документировать. Там есть свои понятия сокращения, внутренний подъязык. Но ни одного текста на эту тему не существует. Попытка «давайте быстренько сделаем раз нет» вскрыла, что там тонны информации, которую надо структурировать и быстренько не получится.

Напрашивается параллель с историческими источниками. В книги обычно попадает всякое необычное не-норма, а о бытовухе можно почитать разве что в берестяных грамотах. Семь чудес света мы знаем лучше, чем детские игрушки того времени.

Скорее всего все ИИ модели всегда будут страдать от отсутствия этого «народного знания» во многих областях или как минимум сильно отставать от него.