Стартап Миры Мyратти Thinking Machines Lab впервые рассказал чем он занимается.

LLM часто дают разные ответы на один и тот же вопрос и пока считается что эту их особенность не исправить.
Thinking Machines Lab говорят что можно)

Их гипотеза, что это происходит из-за особенностей взаимодействия GPU-ядер Nvidia друг с другом.
Научившись контролировать этот процесс они сделают поведение моделей более предсказуемыми, а ответы стабильными.

Возможно результаты их работы подкинут новых идей как снижать эффект черного ящика в LLM?
Из-за этого эффекта в частности в мире ещё не зарегистрированного ни одного медицинского изделия с ИИ на основе LLM.

https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/