Джозеф Мюллер написал о проблемах вложенных модальных окон.

Модальное окно закрывает основное содержимое экрана, пока пользователь не выполнит в этом окне действия. Вложенное модальное окно появляется, когда два модальных окна накладываются друг на друга.

Проблемы:
— Из вложенного модального окна сложнее вернуться к основному сценарию;
— Система ведёт себя менее предсказуемо, например, не очевидно, что произойдёт, если пользователь нажмёт в браузере «Назад»;
— На десктопе такое окно обычно не использует всё пространство экрана;
— Это признак проблем с информационной архитектурой.

Что можно сделать со вложенными модальными окнами:
— Превратить их в шаги отдельного сценария внутри основного модального окна;
— Если есть место, показывать их в виде дополнительной боковой панели или раскрывающегося блока, сдвигающего вниз содержимое основного окна;
— Если в них находятся формы для редактирования содержимого, отображать их в строке с содержимым в основном окне (Inline Edit);
— Возможно, проблема в архитектуре, и правильнее не разбираться со вложенными модальными окнами, а сделать основное модальное окно обычной страницей.

— Перевод (не работают анимации с вайрфреймами решений): https://ux.pub/problema-vlozhennyh-modalnyh-okon-v-tsifrovyh-produktah/
— Оригинал [English]: https://uxplanet.org/6762351cf6de