📄Как проверить точность математических библиотек: один тест, чтобы взять с собой зонтик

Для бесконечного множества действительных чисел существует лишь конечное число бит. Числа с плавающей точкой заполняют числовую ось неравномерно. Ошибка предсказания накапливается после каждого арифметического действия.

Это не тизер к фильму-катастрофе, а простые постулаты численной устойчивости, из-за которых страдает точность любых математических библиотек. Они лежат в основе не только прогнозов погоды, но и технологий искусственного интеллекта, машинного обучения, дополненной, виртуальной реальности, компьютерного зрения… Так что низкая точность математических библиотек вполне может обернуться проблемами для всего человечества.

К счастью, Валерия Пузикова, эксперт по разработке математических библиотек, знает, как обеспечить высокую точность элементарных математических функций. Быстрее и в десятки тысяч раз эффективнее, чем это обычно реализовано в индустрии. Подробно об этом методе и о проблеме точности в целом Валерия рассказывает в новом материале.

Читать статью ➡

#программы #алгоритмы

@ultimate_engineer