​​Технология Tiny Machine Learning (TinyML) — это прорыв в области ИИ, позволяющий создавать портативные недорогие устройства, с помощью которых происходит решение ML-задач.

Концепция TinyML стремится к созданию устройств, которые обладают такими свойствами:

• не требуют больших вычислительных ресурсов (достаточно микроконтроллера);
• обладают малым энергопотреблением (менее 1 милливатта, что позволяет устройству работать до года от обычной «таблеточной» батарейки);
• работа алгоритмов происходит на самом устройстве, без отправки данных на сервер (нет зависимости от нестабильной сети передачи информации).

Разработка успешных TinyML-систем является достаточно сложной инженерной и научной задачей, так как требует объединения воедино многих дисциплин для достижения максимальной производительности.

Технология активно развивается и позволяет желающим экспериментировать с машинным обучением, например, воспользовавшись библиотекой Tensorflow Lite — облегчённым решением TensorFlow для мобильных и встроенных устройств. Она обеспечивает работу с малой задержкой благодаря небольшому размеру двоичного файла, высокой производительности и поддержке аппаратного ускорения.

Здесь вы можете ознакомиться с множеством вариантов готовых решений на базе этой библиотеки. Среди них: классификация изображений, обнаружение объектов, ответы на вопросы (с использованием распознавания естественного языка) и множество других применений.

Кроме TensorFlow, есть ещё пара интересных проектов, развивающих идею IoT:

Core ML
библиотека, позволяющая реализовывать ML-решения в среде операционной системы iOS;

PyTorch Mobile
библиотека машинного обучения, позволяющая создавать мобильные решения в сфере ИИ в среде операционных систем iOS и Android.

По прогнозу ABI Research, уже к 2030 году 2,5 миллиарда устройств будут включать в себя интеллектуальные технологии TinyML.