В Алматы прошёл IT-беш от Servercore, на этот раз копали в сторону ИИ и инфраструктуры. Вырисовывается прагматичная (и местами суровая) картина того как КЗ enterprise внедряет в прод ИИ.


🔴 90% корпоративных ИИ-проектов умирают, так и не дойдя до прода.
Проблема в архитектуре. Компании спотыкаются о комплаенс, ИБ и неумение считать нагрузку.

🔴 Своя архитектура в облаке дешевле, чем токены по API.
Акбар Ермеков (PAfoS.AI) описал если правильно спроектировать архитектуру (выбрать режим квантизации, посчитать нагрузку), то арендовать GPU под self-hosted решения выходит сильно выгоднее, чем сидеть на игле сторонних API с потокенной оплатой. Дешевле, чем покупать свои сервера, которые через пару лет превратятся в тыкву. Плюс — данные не улетают за пределы РК.

🔴 AI-агенты вместо "просто чат-ботов".
Команда LexARE пилит виртуальных сотрудников для бэк-офиса (юристы, HR, финики), которые лезут в 1С и Битрикс. И чтобы всё это летало и не нарушало закон о персданных, они крутят это на локальных NVIDIA A5000. Локализация это требование регуляторов.

🔴 Главная боль финтеха
Асем Таранова (Home Credit Bank) отметила что банки сейчас активно переходят от пилотов к реальному внедрению. Но главный вызов это данные, дефицит людей, которые умеют это готовить, и неспособность бизнеса масштабировать то, что получилось в песочнице.


Успех ИИ в бизнесе сегодня зависит не вида облачного вендора, а от того, готова ли ваша команда перестраивать процессы. Без культурного сдвига и обучения сотрудников любые A100/A5000 останутся просто очень дорогими обогревателями для серверной.

Подробности и полный разбор кейсов можно почитать на Капитале: https://kapital.kz/tehnology/148851/kak-ii-menyaet-finteh-i-it-infrastrukturu-v-centralnoj-azii.html