В Алматы прошёл IT-беш от Servercore, на этот раз копали в сторону ИИ и инфраструктуры. Вырисовывается прагматичная (и местами суровая) картина того как КЗ enterprise внедряет в прод ИИ.
🔴
90% корпоративных ИИ-проектов умирают, так и не дойдя до прода.Проблема в архитектуре. Компании спотыкаются о комплаенс, ИБ и неумение считать нагрузку.
🔴
Своя архитектура в облаке дешевле, чем токены по API.Акбар Ермеков (
PAfoS.AI) описал если правильно спроектировать архитектуру (выбрать режим квантизации, посчитать нагрузку), то арендовать GPU под self-hosted решения выходит сильно выгоднее, чем сидеть на игле сторонних API с потокенной оплатой. Дешевле, чем покупать свои сервера, которые через пару лет превратятся в тыкву. Плюс — данные не улетают за пределы РК.
🔴
AI-агенты вместо "просто чат-ботов".Команда LexARE пилит виртуальных сотрудников для бэк-офиса (юристы, HR, финики), которые лезут в 1С и Битрикс. И чтобы всё это летало и не нарушало закон о персданных, они крутят это на локальных NVIDIA A5000. Локализация это требование регуляторов.
🔴
Главная боль финтехаАсем Таранова (Home Credit Bank) отметила что банки сейчас активно переходят от пилотов к реальному внедрению. Но главный вызов это данные, дефицит людей, которые умеют это готовить, и неспособность бизнеса масштабировать то, что получилось в песочнице.
Успех ИИ в бизнесе сегодня зависит не вида облачного вендора, а от того, готова ли ваша команда перестраивать процессы. Без культурного сдвига и обучения сотрудников любые A100/A5000 останутся просто очень дорогими обогревателями для серверной.
Подробности и полный разбор кейсов можно почитать на Капитале:
https://kapital.kz/tehnology/148851/kak-ii-menyaet-finteh-i-it-infrastrukturu-v-centralnoj-azii.html