AI нельзя внедрять без критического мышления и локального контроля — QazCode
Глава казахстанской компании QazCode Алексей Шаравар заявил, что развитие искусственного интеллекта требует локального контроля, кастомизированных моделей и критического мышления со стороны пользователей.
Об этом он сообщил во время выступления на форуме M360 Eurasia 2026 в Самарканде.
По словам Шаравара, компания представила несколько собственных AI-решений, включая корпоративную платформу Aventa для бизнеса и государственных структур, а также медицинскую систему AIDA.
Как отметил эксперт, особенно высокие риски возникают при использовании AI в медицине, где ошибка алгоритма может напрямую повлиять на здоровье человека.
«Любая галлюцинация модели может повлиять на пациента», — отметил он, рассказывая о системе AI Doctor, которая помогает врачам автоматизировать заполнение документов и медицинских данных.
В компании подчеркнули, что одна из главных задач AI — освобождать специалиста от рутинной работы, чтобы он мог уделять больше времени людям.
Отдельное внимание QazCode уделяет безопасности моделей. Шаравар отметил, что компании и государственные структуры должны понимать, какие именно AI-модели используются в их системах.
По его словам, публичные модели могут ошибаться и допускать «галлюцинации», поэтому для важных задач лучше использовать кастомизированные решения.
Еще одним важным фактором он назвал локальную инфраструктуру и хранение персональных данных внутри страны.
Отдельный блок выступления был посвящен локальным языковым моделям. По словам главы QazCode, создание национальных LLM требует не только разработчиков и data scientists, но и лингвистов, специалистов по культурному контексту, bias-анализу и оценке моделей.
«Сейчас прекрасное время для лингвистов по всему миру», — подчеркнул он.
Шаравар отметил, что AI-модели должны понимать историю, язык и особенности культуры конкретной страны, иначе качество их работы будет ограниченным.
Глава QazCode также заявил, что пользователи не должны полностью полагаться на алгоритмы и обязаны самостоятельно проверять ответы искусственного интеллекта.
По словам Шаравара, особенно важно обучать этому детей, поскольку новое поколение станет первым поколением AI-native — людей, которые с детства будут жить в среде искусственного интеллекта.
В качестве одного из первых проектов компания представила AI Tutor — AI-сервис для помощи школьникам, особенно при изучении казахского языка.
По словам представителя компании, сервис уже насчитывает около 26 тысяч ежемесячно активных пользователей.
Шаравар отметил, что проект получил поддержку государства, и назвал это важным сигналом для развития AI-образования.
В компании считают, что детям необходимо как можно раньше получать доступ к AI-инструментам в школах и университетах.
