Промышленный RAG и локальный AI-агент

Задача

Знания об оборудовании были распределены по сотням руководств, электрических документов и рабочих файлов. Инженерам требовался поисковый ассистент, работающий рядом с данными и поддерживающий локальные и внешние LLM-эксперименты.

Что я сделал

• Развернул RAGFlow на ARM64/NVIDIA Jetson вместе с Elasticsearch, MySQL, MinIO и Redis в Docker.
• Настроил локальные Qwen embedding/reranking-компоненты, локальный Qwen inference и OpenAI-compatible путь через OpenRouter.
• Очистил, дедуплицировал и проиндексировал техническую документацию в базу знаний по оборудованию.

Архитектура

technical documents → parsing/indexing → Elasticsearch knowledge base → embedding + reranking → local or external LLM

Раздельные профили поддерживали локальную работу с документами и исследовательские запросы при общем retrieval-слое.

Масштаб

Исходная коллекция включала сотни технических файлов. Поскольку промежуточные количества менялись во время очистки и индексации, публичный кейс намеренно не фиксирует одно точное число документов.

Результат

• Создана рабочая среда поиска и ответов по промышленной документации на ARM64-оборудовании.
• Проверены взаимозаменяемые локальный и OpenAI-compatible inference-пути без раскрытия внутренней инфраструктуры.