Brain – Nền tảng AI truy xuất tri thức và hội thoại dựa trên MCP, RAG, Amazon Bedrock

GIỚI THIỆU DỰ ÁN Brain là nền tảng AI về tri thức và hội thoại, cho phép người dùng nội bộ/pilot hỏi đáp trên kho tri thức của tổ chức và để AI agent tự gọi các công cụ (tool calling) nhằm hoàn thành công việc theo từng bước. Dự án được thực hiện tại Splus Software từ 06/2026 và đang trong giai đoạn vận hành cho nhóm người dùng nội bộ/pilot. VAI TRÒ CỦA TÔI Software Engineer, phụ trách thiết kế và xây dựng, luồng truy xuất tri thức, tích hợp công cụ MCP, cơ chế xác thực truy cập và cải thiện pipeline xử lý âm thanh. BÀI TOÁN CẦN GIẢI QUYẾT - Người dùng cần truy vấn tri thức nội bộ bằng ngôn ngữ tự nhiên thay vì tìm thủ công trong nhiều nguồn tài liệu. - AI không chỉ trả lời mà còn phải thực hiện được tác vụ thông qua công cụ (tool-based tasks) một cách có kiểm soát. - Việc cấp quyền truy cập vào các công cụ cho client/agent cần an toàn, có xác thực rõ ràng. - Đầu vào âm thanh (ví dụ ghi âm cuộc họp/hội thoại) thường nhiễu và nhiều người nói, ảnh hưởng chất lượng xử lý AI phía sau. GIẢI PHÁP VÀ CÔNG VIỆC ĐÃ THỰC HIỆN 1. Truy xuất tri thức và hội thoại AI (MCP + RAG + Bedrock) - Thiết kế và triển khai luồng truy xuất tri thức và hội thoại dựa trên MCP (Model Context Protocol), sử dụng RAG và Amazon Bedrock để người dùng và AI agent truy vấn tri thức và hoàn thành các tác vụ dựa trên công cụ. - Tích hợp hơn 10 công cụ MCP vào nền tảng để mở rộng khả năng hành động của AI. 2. Quản lý truy cập và bảo mật cho MCP - Quản lý việc cung cấp (expose) các công cụ MCP cho bên sử dụng bằng cách cấp Cognito client ID và secret, đảm bảo chỉ client đã xác thực mới gọi được công cụ. 3. Cải thiện pipeline âm thanh - Cải thiện pipeline xử lý âm thanh bằng khử nhiễu và ước lượng vai trò người nói (speaker-role estimation) kết hợp Amazon Transcribe, giúp văn bản chuyển đổi chính xác và đáng tin cậy hơn cho bước xử lý AI phía sau. CÔNG NGHỆ SỬ DỤNG Python; MCP (Model Context Protocol), RAG, LLM tool calling; AWS: Amazon Bedrock, Amazon Transcribe, Cognito, Lambda/ECS. KẾT QUẢ - Người dùng nội bộ/pilot có thể hỏi đáp tri thức và để AI hoàn thành tác vụ qua hơn 10 công cụ MCP. - Truy cập công cụ được kiểm soát bằng xác thực Cognito. - Chất lượng đầu vào âm thanh được cải thiện, giúp kết quả AI phía sau đáng tin cậy hơn.