AI软件架构

公司要搭建一个AI中台架构，目前的初始构想是前端是（dify和原有IT系统），后端服务（HTTTP或者Restful），一个Restful Server下可能会有（MCP、Agent集）、RAG，还有vLLM来部署（各类模型），之外可能还需要AI评估体系。生成了个大概的架构图。刚入职，以前没有相关学习经验，现在也在学习调研，佬友们有没有推荐的开源项目，或者技术路线。 ^-^