【运维平台开发】佬们给点思路

1、目前平台上有监控告警 监控有自己的面板，也用代理接入了Grafana



2、有SSH普通的功能 + 黑白名单配置、和批量运维的ansibe功能 简单剧本修改 历史版本维护

3、监控告警直接对接Prometheus，Prom的告警直接第一手发到平台进行解析，存储告警历史、配置模板、发送钉钉机器人

4、网络探测 网络探测大屏、探测任务TCP HTTP-get/post

5、K8S相关基础运维 资源的各种操作，Chart发布维护

6、AI助手，接入大模型API 巡检资源主要是对接mcp/系统内部tools来做。然后通过Prom来监控模型的token使用情况.

7、资产管理 管理一些物理设备 丑陋的机房3d图

8、审计日志相关

9、各种 数据库管理、Rocket管理、Minio管理、Mcp管理

待开发。。。。

10、老大需求 想做一个管理多态GPU、XPU、NPU等各种卡的平台，根据租户进行分发模型，付费模式根据量 或者 时长。 目前这个我想到的是用 docker来做，先在平台上管理有卡的服务器，然后用过docker来启动模型容器给用户分配对应的卡的数量 启动在页面上有一套模板参数可以修改，然后启动后再集成sub2api到我的平台里，在sub2上吧这些key统一管理然后去分配，请教佬们有什么好方案。