大模型应用预研需求.MD 1.3 KB
风力发电机组的人工智能大模型应用
面向电力行业的新能源发电领域，针对风力发电机组的发电效能、可靠性、安全性方面，开发解决方案及产品。 探索利用人工智能大模型（大语言或多模态模型）技术，应用于风力发电业务，例如：建设相应知识库、评估机组安全、识别机组发电性能异常、诊断机组故障、评估机组健康。 基于国产化服务器私有部署，25人以内的并发在线使用大模型推理。
基础大模型选型及推荐
选型标准： 开源免费的大模型，无版权、使用的纠纷风险； 选择满足业务需求的参数量适中、各项测评分值排名前5的大模型；
大模型训练、适配计算资源及经济成本
分布式训练方法
针对多计算节点、单计算节点多卡（GPU或NPU）的复杂场景，兼容单计算节点（无卡）场景的，分布式训练、参数精度量化方法。
适配计算资源评估
期望：大模型训练、推理所需计算资源的CPU、内存、GPU或NPU，占用率峰值最高达95%。 计算资源评估方法及合理性介绍