智能科技吧 关注:390贴子:2,237
  • 1回复贴,共1

浪潮信息发布大模型智算软件栈OGAI~~~

只看楼主收藏回复



IP属地:湖北1楼2023-10-12 23:28回复
    目前,在通用人工智能产业中,大模型已经成为了驱动产业创新发展的核心技术。在大模型业务开发及推进层面,浪潮信息一直敢为人先。近日,浪潮信息发布了大模型智算软件栈OGAI(Open GenAI Infra)——“元脑生智”,面向生成式AI开发与应用场景,OGAI将为大模型业务提供全栈全流程的智算软件栈,包括AI算力系统环境部署、算力调度保障、模型开发管理等。
    OGAI软件栈由5层架构组成,从L0到L4分别对应于基础设施层的智算中心OS产品、系统环境层的PODsys产品、调度平台层的AIStation产品、模型工具层的YLink产品和多模纳管层的MModel产品。
    其中L2层AIStation是面向大模型开发的AI算力调度平台,AIStation针对大模型训练中的资源使用与调度、训练流程与保障、算法与应用管理等方面进行了系统性优化,具备大模型断点续训能力,保证长时间持续训练。AIStation支撑浪潮信息“源”大模型的训练算力效率达到44.8%。某大型商业银行基于AIStation打造的大规模并行运算集群,帮助其充分发掘计算潜能进行大模型训练,并荣获2022IDC“未来数字基础架构领军者”奖项。


    IP属地:湖北2楼2023-10-12 23:34
    回复