12月13日,英博数科发布了多款“英博云”智算产品与服务。英博云涵盖智算中心建设运维、GPU容器服务、先进算力实验室和产业孵化器四大板块,专注于提供高效益、多样化的GPU智算产品及服务,助力企业加速AI技术研发和业务发展。
算力成本被认为是限制大模型技术发展和应用普及的一个主要因素。英博数科提出了“单位有效算力成本”评价体系,通过“卡可用率”、“卡利用率”和“模型算力利用率(MFU)”三个指标,精确衡量实际算力利用水平,提高算力效率和效益评价的准确性。
随着人工智能技术的广泛应用,智算行业正从规模化扩展迈向精益化运营,并呈现出三大发展趋势:全球通用大模型训练对算力的需求增长,垂直行业AI应用的发展,以及AI商业化背景下推理场景对算力需求的增长。
英博云的产品与服务响应智算行业的发展趋势,提供全方位的支持。针对大模型的集中式、大规模训练需求,英博云提供标准化、模块化的智算中心建设运维解决方案。这些方案包括高性能并行存储解决方案、硬件测评与检测体系以及集群监控和自动化故障恢复体系,以提升硬件稳定性和集群可用性。英博云还提供容器化形式的算力服务,满足不同规模和需求的用户。
对于垂直行业大模型的训练需求,英博云为中小客户提供了高效的GPU容器服务。通过Vcluster形式,英博云提供GPU和CPU资源混合的弹性K8S集群服务,满足大模型并行训练的工程需求。英博云支持SSH和Kubectl管理操作,提供灵活便捷的用户体验。秒级别的容器启停和计费粒度,企业级的并行存储服务,提升了GPU资源使用效率、降低了使用成本,并支持容器数据持久化和模型数据的高速共享。英博云还提供内网预定义场景镜像仓库、常用模型库、常用数据集等数据源服务,提高数据准备和环境配置效率。英博云已为多家企业和机构提供算力产品与服务,共同构建AI产业链合作生态。
先进算力实验室致力于成为算力性能评测中心,围绕硬件评测、软件评测以及行业服务展开工作,为企业提供算力基础设施升级与优化的建议,提升算力效率和业务表现。实验室已开展主流GPU芯片的测试。
此外,产业孵化器通过联合AI产业链上下游,探索算力投资新模式,挖掘AI产业潜在方向,赋能企业技术研发与业务扩展。
(责任编辑:王晨曦)