更新时间:2024-11-11 gmt 08:00

鲲鹏ai推理加速型-九游平台

鲲鹏ai推理加速型云服务器是专门为ai业务提供加速服务的云服务器。搭载昇腾系列芯片及软件栈。

该类型弹性云服务器默认未开启超线程,每个vcpu对应一个底层物理内核。

鲲鹏ai推理加速型系列:搭载自研昇腾310芯片,为ai推理业务加速。

表1 鲲鹏ai推理加速型实例特点

规格名称

计算

磁盘类型

网络

鲲鹏ai推理加速增强i型kai1s

  • cpu/内存配比:1:1/1:2
  • vcpu数量范围:4-48
  • 处理器:鲲鹏920处理器
  • 基频:2.6ghz
  • 高io
  • 通用型ssd
  • 超高io
  • 极速型ssd
  • 通用型ssd v2
  • 超高网络收发包能力
  • 实例网络性能与计算规格对应,规格越高网络性能越强
  • 最大网络收发包:200万pps
  • 最大内网带宽:12gbps

kai1s使用的驱动和cann仅支持21.0.2(3.0.1)版本,不支持驱动和cann升级。

鲲鹏ai推理加速增强i型kai1s

概述

鲲鹏ai推理加速型实例kai1s是以昇腾310(ascend 310)芯片为加速核心的ai加速型弹性云服务器。基于ascend 310芯片低功耗、高算力特性,实现了能效比的大幅提升,助力ai推理业务的快速普及。通过ai推理加速型实例kai1s将ascend 310芯片的计算加速能力在云平台上开放出来,方便用户快速简捷地使用ascend 310芯片强大的处理能力。

鲲鹏ai推理加速型实例kai1s基于atlas 300i加速卡设计,更多详细信息请参考。

鲲鹏ai推理加速型云服务器可用于机器视觉、语音识别、自然语言处理通用技术,支撑智能零售、智能园区、机器人云大脑、平安城市等场景。

规格

表2 kai1s型弹性云服务器的规格

规格名称

vcpu

内存

(gib)

最大带宽/基准带宽

最大收发包能力

(万/pps)

网卡多队列数

网卡个数上限

ascend 310个数

虚拟化类型

kai1s.xlarge.1

4

4

3/0.8

20

2

2

1

kvm

kai1s.2xlarge.1

8

8

4/1.5

40

2

3

2

kvm

kai1s.4xlarge.1

16

16

6/3

80

4

4

4

kvm

kai1s.3xlarge.2

12

24

8/4

100

4

4

4

kvm

kai1s.4xlarge.2

16

32

10/6

140

4

5

6

kvm

kai1s.6xlarge.2

24

48

12/8

200

8

6

8

kvm

kai1s.9xlarge.2

36

72

12/8

200

8

6

12

kvm

kai1s.12xlarge.2

48

96

12/8

200

16

6

12

kvm

功能

kai1s加速型弹性云服务器功能如下:

  • 处理器与内存配比为1:1/1:2。
  • 处理器:kunpeng 920 2.6ghz。
  • 支持ascend310芯片,每张atlas 300i加速卡包含4个ascend310芯片。
  • 单芯片半精度(fp16)8teraflops。
  • 单芯片整数精度(int8)16teraops。
  • 单芯片提供8gib显存,内存带宽50gib/s。
  • 内置硬件视频编解码引擎, 支持h.264/265。

使用须知

  • kai1s实例支持如下版本的操作系统:
    • ubuntu server 18.04 64bit
    • centos 7.6 64bit
  • kai1s型云服务器所在物理机发生故障时,云服务器支持自动恢复。

如何使用kai1s加速型云服务器

购买与使用kai1s加速型云服务器的流程如下:

  1. 创建云服务器,详细步骤,请参考自定义购买ecs
    • 在“规格”设置时,选择kai1s加速型相关规格。
    • 在“镜像”设置时,可以选择“公共镜像”和“私有镜像”。
      • 公共镜像:已经默认安装了cann 3.1.0的开发套件包,并配置了环境变量,请验证环境的可用性。
      • 私有镜像:需要安装驱动、固件和开发套件,并配置环境变量。详细步骤,请参考对应版本的《cann软件安装指南》。
  2. 远程登录云服务器。

    对于linux操作系统的云服务器,登录时请以ssh密码方式登录。具体操作,请参见密码方式登录linux弹性云服务器(ssh方式)

  3. 验证环境可用性。

    请参考中对应cann版本《应用开发指南》中的“样例使用指导”,选择一个样例进行编译运行,验证环境的正确性。

    例如,选择“基于caffe resnet-50网络实现图片分类(图片解码 缩放 同步推理)”样例进行验证。

相关链接

:为开发者提供昇腾常用开发工具,帮助您学习和使用昇腾。

相关文档

网站地图