与常规的异构实例相比,阿里云弹性加速计算实例EAIS提供的异构实例具有解耦性、低成本、弹性和多适配性的优势。
解耦性
常规的GPU实例,其CPU、内存和GPU是部署在同一台物理机中。EAIS实例可以将CPU与GPU成功解耦,其CPU、内存和GPU可以存在于不同的物理机中。您可以根据对CPU和内存的需求选择一款ECS实例,然后再匹配一个EAIS实例,即可生成一款满足您需求的新规格GPU实例。
低成本
EAIS能够将推理成本降低多达50%。您可以单独制定所需的推理加速量级,无需超额预置GPU资源,选择最合适您应用的实例类型即可。
例如,您需要一个内存超过128GB,且只带一块GPU的实例用于推荐系统,那么在常规的GPU实例规格中,能刚好满足您需求的实例规格有如下几种选择:
实例规格 |
vCPU |
内存(GiB) |
GPU |
GPU显存(GB) |
---|---|---|---|---|
ecs.gn6i-c24g1.12xlarge |
48 |
186.0 |
T4*2 |
32 |
ecs.gn6v-c8g1.8xlarge |
32 |
128.0 |
V100*4 |
64 |
ecs.gn6e-c12g1.12xlarge |
48 |
368.0 |
V100*4 |
128 |
如果您使用EAIS,则仅需要购买如下计算资源:
产品 |
实例规格 |
指标数据 |
---|---|---|
云服务器ECS |
ecs.r6.6xlarge |
24vCPU 192GB |
弹性计算加速实例EAIS |
eais.ei-a6.4xlarge |
FP32 16TFlops 32GB |
综上所述,如果您购买GPU实例,则只能在已有的固定规格中进行选择,并且您需要为该实例的全部资源付费。而使用EAIS,您只需选择刚好满足您业务场景的实例规格,更灵活地解决相同的问题场景,且成本降低优势明显。
弹性
EAIS可以准确获取您所需的资源,为您灵活匹配GPU资源。您可以轻松扩展和缩减推理加速量级以满足您的业务需求,不会过度投资预置资源。当ECS增加实例以满足不断增长的需求时,您可以为每个ECS实例扩展EAIS实例。当需求降低时,您也可以随时释放任意ECS实例连接的EAIS实例。这有助您为所需资源灵活付费。
多适配性
EAIS具有极强的适配性,能够支持GPU、NPU、FPGA多种异构硬件的适配,种类多样,适配性强。