使用云监控实现GPU云服务器的GPU监控和报警(下)

  • 时间:
  • 浏览:0

groupId

groupId

gpu_memory_usedspace

instanceId,gpuId

MetricName

分组维度GPU功率

使用云监控实现GPU云服务器的GPU监控和报警(下)- 云监控插件监控

%

group_gpu_decoder_utilization

本文可能性删剪介绍怎样通过安装云监控插件来实现更全面、更易用的GPU云监控和报警。

单位

groupId

instanceId,gpuId

instanceId

名称

Bytes

实例维度GPU解码器使用率

gpu_gpu_usedutilization

group_gpu_memory_usedspace

instanceId

单位

gpu_memory_freespace

分组维度GPU解码器使用率

instanceId

℃ 

instanceId,gpuId

instance_gpu_gpu_temperature

MetricName

instance_gpu_encoder_utilization

在云监控控制台中进入主机监控,进入前要查看监控数据的实例,点击GPU监控标签页,就可不都后能 看到该实例所有GPU的GPU使用率、编码器/解码器使用率、显存使用量、GPU功率、GPU温度等监控数据。

instance_gpu_memory_totalspace

instance_gpu_decoder_utilization

         通过使用阿里云提供的云监控插件,可不都后能 一键安装就实现GPU指标的整理和上报,共同展示维度可不都后能 不能 与目前的ECS一样获得更多维度的展示,比如Dashborad监控大盘,可不都后能 监控集群级别的GPU指标,主机监控则可不都后能 在一个页面显示该实例所有GPU的所有监控指标。

groupId

单位

推荐通过创建模板后将模板应用于分组的土依据批量加进去去GPU报警。查看报警模板最佳实践。

group_gpu_encoder_utilization

Bytes

instanceId

gpu_memory_totalspace

instance_gpu_memory_freespace

         可是自定义监控的整理脚本前要用户当事人实现,可是云监控控制台上自定义监控的展示维度也很有限,不到查看指定VM指定GPU的某个数据。

分组维度GPU编码器使用率

groupId

gpu_memory_useutilization

Bytes

instance_gpu_memory_usedspace

instanceId,gpuId

分组维度GPU显存空闲量

Bytes

group_gpu_memory_freespace

GPU相关监控指标提供一个维度的数据

%

instanceId

下图是以TopN表格形式展示实例维度GPU温度的最大值,并以倒序土依据展示,可不都后能 一目了然的查看用户账号下所有GPU实例的实时温度状态,并选择GPU温度最高的实例。

实例维度GPU显存空闲率

groupId

groupId

instanceId,gpuId

可不都后能 使用OpenAPI来查询GPU监控数据。参考文档:https://help.aliyun.com/document_detail/51936.html

实例维度GPU温度

group_gpu_memory_totalspace

W

GPU维度显存空闲量

实例维度指标对单个ECS实例上的多个GPU监控数据做最大值、最小值、平均值的聚合。便于查看实例层面的整体使用状态。

%

GPU维度显存使用量

group_gpu_gpu_usedutilization

instanceId,gpuId

GPU维度显存空闲率

也可不都后能 在云监控控制台主机监控帕累托图一键点击安装最新的云监控插件,并查看云监控插件的版本,如下图:

instanceId,gpuId

实例维度GPU显存使用量

GPU维度GPU使用率

上一篇文章亲戚亲戚朋友儿介绍了怎样使用阿里云云监控服务提供的自定义监控功能,利用自定义监控提供的API可能性SDK,通过自定义脚本可不都后能 将GPU云主机内整理的GPU数据上报,在云监控控制台加进去去进去相应的GPU监控项,就可不都后能 实现对指定GPU实例内指定GPU的相应数据进行监控,对相应监控项设置相应数据的报警规则,就能实现监控数据的自动报警。

分组维度GPU显存空闲率

℃ 

GPU维度GPU功率

%

Bytes

instanceId

下图是以折线图形式展示特定分组的实例维度GPU显存使用量的平均值,可不都后能 一目了然的查看相关实例的显存使用量波动状态。

分组维度GPU显存使用量

%

Bytes

目前不到GPU计算型实例支持GPU云监控,实例前要要安装GPU驱动和云监控插件的1.2.28以上版本,即可在主机监控查看GPU相关监控数据、配置报警规则,或在Dashboard中配置监控图表。

TopN表格形式同样能非常方便的查看各个实例的GPU利用率和编码器/解码器利用率以及显存使用状态,从而判断业务运行与非 正常,以及判断资源利用与非 充分。

GPU维度显存总量

instanceId

gpu_encoder_utilization

Bytes

分组维度GPU显存使用率

GPU维度编码器使用率

group_gpu_power_readings_power_draw

实例维度GPU功率

参数说明:Project=acs_ecs_dashboard,Metric及Dimensions参考上述监控项表格中的GPU指标。

W

group_gpu_memory_freeutilization

instance_gpu_memory_usedutilization

名称

groupId

GPU维度解码器使用率

%

%

%

groupId

  分组维度GPU温度

GPU维度GPU温度

instanceId

instanceId

%

新增的GPU监控项加进去去报警规则土依据同ECS的某些指标一样,可不都后能 针对某一特定指标设置报警规则,如下图:

instance_gpu_gpu_usedutilization

分组维度GPU使用率

gpu_memory_freeutilization

group_gpu_gpu_temperature

下图是以折线图形式展示特定分组的分组维度GPU温度的平均值,可不都后能 一目了然的查看指定分组相关实例的GPU温度波动状态。

实例维度GPU使用率

%

dimensions

使用云监控实现GPU云服务器的GPU监控和报警(上) - 自定义监控

Bytes

实例维度GPU显存总量

W

dimensions

GPU维度的指标,整理每个GPU层面的监控数据。

分组维度GPU显存总量

分组维度指标对单个应用分组里的多个ECS 实例的监控数据做最大值、最小值、平均值的聚合。便于查看集群层面的整体使用状态。

instanceId,gpuId

%

Bytes

instanceId,gpuId

%

dimensions

groupId

MetricName

可不都后能 在云监控控制台Dashboard中创建自定义GPU监控大盘,以多种图表类型大盘展示分别分组、实例、GPU维度的各个GPU指标。

instance_gpu_memory_freeutilization

实例维度GPU编码器使用率

云监控插件从1.2.28版本刚开始 支持GPU数据的整理。云监控Agent(即云监控插件)的安装可不都后能 参考云监控官方使用文档:云监控Agent安装。共同支持Linux和Window操作系统。

%

instanceId

group_gpu_memory_usedutilization

gpu_power_readings_power_draw

名称

%

%

instance_gpu_power_readings_power_draw

gpu_gpu_temperature

GPU维度显存使用率

gpu_decoder_utilization

实例维度GPU显存空闲量

下图是以TopN表格形式展示实例维度GPU功率的平均,并以倒序土依据展示,可不都后能 一目了然的查看用户账号下所有GPU实例的实时功率状态,并选择GPU功率最高的实例。

实例维度GPU显存使用率

instanceId,gpuId