平台统计

更新时间:

平台为管理员提供了平台统计功能,管理员可分别查看平台的资源统计情况和任务统计情况,便于了解和调整平台资源的使用。

# 前提条件

您的账户具备 统计报表-平台统计 的权限。

# 操作步骤

  1. 登录Gemini,默认进入 工作台

  2. 下拉右上角账户处,选择 统计报表

  3. 随后在左侧二级导航栏选择 统计报表 , 默认进入 平台统计 页。

  4. 平台统计 页,可选择查看 资源统计任务统计 两种统计概况。

  5. 选择所需查看的统计概况后,您可相应设置 统计周期统计范围 进行范围概况查看。

    说明

    • 统计周期 可选:指定日期、指定周、指定月。
      • 指定日期 范围:过去至当前访问日期的前一天,不可选取访问当天及未来。
      • 指定周 范围:过去至当前访问日期所在周的前一周,不可选取当周及未来。
      • 指定月 范围:过去至当前访问日期所在月的前一月,不可选取当月及未来。
    • 统计范围 可选:统计平台全部节点或平台任一指定节点。
  6. 在指定统计周期及统计范围内进行平台统计数据查看。

# 资源统计说明

平台统计 - 资源统计 将以可视化图表形式向您展示平台 资源概况GPU型号使用统计资源使用趋势 使用情况,以下将就资源统计项向您展开说明:

# 资源概况:

平台资源概况由 节点统计GPU资源统计 两部分组成,在资源概况板块可对平台资源利用状况有整体的认识。

  1. 节点统计

    • CPU、内存、本地存储,均取统计周期与统计范围内数据平均值。

    • CPU使用率、CPU分配(request)、CPU分配(limit),均取统计周期内与统计范围内CPU使用率平均值。

    • 内存使用率、内存分配(request)、内存分配(limit),均取统计周期与统计范围内内存使用率平均值。

      说明 :可点此处跳转Request和Limit限制方式说明

  2. GPU资源统计

    • GPU数量、物理卡数量、虚拟卡数量,均取统计周期与统计范围内数量平均值。
    • 物理卡占用率:物理卡被任务申请成功后,即视为占用。计算规则为统计周期内与统计范围内物理卡占用数/物理卡总数。
    • 虚拟卡占用率:虚拟卡被任务申请成功后,即视为占用。计算规则为统计周期内与统计范围内虚拟卡占用数/虚拟卡总数。
    • 算力使用率:统计平台全部节点或平台任一指定节点所有GPU总算力利用率平均值。
    • 显存使用率:统计平台全部节点或平台任一指定节点所有GPU总显存利用率平均值。

说明
统计数据为:统计周期与统计范围内数据的平均值。
0% < 平均值 < 60% 为安全范围,显示绿色;
60% ≤ 平均值 ≤ 80% 为预警范围,显示黄色;
80% < 平均值 为危险范围,显示红色。

# GPU型号使用统计

统计GPU物理卡与GPU虚拟卡的占用量、占用率、使用率及其相应环比指数、平均值及峰值对比。

  1. GPU物理卡

    • 占用量:统计平台全部节点或平台任一指定节点所有物理卡被任务申请占用数量。
    • 占用率:统计平台全部节点或平台任一指定节点所有被任务申请占用物理卡/总物理卡数。
    • 使用率:统计平台全部节点或平台任一指定节点所有实际使用物理卡/总物理卡数。
  2. GPU虚拟卡

    • 算力占用率:统计平台全部节点或平台任一指定节点所有虚拟卡被任务申请占用数/总虚拟卡数。
    • 显存占用率:统计平台全部节点或平台任一指定节点所有显存被任务申请占用数/总显存数。
    • 算力使用率:统计平台全部节点或平台任一指定节点所有实际使用虚拟卡/总虚拟卡数。
    • 显存使用率:统计平台全部节点或平台任一指定节点所有实际使用虚拟卡显卡数/总显卡数。

# 资源使用趋势

资源使用趋势将以曲线图形式向您展示指定统计周期内的CPU和内存使用率、物理和虚拟卡GPU使用数量、GPU算力使用率等情况,帮助您掌握平台资源利用整体走势。

  1. CPU使用率/内存使用率

    统计平台全部节点或平台任一指定节点CPU/内存使用率平均值趋势。

  2. 物理卡/虚拟卡

    • GPU使用数量趋势:统计平台全部节点或平台任一指定节点所有物理卡/虚拟卡被任务申请占用数量趋势。
    • GPU算力使用率均值:统计平台全部节点或平台任一指定节点所有实际物理卡/虚拟卡使用率趋势。
    • GPU显存使用率均值:统计平台全部节点或平台任一指定节点所有实际物理卡/虚拟卡显存使用率趋势。

说明
统计周期取值规则 :根据您不同的统计周期选择,趋势图会按不同时间跨度展示资源使用趋势。

  • 指定日期:以指定日期内实际运行任务的小时整点为展示点,陈列数据分布趋势。
  • 指定周:以指定周内实际运行任务的天数为展示点,陈列数据分布趋势。
  • 指定月:以指定月内实际运行任务的天数为展示点,陈列数据分布趋势。

# 任务统计说明

平台统计 - 任务统计 以可视化图表及数据列表形式向您展示平台 空间用户 数量 、 任务概况开发环境离线任务任务提交情况 ,以下将就任务统计项向您展开说明:

  1. 任务概况

    • 开发环境:数量、任务总时长、任务平均时长、任务总卡时、任务平均卡时及对应环比指数。
    • 离线任务:数量、任务总时长、任务平均时长、任务总卡时、任务平均卡时及对应环比指数。
    • 可视化任务:数量、任务总时长、任务平均时长及对应环比指数。
    • 任务提交人数分布:依据开发环境、单机训练任务、分布式训练任务及可视化任务分类。
    • 任务提交次数对比:柱状图统计任务总提交次数及任务失败次数,分类开发环境和离线任务两类。

    说明

    • 开发环境、离线任务及可视化任务数量统计包含周期范围内已删除任务数量。
    • 卡时 :所申请物理卡/虚拟卡总卡数*使用时长
    • 虚拟卡卡时:虚拟卡卡时计算指任务申请虚拟卡个数,例:1个任务,申请2个算力1%的虚拟卡,使用1小时,此时算为2卡时。

  2. 开发环境

    可按 空间用户 选择查看训练总时长Top 5、GPU卡时Top 5。

  3. 离线任务
    可按 空间用户 选择查看训练总时长Top 5、GPU卡时Top 5。

  4. 任务提交情况

    可按 开发环境离线任务 查看任务提交情况,包含空间名称及空间内提交任务人数、提交任务次数、任务数量、任务失败数量及训练时长数据。
    平台同时提供按各项指标数选择排序功能。


# Request和Limit限制方式说明

# Request:

  • 容器使用的最小资源需求,作为容器调度时资源分配的判断依赖。只有当节点上可分配资源量≥容器资源请求数时才允许将容器调度到该节点。但Request参数不限制容器的最大可使用资源。

# Limit:

  • 容器能够使用资源的资源的最大值,设置为 0 表示使用资源无上限。

# Request与Limit限制关系:

  • Request能够保证有足够的资源运行,Limit则是防止任务无限制的使用资源,导致其他任务崩溃。两者之间必须满足关系:0 ≤ Request ≤ Limit ≤ Infinity (如果Limit为0表示不对资源进行限制,这时可以小于Request)