跳转至

MindStudio Profiler Tools

user guide

正在初始化搜索引擎

Home
Overview
msProf
PyTorch Profiler
MSPTI
msMonitor
msprof-analyze
MindStudio Insight
msAgent
Profiling Cases

MindStudio Profiler Tools

Home
Overview
Overview
msProf
msProf
- 推荐阅读
  推荐阅读
  - msProf解析工具
  - 性能数据文件参考
- 文档目录
  文档目录
  - User guide
    
    User guide
    
    扩展功能
    
    msProf解析工具
    
    性能数据文件参考
    
    DB格式性能数据文件参考
  - Best practices
    
    Best practices
    
    异步双发未生效问题调优指导实例
    
    msProf工具使用案例——ResNet50推理模型性能分析
    
    同一Batch内请求长度不均问题分析
    
    一、问题背景
    
    通信地址不对齐导致性能下降问题分析
    
    cpu cachemiss资源冲突与受限问题分析
    
    CPU 线程频繁切换
    
    一、问题背景
    
    DP负载不均
    
    EP负载不均
    
    框架调度下发不同步问题调优指导实例
    
    GIL锁抢占问题分析
    
    IR中断打断问题分析
    
    内核进程频繁切换问题分析
    
    KV Block数量不足
    
    KVCache传输影响模型性能
    
    显存超过临界值触发内存重整问题分析
    
    内存碎片问题分析
    
    内存泄漏问题分析
    
    模型性能劣化导致SLO劣化
    
    模型前后处理耗时过长问题分析
    
    多实例负载不均
    
    一、问题背景
    
    PrefixCache未命中
    
    Pthread线程锁等待
    
    Python GC回收高耗时
    
    模型推理请求等待时间过长问题调优指导实例
    
    sampler执行耗时过长问题分析
    
    scheduler耗时过长
    
    服务化与纯模型性能差异过大问题调优指导实例
    
    一、问题背景
    
    系统调用高耗时函数
PyTorch Profiler
PyTorch Profiler
- 快速入门
- profile 接口采集
- dynamic_profile 动态采集
- 离线解析
- MSTX 用户自定义打点
- Source
  Source
  - Getting started
    Getting started
    
    快速入门
  - User guide
    
    User guide
    
    profile 接口采集
    
    dynamic_profile 动态采集
    
    离线解析
    
    性能数据交付件
    
    schedule 参考
  - Advanced features
    
    Advanced features
    
    MSTX 用户自定义打点
    
    Profiler 子线程采集
    
    环境变量信息采集
    
    自定义元数据
MSPTI
MSPTI
- 文档目录
  文档目录
  - User guide
    
    User guide
    
    Activity API 使用指南
    
    Callback API 使用指南
    
    msPTI 用户指南
    
    Python API 使用指南
    
    msPTI工具样例指南
  - Best practices
    
    Best practices
    
    msPTI 最佳实践与典型案例
msMonitor
msMonitor
- 文档目录
  文档目录
  - User guide
    
    User guide
    
    dyno使用说明
    
    dynolog使用说明
    
    MindSpore框架下msMonitor的使用方法
    
    npu-monitor使用说明
    
    nputrace使用说明
  - Advanced features
    
    Advanced features
    
    mindstudio_monitor模块接口参考
    
    Monitor 特性介绍
  - Best practices
    
    Best practices
    
    msMonitor 使用案例
msprof-analyze
msprof-analyze
- 推荐阅读
  推荐阅读
- 文档目录
  文档目录
  - User guide
    
    User guide
    
    专家建议
    
    集群分析工具
    
    性能比对
  - Advanced features
    
    Advanced features
    
    NPU 和 GPU 性能数据拆解比对
    
    集群算子耗时分析
    
    集群性能数据细粒度比对
    
    集群性能数据细粒度拆解
    
    通信瓶颈分析
    
    集群算子掩盖线性度分析
    
    自定义分析规则开发指导
    
    集群算子信息导出
    
    空闲时间原因分析
    
    性能数据模型结构拆解
    
    算子 MFU 分析
    
    pp流水图数据分析
    
    解析结果和cluster_analysis.db交付件表结构说明
MindStudio Insight
MindStudio Insight
- 推荐阅读
  推荐阅读
  - 简介
  - MindStudio Insight基础操作
- 文档目录
  文档目录
  - User guide
    
    User guide
    
    MindStudio Insight基础操作
    
    MindStudio Insight内存调优
    
    MindStudio Insight算子调优
    
    简介
    
    MindStudio Insight服务化调优
    
    MindStudio Insight系统调优
  - Best practices
    
    Best practices
    
    基于 MindStudio Insight 定位集群快慢卡问题
    
    基于Linux Kernel Trace的Host Bound问题分析
    
    jupyterlab安装指南
    
    快捷键说明
    
    基于 PyTorch Snapshot 数据分析内存问题案例
    
    基于 PyTorch Snapshot 数据分析内存问题
    
    单卡 Top-Down 算子下发瓶颈分析
    
    Timeline泳道介绍
    
    verl场景下Snapshot数据采集和分析案例
msAgent
msAgent
- 文档目录
  文档目录
Profiling Cases
Profiling Cases
- 集群场景动态 Profile 性能数据采集与分析指导
  集群场景动态 Profile 性能数据采集与分析指导
- 强化学习场景性能数据采集及分析指导
  强化学习场景性能数据采集及分析指导
- Operator MFU 调优指南
- Host Profiling 常用检测工具
  Host Profiling 常用检测工具

目录

页面

Home
msprof-analyze
文档目录
User guide

user guide¶

该目录内容由构建脚本自动汇总。

页面¶

专家建议
1. 简介
性能比对

Made with Material for MkDocs