LLM 推理优化探微 (4) ：模型性能瓶颈分类及优化策略 千帆社区
大部分任务处理时间被芯片间的网络数据传输占用（图 3）。 图 3 —— communications bound process，计算过程、数据传输过程和网络通信过程分别以黄色、蓝色和绿色标出 请注意：我使用“芯片”这个词，因为这些概念适用于任何类型的芯片：CPU、GPU、定制芯片（如Google的TPU、AWS的Neuron Cores...）等。
模型服务 - 百度胜算 | 百度智能云文档
模型文件 用于描述模型的权重参数文件 模型镜像 包含描述模型的权重参数文件、依赖库等信息的镜像，可用于部署 模型格式 可理解为文件格式，就像图片有png、jpg一样，模型也有格式的概念，比如TensorRT、torch、tensorflow、onnx 等 模型框架 模型推理工具，可以让模型推理速度变快，使用该工具往往需要特定的模型格式，如Tensorflow、Transfromer等 模型版本 “模型版本
Notebook 模板使用指南概述 - BML 全功能AI开发平台 | 百度智能云文档
3、通用 Notebook 产出的模型支持 图像分类单标签、图像分类多标签、物体检测、表格预测 四种应用方向的模型，各个方向支持的模型框架如下： 图像分类单标签： PaddlePaddle、Tensorflow、Caffe、Pytorch、MXMet、Darknet、ONNX 图像分类多标签： PaddlePaddle、Tensorflow、Caffe、Pytorch、MXMet、Darknet、ONNX
Notebook简介 - BML 全功能AI开发平台 | 百度智能云文档
1.13.2 TensorFlow 2.3.0 Sklearn 0.23.2-Xgboost 1.3.1 Blackhole 0.3.2 数据集：可以导入所有类型的数据集
智算网络平台 AICP - 云监控BCM | 百度智能云文档
智算网络平台 AICP 智算网络平台 AICP 仅包含实例监控（Instance）1种监控对象类型，实例监控包含的监控指标列表如下： 实例监控（Instance） 指标英文名称（metric name） 指标中文名称 单位 维度 备注 CPUUsagePercent CPU使用率 % 无 CPUUsagePercent CPU使用率 % 实例 仅Linux CpuIdlePercent CPU空闲率
xcdn统计 - 内容分发网络CDN | 百度智能云文档
UTC时间 key string 数据聚合粒度，值为域名、userId或者total，分别表示按照域名聚合数据，按照userId聚合数据以及求和数据 flow int 流量，单位:B bps int 带宽，单位:bps Summary 类型如下 参数 类型 说明 totalFlow int 请求时段的总流量 peakBandwidth int 请求时段的峰值带宽 DayInfo 类型如下 参数 类型
使用TensorRT加速深度学习推理 - GPU云服务器 | 百度智能云文档
使用TensorRT的通用流程 将通过原生框架(PyTorch, Paddle, TensorFlow等)预训练好的模型转成onnx格式。
统计接口（新版） - 内容分发网络CDN | 百度智能云文档
pv或者flow，默认pv。
统计接口（新版） - 内容分发网络CDN | 百度智能云文档
flow_region GetFlowByRegion 查询流量、带宽（分客户端访问分布） prov和isp。prov是查询的省份全拼，默认为空，查询全国数据。isp是查询的运营商代码，默认为空，查询所有运营商数据。 src_flow GetSrcFlow 查询回源流量、回源带宽 无。 real_hit GetRealHit 字节命中率查询 无。
统计接口（新版） - 内容分发网络CDN | 百度智能云文档
Plain Text 复制 1 def test_get_domain_stats_flow_protocol(c): 2 """ 3 test_get_domain_stats_flow_protocol 4 """ 5 param = CdnStatsParam(start_time='2019-05-26T00:00:00Z
