LLM 推理优化探微 (4) ：模型性能瓶颈分类及优化策略 千帆社区
通常是处于计算能力受限情况的，而 inference decoding 阶段（译者注：将模型的输出解码成最终可读结果的过程。） 在大多数硬件上通常受到内存带宽的限制。因此，主要针对训练过程的优化方法（例如低精度的矩阵乘法（lower-precision matrix multiplications）），可能对减少总的推理过程延迟并没有太大帮助，因为推理过程的延迟大部分都是解码阶段的延迟。
查询用量封顶 - 内容分发网络CDN | 百度智能云文档
activated Bool 是否已经触发阈值，执行 action。activated 值为 true 时，表示已触发。 type String 检测类型，合法值为 flow、bandwidth、pv 或 qps。 threshold String 检测阈值，type 不同时，单位不同。type 值为 flow 时，合法单位为 GB、TB 或 PB。
特效直播 - 智能视频SDK | 百度智能云文档
特效直播 ARMediaStreamingPusher类控制AR直播推流的执行。内部封装这一套完整的音视频编码，打包，上传等功能。 其中AR直播管理类包含通用推流接口、及AR控制接口两部分。 1.1 AR直播实现流程 整个推流流程涉及的调用包括：AR推流器初始化、直播创建与销毁、直播状态控制、拍摄器与AR设置、及推流体验优化及状态访问五部分。
消息发布订阅 - 云数据库 SCS_云缓存
发布者在一个连接内可以发布多个消息，也可以向多个Channels发布消息，但是订阅者一旦处于订阅状态，只能执行 SUBSCRIBE，SSUBSCRIBE, PSUBSCRIBE, UNSUBSCRIBE, SUNSUBSCRIBE, PUNSUBSCRIBE。
训练性能监控 - 百度百舸 · AI计算平台 | 百度智能云文档
optimizer-copy-main-to-model-params-time 主存储中的参数复制回模型参数存储所用时间 其他操作耗时 batch-generator-time 从数据集中生成一个批次数据所需的时间，可能包括数据读取、预处理等 训练Loss 提供训练过程中的 lm loss 的监控。
获取真实客户端IP - DDoS防护服务DDoS | 百度智能云文档
_recv_sock_ttm函数首先会调用原来的tcp_v4_syn_recv_sock函数，然后调用get_ttm_data_from_ack函数，从ACK报文的tcp option字段中，提取出客户端真实源IP和端口号，并存储在sock的sk_user_data变量中，其中每条流对应一个sock。
增强级人脸比对 - 人脸识别_人脸检测_人脸对比_人脸搜索_活体检测
默认False ip 否 string 需要风控判别的ip地址 phone 否 string 需要风控判别的手机号 请求的示例代码如下所示： JSON 复制 1 { 2 scene_type : APP , 3 4 image : /9j/4AAQSk... ...
基本介绍 - 函数计算CFC | 百度智能云文档
目前工作流支持的节点类型如下： 传递节点（pass） pass 节点可以直接生成常量数据，可用来在初始构建阶段提前占位，或通过修改输出调试工作流。 选择节点（switch） 根据节点的输入数据做条件判断，选择执行不同的分支节点。 等待节点（wait） 等待一段时间，不做其它操作。 失败节点（fail） 终止工作流的执行，并把结果执行标记为失败。
功能发布记录 - 云数据库RDS | 百度智能云文档
3-03 新功能 云数据库 RDS for MySQL 慢查询支持优化建议 查看详情 全部 2020-01-08 新功能 云数据库 RDS for MySQL 支持变更配置（单机基础版） 查看详情 全部 2019-12-27 新功能 云数据库 RDS for MySQL 支持存储过程
重磅发布！《千帆大模型平台安全白皮书》出炉，千帆4.0企业级服务安全基石 千帆社区
安全分类算子 ：基于文心模型识别涉政、涉黄、违法等不安全输入，提供 高质量 提示词改写模板，提升输出质量。 输出过滤与网址检测 ：过滤有害生成内容，集成网址安全检测，拦截欺诈、违法网址（适配RAG与AI搜索场景）。 5. 安全运营：动态响应的“实战能力” 安全不是静态措施，而是持续迭代的过程： 年度攻防演练 ：每年至少1次安全红蓝对抗，模拟高强度攻击，发现并补齐防护短板。
