LLM 推理优化探微 (4) ：模型性能瓶颈分类及优化策略 千帆社区
对延迟的影响仍然取决于更高的算术强度如何影响该算法的总计算量。 具体应该如何增加算术强度？这完全取决于算法的具体情况。在下一篇文章中，我们将研究决定 Transformer 解码器块（decoder blocks）算术强度的关键参数。我们将可以了解增加 batch size 如何提高某些特定操作的算术强度。 前文已经讨论过的一些优化措施也能提高算术强度，从而提高吞吐量和资源利用率。
设置跨域访问 对象存储（BOS）
Header 可以设置多个，每行 1 个，每行最多 1 个 *符号 ExposeHeaders 指定允许用户从应用程序中访问的响应头（例如 1 个 Javascript 的 XMLHttpRequest 对象) ExposeHeader 可以设置多个，每行 1 个，不能出现*符号 maxAgeSeconds 指定浏览器对特定资源的预取（OPTIONS）请求返回结果的缓存时间 注意事项 CORS 只针对浏览器环境有意义
本地IDC通过解析器互通云上DNS服务 - 智能云解析DNS | 百度智能云文档
同时防火墙等安全措施需要允许这部分 IP 的流量。
使用对象存储BOS - 容器引擎CCE | 百度智能云文档
allow_other : 是否允许非 root 用户读取挂载点内数据，默认只有 root 用户可读写，容器内非 root 进程如果要读取挂载点内数据需要设置该参数，更细粒度权限的管理可以配合 mount_umask 参数一同使用。
域名配置概览 - 内容分发网络CDN | 百度智能云文档
WAF配置 支持WAF功能，实现对数据全方位的安全保护。 预发布 配置名称 功能描述 预发布 CDN预发布功能实现了新配置发布全网前的小流量发布并验证，避免了您因发布错误配置而影响业务的问题。 设置HTTPDNS 配置名称 功能描述 设置HTTPDNS 通过HTTP协议直接访问百度云CDN的服务器，由于绕过了运营商的Local DNS，因此可以避免DNS劫持并获得实时精确的DNS解析结果。
【绝对干货】AI提示工程(Prompt Engineering)最佳实践 千帆社区
技巧三：让模型访问特定函数 The Chat Completions API 允许在请求中传递函数描述列表。这样，模型就能根据提供的模式生成函数参数。生成的函数参数由 API 以 JSON 格式返回，可用于执行函数调用。函数调用提供的输出可以在下一个请求中反馈到模型中，以结束循环。这是使用 OpenAI 模型调用外部函数的推荐方式。
安全类问题 - 音视频点播VOD_视频点播_ 视频转码_视频上传
如何保护视频版权，防止非授权用户播放？ 首先可以在防盗链配置中，设置referer、IP黑白名单，过滤合法播放请求来源； 其次可以在转码时设置加密，VOD会使用随机密钥对源视频进行加密转码。
内容分发网络CDN
套餐规格 基础版 高级版 价格（元/月） 800 1600 WAF 防护域名额度 10 个 200 个 WAF 系统策略 3 个 3 个 自定义 WAF 规则 20 条 100 条 WAF 检测请求免费额度 6000 万次/月 12000 万次/月 温馨提示： 若 WAF 检测请求超出您所选购套餐的免费额度后，超出的请求会产生后付费费用，单价：0.1元/万次。
普通型IPv6 BLB实例 - 负载均衡BLB | 百度智能云文档
设置安全组 目前BCC默认安全组的入站规则是允许所有流量。如果您需要更精细化地对安全组规则进行配置，请参考以下指导。 BLB通过特定的内网网段与BCC交互来完成健康状态检查。所以您在配置BCC安全组时，需要注意为安全组的入站规则放开这些内网IP段。
创建主机 - 云虚拟主机BCH | 百度智能云文档
增值服务包 BCH提供购买WAF安全包，百度独有的创新云上架构，彻底告别传统云WAF源站暴露的问题，全面防护各种Web攻击威胁，捍卫您的网站安全。 IP类型 独享IP服务包是为BCH云虚拟主机专享的增值服务包，每个服务包含有1个独享IP和可自由选择规格的BGP独享带宽，最高达100Mbps。
