都在讲devops  内容精选
  • LLM 推理优化探微 (4) :模型性能瓶颈分类及优化策略 千帆社区

    通常情况下,不可能所有内核运行在同一种机制下。因此, 关键在于识别出大部分时间耗费在哪一种机制上。 然后,我们应该 优先优化这一主要的性能瓶颈,再找出下一个影响最大的性能瓶颈,如此循环往复。 正确识别出性能瓶颈类型至关重要。每个性能问题需要不同的解决方案。如果诊断错误,即使实施了一些优化措施,效果也会大打折扣,这无疑是在浪费时间。

    查看更多>>

  • 三大排序算法之堆排序 千帆社区

    堆的每一层必须完全填充,但最后一层可以不完全填充,且填充从左侧开始。 堆性质 。在最小堆中,任何父节点的值不大于其子节点的值;而在最大堆中,任何父节点的值不小于其子节点的值。 本文将主要介绍最小堆,并提供相关示例和代码。最大堆的处理方法和最小堆类似。下面是一个最小堆的示例。

    查看更多>>

都在讲devops  更多内容