Menu Close

监控和管理系统状态和性能

Red Hat Enterprise Linux 9

优化系统吞吐量、延迟和电源消耗

摘要

本文档集合提供了在不同场景中如何监控和优化 Red Hat Enterprise Linux 9 吞吐量、延迟和功耗的说明。

使开源包含更多

红帽致力于替换我们的代码、文档和 Web 属性中存在问题的语言。我们从这四个术语开始:master、slave、黑名单和白名单。由于此项工作十分艰巨,这些更改将在即将推出的几个发行版本中逐步实施。详情请查看 CTO Chris Wright 的信息

对红帽文档提供反馈

我们感谢您对文档提供反馈信息。请让我们了解如何改进文档。

  • 关于特定内容的简单评论:

    1. 请确定您使用 Multi-page HTML 格式查看文档。另外,确定 Feedback 按钮出现在文档页的右上方。
    2. 用鼠标指针高亮显示您想评论的文本部分。
    3. 点在高亮文本上弹出的 Add Feedback
    4. 按照显示的步骤操作。
  • 要通过 Bugzilla 提交反馈,请创建一个新的 ticket:

    1. 进入 Bugzilla 网站。
    2. 在 Component 中选择 Documentation
    3. Description 中输入您要提供的信息。包括文档相关部分的链接。
    4. Submit Bug

第 1 章 TuneD 入门

作为系统管理员,您可以使用 TuneD 应用程序来针对各种用例优化系统的性能配置集。

1.1. TuneD 的目的

TuneD 是监控您的系统并优化特定工作负载性能的服务。TuneD 的核心是 配置集(profiles),它针对不同的用例调优您的系统。

TuneD 通过很多预定义的配置集发布,它们适用于以下用例:

  • 高吞吐量
  • 低延迟
  • 保存电源

可以修改为每个配置集定义的规则,并自定义如何调整特定设备。当您切换到另一个配置集或取消激活 TuneD 时,对之前的配置集进行的所有更改都会恢复到其原始状态。

您还可以将 TuneD 配置为响应设备使用的变化,并调整设置以提高活跃设备的性能并减少不活跃设备的功耗。

1.2. 调优配置集

系统的详细分析可能会非常耗时。TuneD 为典型的用例提供了很多预定义的配置集。您还可以创建、修改和删除配置集。

TuneD 提供的配置集被分为以下几个类别:

  • 节能配置集
  • 性能提升配置集

性能提升配置集包括侧重于以下方面的配置集:

  • 存储和网络的低延迟
  • 存储和网络的高吞吐量
  • 虚拟机性能
  • 虚拟化主机性能

配置集配置的语法

tuned.conf 文件可以包含一个 [main] 部分,其他部分用于配置插件实例。但是,所有部分都是可选的。

以 hash 符号(#)开头的行是注释。

其他资源

  • tuned.conf(5) 手册页.

1.3. 默认 TuneD 配置集

在安装过程中,将自动选择您的系统的最佳配置集。目前,会根据以下自定义规则选择默认配置集:

环境默认配置集目标

Compute 节点

throughput-performance

最佳吞吐量性能

虚拟机

virtual-guest

最佳的性能。如果实现最佳性能并不是您最需要考虑的,可以将其改为 balancepowersave 配置集。

其他情况

balanced

平衡性能和能源消耗

其他资源

  • tuned.conf(5) 手册页.

1.4. 合并的 TuneD 配置集

作为实验性功能,可以一次性选择更多配置集。tuned 将尝试在负载期间合并它们。

如果存在冲突,则最后指定的配置集的设置会优先使用。

例 1.1. 虚拟客户端中低功耗

以下示例优化了在虚拟机中运行的系统,以获得最佳性能,并同时将其调优以实现低功耗,低功耗比高性能有更高优先级:

# tuned-adm profile virtual-guest powersave
警告

合并会在不检查生成的参数组合是否有意义的情况下自动进行。因此,该功能可能会以相反的方式调整一些参数,这么做可能会影响生产效率。例如,使用 throughput-performance 配置集针对高吞吐量设置磁盘,但当前通过 spindown-disk 配置集将磁盘旋转设置为低值。

其他资源

*tuned-adm man page。* tuned.conf(5) man page。

1.5. TuneD 配置集的位置

TuneD 配置集存储在以下目录中:

/usr/lib/tuned/
特定于分发的配置文件存储在目录中。每个配置集都有自己的目录。该配置集由名为 tuned.conf 的主配置文件以及其他文件(如帮助程序脚本)组成。
/etc/tuned/
如果您需要自定义配置集,请将配置集目录复制到用于自定义配置集的目录中。如果同一名称有两个配置集,则使用位于 /etc/tuned/ 中的自定义配置集。

其他资源

  • tuned.conf(5) 手册页.

1.6. RHEL 提供的调优配置集

以下是在 Red Hat Enterprise Linux 中安装 TuneD 的配置集列表。

注意

更特定产品的或第三方的 TuneD 配置集也可能会存在。这些配置集通常由单独的 RPM 软件包提供。

balanced

默认的节能配置文件。它在性能和功耗之间具有折衷。在可能的情况下尽可能使用自动扩展和自动调整。唯一缺陷是增加延迟。在当前的 TuneD 版本中,它启用了 CPU、磁盘、音频和视频插件,并激活了 conservative CPU 调控器。如果支持,radeon_powersave 选项使用 dpm-balanced 值,否则被设置为 auto

它将 energy_performance_preference 属性改为 normal 能源设置。它还将 scaling_governor 策略属性改为 conservativepowersave CPU 调控器。

powersave

用于最大节能性能的配置集。它可以对性能进行调整,从而最大程度降低实际功耗。在当前的 TuneD 发行版本中,它为 SATA 主机适配器启用 USB 自动挂起、WiFi 节能和 Aggresive Link Power Management(ALPM)节能。它还为使用低折率的系统调度多核功耗,并激活 ondemand 监管器。它启用了 AC97 音频节能,或根据您的系统,HDA-Intel 节能时间为 10 秒。如果您的系统包含启用了 KMS 支持的 Radeon 图形卡,配置集会将其配置为自动节能。在 ASUS Eee PC 上,启用了动态超级混合引擎。

它将 energy_performance_preference 属性改为 powersavepower energy 设置。它还会将 scaling_governor 策略属性更改为 ondemandpowersave CPU 调控器。

注意

在某些情况下,与 powersave 配置集相比,balanced 配置集效率更高。

请考虑存在定义的需要完成的工作,例如一个需要转码的视频文件。如果转码以全功率完成,则您的机器可能会消耗较少的能源,因为任务快速完成,因此计算机可以启动空闲,且自动缩减到非常有效的节能模式。另一方面,如果您把文件转码为节流的机器,则计算机在转码期间会消耗较少的电源,但进程会花费更长时间,且总体消耗的能源可能会更高。

这就是为什么 balanced 配置文件通常是一个更好的选择。

throughput-performance

针对高吞吐量优化的服务器配置文件。它禁用节能机制并启用 sysctl 设置,以提高磁盘和网络 IO 的吞吐量性能。CPU 调控器设置为 performance

它将 energy_performance_preferencescaling_governor 属性设置为 performance 配置集。

accelerator-performance
accelerator-performance 配置集包含与 throughput-performance 配置集相同的调整。另外,它会将 CPU 锁定为低 C 状态,以便使延迟小于 100us。这提高了某些加速器的性能,如 GPU。
latency-performance

为低延迟优化的服务器配置文件。它禁用节能机制并启用 sysctl 设置来缩短延迟。CPU 调控器被设置为 performance,CPU 被锁定到低 C 状态(按 PM QoS)。

它将 energy_performance_preferencescaling_governor 属性设置为 performance 配置集。

network-latency

低延迟网络调整的配置集。它基于 latency-performance 配置集。它还禁用透明大内存页和 NUMA 平衡,并调整其他一些与网络相关的 sysctl 参数。

它继承 latency-performance 配置集,该配置集将 power_performance_preferencescaling_governor 属性更改为 performance 配置集。

hpc-compute
针对高性能计算而优化的配置集。它基于 latency-performance 配置集。
network-throughput

用于吞吐量网络调优的配置集。它基于 throughput-performance 配置集。此外,它还增加了内核网络缓冲区。

它继承 latency-performancethroughput-performance 配置集,并将 energy_performance_preferencescaling_governor 属性改为 performance 配置集。

virtual-guest

为 Red Hat Enterprise Linux 9 虚拟机和 VMWare 虚拟机设计的配置集基于 throughput-performance 配置集(除其他任务)减少了虚拟内存的交换性并增加磁盘预读值。它不会禁用磁盘障碍。

它继承 throughput-performance 配置集,该配置集将 energy_performance_preferencescaling_governor 属性更改为 performance 配置集。

virtual-host

基于 throughput-performance 配置集(除其他任务)为虚拟主机设计的配置集降低了虚拟内存交换,增加磁盘预读值,并启用更主动的脏页面回写值。

它继承 throughput-performance 配置集,该配置集将 energy_performance_preferencescaling_governor 属性更改为 performance 配置集。

oracle
根据 throughput-performance 配置集,为 Oracle 数据库负载进行了优化。它还禁用透明大内存页,并修改其他与性能相关的内核参数。这个配置集由 tuned-profiles-oracle 软件包提供。
desktop
根据 balanced 配置文件,为桌面进行了优化的配置集。此外,它还启用了调度程序自动组以更好地响应交互式应用程序。
optimize-serial-console

通过减少 printk 值,将 I/O 活动微调到串行控制台的配置集。这应该使串行控制台更快响应。此配置集用作其他配置集的覆盖。例如:

# tuned-adm profile throughput-performance optimize-serial-console
mssql
为 Microsoft SQL Server 提供的配置集。它基于 thoguhput-performance 配置集。
intel-sst

为带有用户定义的 Intel Speed Select Technology 配置的系统进行优化的配置集。此配置集用作其他配置集的覆盖。例如:

# tuned-adm profile cpu-partitioning intel-sst

1.7. TuneD cpu-partitioning 配置集

要为对延迟敏感的工作负载调整 Red Hat Enterprise Linux 9,红帽建议使用 cpu-partitioning TuneD 配置集。

在 Red Hat Enterprise Linux 9 之前,低延迟 Red Hat 文档描述了实现低延迟调整所需的大量低级别步骤。在 Red Hat Enterprise Linux 9 中,您可以使用 cpu-partitioning TuneD 配置集更有效地执行低延迟性能优化。根据个人低延迟应用程序的要求,此配置集可轻松自定义。

下图显示了如何使用 cpu-partitioning 配置集。这个示例使用 CPU 和节点布局。

图 1.1. cpu-partitioning 图

CPU 分区

您可以使用以下配置选项在 /etc/tuned/cpu-partitioning-variables.conf 文件中配置 cpu-partitioning 配置集:

带有负载均衡的隔离 CPU

在 cpu-partitioning 图中,从 4 到 23 编号的块是默认的隔离 CPU。在这些 CPU 上启用了内核调度程序的进程负载均衡。它专为需要内核调度程序负载平衡的多个线程的低延迟进程而设计。

您可以使用 isolated_cores=cpu-list 选项在 /etc/tuned/cpu-partitioning-variables.conf 文件中配置 cpu-partitioning 配置集,它列出了 CPU 来隔离将使用内核调度程序负载平衡。

隔离的 CPU 列表用逗号分开,也可以使用一个短划线(如 3-5 )指定范围。这个选项是必须的。这个列表中缺少的任何 CPU 会自动被视为内务 CPU。

没有负载均衡的隔离 CPU

在 cpu-partitioning 图中,编号为 2 和 3 的块是不提供任何其他内核调度程序进程负载均衡的隔离 CPU。

您可以使用 no_balance_cores=cpu-list 选项在 /etc/tuned/cpu-partitioning-variables.conf 文件中配置 cpu-partitioning 配置集,它列出了不使用内核调度程序负载平衡的 CPU。

指定 no_balance_cores 选项是可选的,但此列表中的任何 CPU 都必须是 isolated_cores 列表中所列 CPU 的子集。

使用这些 CPU 的应用程序线程需要单独固定到每个 CPU。

日常 CPU
cpu-partitioning-variables.conf 文件中没有隔离的 CPU 会自动被视为内务 CPU。在内务 CPU 上,允许执行所有服务、守护进程、用户进程、可移动内核线程、中断处理程序和内核计时器。

其他资源

  • tuned-profiles-cpu-partitioning(7) man page

1.8. 使用 TuneD cpu-partitioning 配置集进行低延迟调整

这个步骤描述了如何使用 TuneD 的 cpu-partitioning 配置集为低延迟调整系统。它使用了低延迟应用的示例,它可以使用 cpu-partitioning 和 CPU 布局,如 cpu-partitioning 图中所述。

本例中的应用程序使用了:

  • 从网络读取数据的专用的 reader 线程将固定到 CPU 2。
  • 处理此网络数据的大量线程将固定到 CPU 4-23。
  • 将处理的数据写入网络的专用写入器线程将固定到 CPU 3。

先决条件

  • 您已以 root 用户身份,使用 dnf install tuned-profiles-cpu-partitioning 命令安装 cpu-partitioning TuneD 配置集。

步骤

  1. 编辑 /etc/tuned/cpu-partitioning-variables.conf 文件并添加以下信息:

    # Isolated CPUs with the kernel’s scheduler load balancing:
    isolated_cores=2-23
    # Isolated CPUs without the kernel’s scheduler load balancing:
    no_balance_cores=2,3
  2. 设置 cpu-partitioning TuneD 配置集:

    # tuned-adm profile cpu-partitioning
  3. 重启

    重新引导后,将根据 cpu-partitioning 图中的隔离,为低延迟调优。该应用可以使用 taskset 将读取器和写入器线程固定到 CPU 2 和 3,以及 CPU 4-23 上剩余的应用程序线程。

其他资源

  • tuned-profiles-cpu-partitioning(7) man page

1.9. 自定义 cpu-partitioning TuneD 配置集

您可以扩展 TuneD 配置集,以进行额外的性能优化更改。

例如,cpu-partitioning 配置集将 CPU 设置为使用 cstate=1。要使用 cpu-partitioning 配置集,但额外将 CPU cstate 从 cstate1 更改为 cstate0,以下流程描述了一个新的 TuneD 配置集,名称为 my_profile,它继承 cpu-partitioning 配置集,然后设置 C state-0。

步骤

  1. 创建 /etc/tuned/my_profile 目录:

    # mkdir /etc/tuned/my_profile
  2. 在此目录中创建 tuned.conf 文件并添加以下内容:

    # vi /etc/tuned/my_profile/tuned.conf
    [main]
    summary=Customized tuning on top of cpu-partitioning
    include=cpu-partitioning
    [cpu]
    force_latency=cstate.id:0|1
  3. 使用新配置集:

    # tuned-adm profile my_profile
注意

在共享示例中,不需要重新启动。但是,如果 my_profile 配置集中的更改需要重新引导才能生效,则重新启动计算机。

其他资源

  • tuned-profiles-cpu-partitioning(7) man page

1.10. RHEL 提供的实时 TuneD 配置集

实时配置集适用于运行实时内核的系统。如果没有特殊的内核构建,则不会将系统配置为实时。在 RHEL 上,配置集可从额外的软件仓库获得。

可用的实时配置集如下:

realtime

在裸机实时系统上使用。

tuned-profiles-realtime 软件包提供,该软件包可从 RT 或 NFV 存储库中获得。

realtime-virtual-host

在为实时配置的虚拟化主机中使用。

tuned-profiles-nfv-host 软件包提供,该软件包可通过 NFV 存储库获取。

realtime-virtual-guest

在为实时配置的虚拟化客户端中使用。

tuned-profiles-nfv-guest 软件包提供,该软件包可通过 NFV 存储库获取。

1.11. TuneD 中的静态和动态性能优化

这部分解释了 TuneD 应用的两个系统性能优化类别之间的差别:静态动态

静态调整
主要由预定义的 sysctlsysfs 设置的应用程序组成,以及激活多个配置工具(如 ethtool )的一次性激活。
动态调整

监视如何在系统正常运行时间期间使用各种系统组件。tuned 根据监控信息动态调整系统设置。

例如,硬盘驱动器在启动和登录期间大量使用,但当用户主要可能与 Web 浏览器或电子邮件客户端等应用程序工作时,通常使用。同样,CPU 和网络设备在不同时间上有所不同。TuneD 监控这些组件的活动,并对使用中的更改做出反应。

默认情况下禁用动态性能优化。要启用它,请编辑 /etc/tuned/tuned-main.conf 文件并将 dynamic_tuning 选项改为 1。然后 TuneD 会定期分析系统统计信息,并使用它们更新您的系统调优设置。要在这些更新之间配置时间间隔(以秒为单位),请使用 update_interval 选项。

目前实施了动态调优算法,尝试平衡性能和节能,因此在性能配置集中禁用。可以在 TuneD 配置集中启用或禁用各个插件的动态性能优化。

例 1.2. 工作站上的静态和动态调优

在典型的办公室工作站上,以太网网络接口在大多数时间都不活跃。通常只会发送和接收一些电子邮件,或载入一些网页。

对于这些负载,网络接口不必像默认情况那样始终全速运行。TuneD 为网络设备有一个监控和调优插件,可检测此低活动,然后自动降低该接口的速度,通常会实现较低的功耗。

如果在较长的时间内接口上的活动增加,例如:因为下载了 DVD 镜像或打开了带有大量附加的电子邮件,则 TuneD 会检测到这个信息,并设置接口速度的最大速度,以便在活动级别高时提供最佳性能。

这个原则还用于 CPU 和磁盘的其他插件。

1.12. TuneD no-daemon(非守护进程)模式

您可以在 no-daemon 模式下运行 TuneD,它不需要任何常驻内存。在这个模式中,TuneD 应用设置并退出。

默认情况下,no-daemon 模式被禁用,因为在这个模式中缺少大量 TuneD 功能,包括:

  • D-Bus 支持
  • 热插支持
  • 对设置进行回滚支持

要启用 no-daemon 模式,请在 /etc/tuned/tuned-main.conf 文件中包含以下行:

daemon = 0

1.13. 安装并启用 TuneD

此流程安装并启用 TuneD 应用程序,安装 TuneD 配置集,并为您的系统预设默认 TuneD 配置集。

步骤

  1. 安装 tuned 软件包:

    # dnf install tuned
  2. 启用并启动 tuned 服务:

    # systemctl enable --now tuned
  3. 另外,还可为实时系统安装 TuneD 配置集:

    # dnf install tuned-profiles-realtime tuned-profiles-nfv
  4. 验证 TuneD 配置集是否活跃并应用:

    $ tuned-adm active
    
    Current active profile: balanced
    $ tuned-adm verify
    
    Verfication succeeded, current system settings match the preset profile.
    See tuned log file ('/var/log/tuned/tuned.log') for details.

1.14. 列出可用的 TuneD 配置集

此流程列出了系统中当前可用的所有 TuneD 配置集。

步骤

  • 要列出系统中的所有可用 TuneD 配置集,请使用:

    $ tuned-adm list
    
    Available profiles:
    - accelerator-performance - Throughput performance based tuning with disabled higher latency STOP states
    - balanced                - General non-specialized tuned profile
    - desktop                 - Optimize for the desktop use-case
    - latency-performance     - Optimize for deterministic performance at the cost of increased power consumption
    - network-latency         - Optimize for deterministic performance at the cost of increased power consumption, focused on low latency network performance
    - network-throughput      - Optimize for streaming network throughput, generally only necessary on older CPUs or 40G+ networks
    - powersave               - Optimize for low power consumption
    - throughput-performance  - Broadly applicable tuning that provides excellent performance across a variety of common server workloads
    - virtual-guest           - Optimize for running inside a virtual guest
    - virtual-host            - Optimize for running KVM guests
    Current active profile: balanced
  • 要只显示当前活跃的配置集,请使用:

    $ tuned-adm active
    
    Current active profile: balanced

其他资源

  • tuned-adm(8) 手册页.

1.15. 设置 TuneD 配置集

此流程激活系统中的所选 TuneD 配置集。

先决条件

步骤

  1. 另外,您可以让 TuneD 为您的系统推荐最合适的配置集:

    # tuned-adm recommend
    
    balanced
  2. 激活配置集:

    # tuned-adm profile selected-profile

    另外,您可以激活多个配置集的组合:

    # tuned-adm profile profile1 profile2

    例 1.3. 为低功耗优化的虚拟机

    以下示例优化了在虚拟机中运行的系统,以获得最佳性能,并同时将其调优以实现低功耗,低功耗比高性能有更高优先级:

    # tuned-adm profile virtual-guest powersave
  3. 查看系统中当前活跃的 TuneD 配置集:

    # tuned-adm active
    
    Current active profile: selected-profile
  4. 重启系统:

    # reboot

验证步骤

  • 验证 TuneD 配置集是否活跃并应用:

    $ tuned-adm verify
    
    Verfication succeeded, current system settings match the preset profile.
    See tuned log file ('/var/log/tuned/tuned.log') for details.

其他资源

  • tuned-adm(8) 手册页

1.16. 禁用 TuneD

此流程禁用 TuneD,并将所有受影响的系统设置重置为其原始状态,然后再修改 TuneD

步骤

  • 临时禁用所有调整:

    # tuned-adm off

    调优会在 tuned 服务重启后再次应用。

  • 或者,要永久停止并禁用 tuned 服务:

    # systemctl disable --now tuned

其他资源

  • tuned-adm(8) 手册页

第 2 章 自定义 TuneD 配置集

您可以创建或修改 TuneD 配置集来优化预期的用例的系统性能。

先决条件

2.1. 调优配置集

系统的详细分析可能会非常耗时。TuneD 为典型的用例提供了很多预定义的配置集。您还可以创建、修改和删除配置集。

TuneD 提供的配置集被分为以下几个类别:

  • 节能配置集
  • 性能提升配置集

性能提升配置集包括侧重于以下方面的配置集:

  • 存储和网络的低延迟
  • 存储和网络的高吞吐量
  • 虚拟机性能
  • 虚拟化主机性能

配置集配置的语法

tuned.conf 文件可以包含一个 [main] 部分,其他部分用于配置插件实例。但是,所有部分都是可选的。

以 hash 符号(#)开头的行是注释。

其他资源

  • tuned.conf(5) 手册页.

2.2. 默认 TuneD 配置集

在安装过程中,将自动选择您的系统的最佳配置集。目前,会根据以下自定义规则选择默认配置集:

环境默认配置集目标

Compute 节点

throughput-performance

最佳吞吐量性能

虚拟机

virtual-guest

最佳的性能。如果实现最佳性能并不是您最需要考虑的,可以将其改为 balancepowersave 配置集。

其他情况

balanced

平衡性能和能源消耗

其他资源

  • tuned.conf(5) 手册页.

2.3. 合并的 TuneD 配置集

作为实验性功能,可以一次性选择更多配置集。tuned 将尝试在负载期间合并它们。

如果存在冲突,则最后指定的配置集的设置会优先使用。

例 2.1. 虚拟客户端中低功耗

以下示例优化了在虚拟机中运行的系统,以获得最佳性能,并同时将其调优以实现低功耗,低功耗比高性能有更高优先级:

# tuned-adm profile virtual-guest powersave
警告

合并会在不检查生成的参数组合是否有意义的情况下自动进行。因此,该功能可能会以相反的方式调整一些参数,这么做可能会影响生产效率。例如,使用 throughput-performance 配置集针对高吞吐量设置磁盘,但当前通过 spindown-disk 配置集将磁盘旋转设置为低值。

其他资源

*tuned-adm man page。* tuned.conf(5) man page。

2.4. TuneD 配置集的位置

TuneD 配置集存储在以下目录中:

/usr/lib/tuned/
特定于分发的配置文件存储在目录中。每个配置集都有自己的目录。该配置集由名为 tuned.conf 的主配置文件以及其他文件(如帮助程序脚本)组成。
/etc/tuned/
如果您需要自定义配置集,请将配置集目录复制到用于自定义配置集的目录中。如果同一名称有两个配置集,则使用位于 /etc/tuned/ 中的自定义配置集。

其他资源

  • tuned.conf(5) 手册页.

2.5. TuneD 配置集之间的继承

TuneD 配置集可以基于其他配置集,仅修改其父级配置集的某些方面。

TuneD 配置集的 [main] 部分可以识别 include 选项:

[main]
include=parent

配置集中的所有设置都会加载到此 配置集中。在以下小节中,child 配置集可以覆盖从 parent 配置集继承的特定设置,或者添加 parent 配置集中没有的新设置。

您可以基于 /usr/lib/tuned/ 中预安装的配置集,在 /etc/tuned/ 目录中创建自己的 child 配置集并调整了一些参数。

如果对 parent 配置集(如 TuneD 升级后)进行了更新,则更改会反映在 child 配置集中。

例 2.2. 基于均衡的节能配置集

以下是一个可扩展 balanced 配置集的自定义配置集,并将所有设备的主动链路电源管理(ALPM)设置为最大节能项。

[main]
include=balanced

[scsi_host]
alpm=min_power

其他资源

  • tuned.conf(5) 手册页

2.6. TuneD 中的静态和动态性能优化

这部分解释了 TuneD 应用的两个系统性能优化类别之间的差别:静态动态

静态调整
主要由预定义的 sysctlsysfs 设置的应用程序组成,以及激活多个配置工具(如 ethtool )的一次性激活。
动态调整

监视如何在系统正常运行时间期间使用各种系统组件。tuned 根据监控信息动态调整系统设置。

例如,硬盘驱动器在启动和登录期间大量使用,但当用户主要可能与 Web 浏览器或电子邮件客户端等应用程序工作时,通常使用。同样,CPU 和网络设备在不同时间上有所不同。TuneD 监控这些组件的活动,并对使用中的更改做出反应。

默认情况下禁用动态性能优化。要启用它,请编辑 /etc/tuned/tuned-main.conf 文件并将 dynamic_tuning 选项改为 1。然后 TuneD 会定期分析系统统计信息,并使用它们更新您的系统调优设置。要在这些更新之间配置时间间隔(以秒为单位),请使用 update_interval 选项。

目前实施了动态调优算法,尝试平衡性能和节能,因此在性能配置集中禁用。可以在 TuneD 配置集中启用或禁用各个插件的动态性能优化。

例 2.3. 工作站上的静态和动态调优

在典型的办公室工作站上,以太网网络接口在大多数时间都不活跃。通常只会发送和接收一些电子邮件,或载入一些网页。

对于这些负载,网络接口不必像默认情况那样始终全速运行。TuneD 为网络设备有一个监控和调优插件,可检测此低活动,然后自动降低该接口的速度,通常会实现较低的功耗。

如果在较长的时间内接口上的活动增加,例如:因为下载了 DVD 镜像或打开了带有大量附加的电子邮件,则 TuneD 会检测到这个信息,并设置接口速度的最大速度,以便在活动级别高时提供最佳性能。

这个原则还用于 CPU 和磁盘的其他插件。

2.7. TuneD 插件

插件是 TuneD 配置集中的模块,用于监控或优化系统上的不同设备。

TuneD 使用两种类型的插件:

监控插件

监控插件用于从正在运行的系统中获取信息。通过调优插件进行动态调优,可以使用监控插件的输出。

当任何已启用的调优插件需要指标时,监控插件会自动实例化。如果两个调优插件需要相同的数据,则只创建一个监控插件的实例,并且数据会被共享。

调优插件
每个调优插件对单个子系统进行调优,并会获取从调优配置集填充的多个参数。每个子系统可以有多个设备,如多个 CPU 或网卡,这些设备由调优插件的单个实例处理。还支持单个设备的具体设置。

TuneD 配置集中的插件语法

描述插件实例的部分采用以下格式:

[NAME]
type=TYPE
devices=DEVICES
NAME
是插件实例的名称,在日志中使用。它可以是一个任意字符串。
TYPE
是调优插件的类型。
DEVICES

是此插件实例处理的设备列表。

devices 行可以包含一个列表、通配符(*)和负效果(!)。如果没有 devices 行,则插件实例处理所有在 TYPE 系统中附加的所有设备。这与使用 devices=* 选项相同。

例 2.4. 使用插件匹配块设备

以下示例与以 sd 开头的所有块设备(如 sdasdb )匹配,且不禁用这些块设备:

[data_disk]
type=disk
devices=sd*
disable_barriers=false

以下示例与 sda1sda2 以外的所有块设备匹配:

[data_disk]
type=disk
devices=!sda1, !sda2
disable_barriers=false

如果没有指定插件的实例,则不会启用插件。

如果插件支持更多选项,也可以在插件部分中指定它们。如果没有指定选项,且之前未在 included 插件中指定,则使用默认值。

简短插件语法

如果您的插件实例不需要使用自定义名称,且配置文件中只有一个定义,则 TuneD 支持以下短语法:

[TYPE]
devices=DEVICES

在这种情况下,可以省略 type 行。然后,实例使用名称来指代,与类型相同。然后,前面的示例可重写为:

例 2.5. 使用简短语法匹配块设备

[disk]
devices=sdb*
disable_barriers=false

配置集中的冲突插件定义

如果使用 include 选项指定同一部分,则会合并设置。如果因为冲突而无法合并它们,则最后冲突的定义会覆盖上一个设置。如果您不知道之前定义的内容,您可以使用 replace 布尔值选项并将其设置为 true。这会导致之前带有相同名称的定义被覆盖,且不会出现合并。

您还可以通过指定 enabled=false 选项来禁用插件。这与实例从未定义的影响相同。如果您从 include 选项重新定义之前定义,且不想在自定义配置集中激活插件,则禁用插件会很有用。

注意

TuneD 包含了作为启用或禁用调优配置文件的一部分来运行任何 shell 命令的功能。这可让您使用尚未集成到 TuneD 的功能扩展 TuneD 配置集。

您可以使用 script 插件指定任意 shell 命令。

其他资源

  • tuned.conf(5) 手册页

2.8. 可用的 TuneD 插件

本节列出了当前在 TuneD 中提供的所有监控和调优插件。

监控插件

目前,实施了以下监控插件:

disk
每个设备获取磁盘负载(IO 操作数)和测量间隔。
net
每个网卡获取网络负载(传输数据包的数量)和测量间隔。
load
获取每个 CPU 的 CPU 负载和测量间隔。

调优插件

目前,实施了以下调优插件。只有其中一些插件实施动态性能优化。列出插件支持的选项:

cpu

将 CPU 调控器设置为 governor 选项指定的值,并根据 CPU 负载动态更改电源管理服务质量(PM QoS)CPU Direct Memory Access(DMA)延迟。

如果 CPU 负载低于 load_threshold 选项指定的值,则延迟设置为由 latency_high 选项指定的值,否则它将设置为 latency_low 指定的值。

您还可以强制对特定值强制延迟并阻止它动态更改。要做到这一点,将 force_latency 选项设置为所需的延迟值。

eeepc_she

根据 CPU 负载动态设置前端总线(FSB)速度。

此功能可在一些笔记本电脑中找到,也称为 ASUS Super Hybrid Engine(SHE)。

如果 CPU 负载较低或等于 load_threshold_powersave 选项指定的值,则插件会将 FSB 速度设置为 she_powersave 选项指定的值。如果 CPU 负载较高或等于 load_threshold_normal 选项指定的值,它会将 FSB 速度设置为 she_normal 选项指定的值。

不支持静态调优,如果 TuneD 不检测到对这个功能的硬件支持,则插件会被透明禁用。

net
将 Wake-on-LAN 功能配置为 wake_on_lan 选项指定的值。它使用与 ethtool 实用程序相同的语法。它还会根据接口利用率动态更改接口速度。
sysctl

设置由插件选项指定的各种 sysctl 设置。

语法为 name=value,其中 namesysctl 实用程序提供的名称相同。

如果您需要更改 TuneD 中其他插件所涵盖的系统设置,请使用 sysctl 插件。如果某些特定插件提供了设置,首选这些插件。

usb

将 USB 设备的自动暂停超时设置为 autosuspend 参数指定的值。

0 表示禁用自动暂停。

vm

启用或禁用透明大内存页,具体取决于 transparent _hugepages 选项的值。

transparent_hugepages 选项的有效值为:

  • "always"
  • "never"
  • "madvise"
audio

将音频解码器的 autosuspend timeout 设置为 timeout 选项指定的值。

目前,支持 snd_hda_intelsnd_ac97_codec codec。值 0 表示自动暂停已被禁用。您还可以通过将 布尔值选项 reset_controller 设置为 true 来强制实施控制器重置。

disk

将磁盘电梯设置为 elevator 选项指定的值。

它还设置:

  • apm 选项指定的值的 APM
  • 调度程序对由 scheduler_quantum 选项指定的值进行量化
  • 磁盘 spindown 的超时值由 spindown 选项指定的值
  • 磁盘的 readahead 会到 readahead 参数指定的值
  • 当前磁盘 readahead 值乘以 readahead_multiply 选项指定的常数

此外,此插件根据当前的驱动器利用率动态地更改驱动器的高级电源管理和机超时设置。动态调优可以由布尔值选项 动态 控制,默认情况下是启用的。

scsi_host

SCSI 主机的选项调整。

它将积极链接电源管理(ALPM)设置为 alpm 选项指定的值。

mounts
根据 disable_barriers 选项的布尔值启用或禁用挂载障碍。
script

加载或卸载配置集时,执行外部脚本或二进制代码。您可以选择任意可执行文件。

重要

script 插件主要被用来与更早的版本兼容。如果其他 TuneD 插件涵盖所需的功能,则首选其他 TuneD 插件。

TuneD 使用以下参数之一调用可执行文件:

  • 在载入配置集时 start
  • 在卸载配置集时 stop

您需要在可执行文件中正确实施 stop 操作,并恢复您在 start 操作过程中更改的所有设置。否则,在更改 TuneD 配置集后回滚步骤将无法正常工作。

Bash 脚本可以导入 /usr/lib/tuned/functions Bash 库,并使用那里定义的功能。只在由 TuneD 原生提供的功能中使用这些功能。如果函数名称以下划线开头,如 _wifi_set_power_level,请考虑函数私有且不要在脚本中使用,因为它可能会在以后有所变化。

使用插件配置中的 script 参数指定可执行文件的路径。

例 2.6. 从配置集运行 Bash 脚本

要运行位于配置集目录中的 script.sh 的 Bash 脚本,请使用:

[script]
script=${i:PROFILE_DIR}/script.sh
sysfs

设置由插件选项指定的各种 sysfs 设置。

语法为 name=value,其中 name 是要使用的 sysfs 路径。

如果需要更改其他插件未涵盖的一些设置,请使用此插件。如果插件涵盖所需的设置,则首选插件。

video

在视频卡中设置各种电源保存级别。目前,只支持 Radeon 卡。

可以使用 radeon_powersave 选项指定节能级别。支持的值有:

  • default
  • auto
  • mid
  • high
  • dynpm
  • dpm-battery
  • dpm-balanced
  • dpm-perfomance

详情请查看 www.x.org。请注意,此插件是实验性的,选项可能会在以后的版本中有所变化。

bootloader

在内核命令行中添加选项。这个插件只支持 GRUB 2 引导装载程序。

grub2_cfg_file 选项指定 GRUB 2 配置文件的自定义非标准位置。

内核选项会添加到当前 GRUB 配置及其模板中。需要重新引导系统才能使内核选项生效。

切换到另一个配置集或手动停止 tuned 服务会删除附加选项。如果您关闭或重启系统,则 kernel 选项会在 grub.cfg 文件中保留。

内核选项可使用以下语法指定:

cmdline=arg1 arg2 ... argN

例 2.7. 修改内核命令行

例如,要将 quiet kernel 选项添加到 TuneD 配置集中,请在 tuned.conf 文件中包括以下行:

[bootloader]
cmdline=quiet

以下是在内核命令行中添加 isolcpus=2 选项的自定义配置集示例:

[bootloader]
cmdline=isolcpus=2

2.9. TuneD 配置集中的变量

激活 TuneD 配置集时,在运行时扩展的变量。

使用 TuneD 变量可减少 TuneD 配置集中必要输入的数量。

TuneD 配置集中没有预定义的变量。您可以通过在配置集中创建 [variables] 部分并使用以下语法来定义您自己的变量:

[variables]

variable_name=value

要扩展配置集中的变量的值,请使用以下语法:

${variable_name}

例 2.8. 使用变量隔离 CPU 内核

在以下示例中,${isolated_cores} 变量扩展至 1,2; 因此内核使用 isolcpus=1,2 选项引导:

[variables]
isolated_cores=1,2

[bootloader]
cmdline=isolcpus=${isolated_cores}

变量可以在单独的文件中指定。例如,您可以在 tuned.conf 中添加以下行:

[variables]
include=/etc/tuned/my-variables.conf

[bootloader]
cmdline=isolcpus=${isolated_cores}

如果您将 isolated_cores=1,2 选项添加到 /etc/tuned/my-variables.conf 文件,则内核会使用 isolcpus=1,2 选项引导。

其他资源

  • tuned.conf(5) 手册页

2.10. TuneD 配置集中的内置功能

当激活 TuneD 配置集时,内置功能会在运行时扩展。

您可以:

  • TuneD 变量一起使用各种内置功能
  • 在 Python 中创建自定义功能,并以插件的形式将它们添加到 TuneD

要调用函数,请使用以下语法:

${f:function_name:argument_1:argument_2}

要扩展配置集和 tuned.conf 文件所在的目录路径,请使用 PROFILE_DIR 功能,它需要特殊语法:

${i:PROFILE_DIR}

例 2.9. 使用变量和内置功能隔离 CPU 内核

在以下示例中, ${non_isolated_cores} 变量扩展至 0,3-5,且 cpulist_invert 内置函数使用 0,3-5 参数调用:

[variables]
non_isolated_cores=0,3-5

[bootloader]
cmdline=isolcpus=${f:cpulist_invert:${non_isolated_cores}}

cpulist_invert 功能反转 CPU 列表。对于 6-CPU 机器,inversion 为 1,2,内核通过 isolcpus=1,2 命令行选项引导。

其他资源

  • tuned.conf(5) 手册页

2.11. TuneD 配置集中的内置功能

所有 TuneD 配置集中都有以下内置功能:

PROFILE_DIR
返回配置文件和 tuned.conf 文件所在的目录路径。
exec
执行进程并返回其输出。
assertion
比较两个参数。如果不匹配,会在日志中记录来自第一个参数的信息,并中止配置集加载。
assertion_non_equal
比较两个参数。如果不匹配,会在日志中记录来自第一个参数的信息,并中止配置集加载。
kb2s
将 KB 转换为磁盘扇区.
s2kb
将磁盘扇区转换为 KB。
strip
从所有传递的参数创建字符串,并删除前导和尾随空格。
virt_check

检查 TuneD 是否在虚拟机(VM)或裸机中运行:

  • 在虚拟机内部,函数返回第一个参数。
  • 在裸机上,函数返回第二个参数,即使出现错误。
cpulist_invert
颠倒 CPU 列表,使其补充。例如,在一个有 4 个 CPU 的系统上,从 0 到 3,列表 0,2,3 的反转是 1
cpulist2hex
将 CPU 列表转换为十六进制 CPU 掩码。
cpulist2hex_invert
将 CPU 列表转换为十六进制 CPU 掩码并进行反转。
hex2cpulist
将十六进制 CPU 掩码转换为 CPU 列表。
cpulist_online
检查列表中的 CPU 是否在线。返回仅包含在线 CPU 的列表。
cpulist_present
检查列表中是否存在 CPU。返回只包含当前 CPU 的列表。
cpulist_unpack
解包 CPU 列表,格式为 1-3,41,2,3,4
cpulist_pack
把包 CPU 列表,格式为 1,2,3,51-3,5

2.12. 创建新的 TuneD 配置集

此流程使用自定义性能配置集创建一个新的 TuneD 配置集。

先决条件

步骤

  1. /etc/tuned/ 目录中,创建一个名为您要创建的配置集的新目录:

    # mkdir /etc/tuned/my-profile
  2. 在新目录中,创建名为 tuned.conf 的文件。根据您的要求,添加一个 [main] 部分和插件定义。

    例如,查看 balanced 配置集的配置:

    [main]
    summary=General non-specialized tuned profile
    
    [cpu]
    governor=conservative
    energy_perf_bias=normal
    
    [audio]
    timeout=10
    
    [video]
    radeon_powersave=dpm-balanced, auto
    
    [scsi_host]
    alpm=medium_power
  3. 要激活配置集,请使用:

    # tuned-adm profile my-profile
  4. 验证 TuneD 配置集是否活跃,并应用了系统设置:

    $ tuned-adm active
    
    Current active profile: my-profile
    $ tuned-adm verify
    
    Verfication succeeded, current system settings match the preset profile.
    See tuned log file ('/var/log/tuned/tuned.log') for details.

其他资源

  • tuned.conf(5) 手册页

2.13. 修改现有 TuneD 配置集

此流程根据现有的 TuneD 配置集创建修改后的子配置集。

先决条件

步骤

  1. /etc/tuned/ 目录中,创建一个名为您要创建的配置集的新目录:

    # mkdir /etc/tuned/modified-profile
  2. 在新目录中,创建一个名为 tuned.conf 的文件,并按如下所示设置 [main] 部分:

    [main]
    include=parent-profile

    使用您要修改的配置集的名称替换 parent-profile

  3. 包括您的配置集修改。

    例 2.10. 在 throughput-performance 配置集中降低 swappiness

    要使用 throughput-performance 配置集的设置,并将 vm.swappiness 的值改为 5,而不是默认的 10,请使用:

    [main]
    include=throughput-performance
    
    [sysctl]
    vm.swappiness=5
  4. 要激活配置集,请使用:

    # tuned-adm profile modified-profile
  5. 验证 TuneD 配置集是否活跃,并应用了系统设置:

    $ tuned-adm active
    
    Current active profile: my-profile
    $ tuned-adm verify
    
    Verfication succeeded, current system settings match the preset profile.
    See tuned log file ('/var/log/tuned/tuned.log') for details.

其他资源

  • tuned.conf(5) 手册页

2.14. 使用 TuneD 设置磁盘调度程序

此流程创建并启用 TuneD 配置集,该配置集为所选块设备设置给定磁盘调度程序。这个设置会在系统重启后保留。

在以下命令和配置中替换:

  • 带有块设备名称的 device,如 sdf
  • 带有您要为该设备设置的磁盘调度程序的 selected-scheduler,例如 bfq

先决条件

流程

  1. 可选:选择一个您的配置集将要基于的现有 Tuned 配置集。有关可用配置集列表,请参阅 RHEL 提供的 TuneD 配置集

    要查看哪个配置集当前处于活跃状态,请使用:

    $ tuned-adm active
  2. 创建一个新目录来保存 TuneD 配置集:

    # mkdir /etc/tuned/my-profile
  3. 查找所选块设备系统唯一标识符:

    $ udevadm info --query=property --name=/dev/device | grep -E '(WWN|SERIAL)'
    
    ID_WWN=0x5002538d00000000_
    ID_SERIAL=Generic-_SD_MMC_20120501030900000-0:0
    ID_SERIAL_SHORT=20120501030900000
    注意

    本例中的命令将返回以 World Wide Name(WWN)或与指定块设备关联的序列号的所有值。虽然最好使用 WWN,但给定设备始终不能使用 WWN,但 example 命令返回的任何值都可以接受用作 device system unique ID

  4. 创建 /etc/tuned/my-profile/tuned.conf 配置文件。在该文件中设置以下选项:

    1. 可选:包含现有配置集:

      [main]
      include=existing-profile
    2. 为与 WWN 标识符匹配的设备设置所选磁盘调度程序:

      [disk]
      devices_udev_regex=IDNAME=device system unique id
      elevator=selected-scheduler

      在这里:

      • 使用要使用的标识符的名称替换 IDNAME (如 ID_WWN)。
      • device system unique id 替换为所选标识符的值(如 0x5002538d00000000)。

        要匹配 devices_udev_regex 选项中的多个设备,将标识符放在括号中,并使用垂直栏来分离它们:

        devices_udev_regex=(ID_WWN=0x5002538d00000000)|(ID_WWN=0x1234567800000000)
  5. 启用您的配置集:

    # tuned-adm profile my-profile

验证步骤

  1. 验证 TuneD 配置集是否活跃并应用:

    $ tuned-adm active
    
    Current active profile: my-profile
    $ tuned-adm verify
    
    Verification succeeded, current system settings match the preset profile.
    See tuned log file ('/var/log/tuned/tuned.log') for details.
  2. 读取 /sys/block/设备/queue/scheduler 文件的内容:

    # cat /sys/block/device/queue/scheduler
    
    [mq-deadline] kyber bfq none

    在文件名中,将 device 替换为块设备名称,如 sdc

    活跃的调度程序列在方括号中([])。

其他资源

第 3 章 使用 tuna 接口检查系统

使用 tuna 工具调整调度程序可调项,调优线程优先级、RIRQ 处理程序,并隔离 CPU 内核和套接字。tuna 降低了执行调优任务的复杂性。

tuna 工具执行以下操作:

  • 列出系统中的 CPU
  • 列出系统中当前运行的中断请求(IRQ)
  • 更改线程的策略和优先级信息
  • 显示系统的当前策略和优先级

3.1. 安装 tuna 工具

tuna 工具设计为在运行中的系统上使用。这允许特定应用程序的测量工具在更改后马上查看和分析系统性能。

这个步骤描述了如何安装 tuna 工具。

流程

  • 安装 tuna 工具:

    # dnf install tuna

验证步骤

  • 查看可用的 tuna CLI 选项:

    # tuna -h

其他资源

  • tuna(8) 手册页

3.2. 使用 tuna 工具查看系统状态

这个步骤描述了如何使用 tuna 命令行界面(CLI)工具查看系统状态。

先决条件

流程

  • 查看当前的策略和优先级:

    # tuna --show_threads
                thread
    pid   SCHED_ rtpri affinity             cmd
    1      OTHER     0      0,1            init
    2       FIFO    99        0     migration/0
    3      OTHER     0        0     ksoftirqd/0
    4       FIFO    99        0      watchdog/0
  • 查看与 PID 或命令名称对应的特定线程:

    # tuna --threads=pid_or_cmd_list --show_threads

    pid_or_cmd_list 参数是一个用逗号分开的 PID 或 command-name 模式的列表。

  • 要使用 tuna CLI 调整 CPU,请参阅使用 tuna 工具调整 CPU
  • 要使用 tuna 工具调整 IRQs,请参阅使用 tuna 工具调整 IRQ
  • 保存更改的配置:

    # tuna --save=filename

    这个命令只保存当前运行的内核线程。未运行的进程不会保存。

其他资源

  • tuna(8) 手册页

3.3. 使用 tuna 工具调整 CPU

tuna 工具命令可以针对单个 CPU 为目标。

使用 tuna 工具,您可以:

隔离 CPU
在指定 CPU 上运行的所有任务都移至下一个可用 CPU。隔离 CPU 会将其从所有线程的关联性掩码中删除使其不可用。
包括 CPU
允许任务在指定的 CPU 上运行
恢复 CPU
将指定的 CPU 恢复到之前的配置。

这个步骤描述了如何使用 tuna CLI 调整 CPU。

先决条件

流程

  • 指定要受某一命令影响的 CPU 列表:

    # tuna --cpus=cpu_list [command]

    cpu_list 参数是一个用逗号分开的 CPU 号列表。例如,- -cpus=0,2。CPU 列表也可以在一个范围内指定,例如 --cpus="1-3",这将选择 CPU 1、2 和 3。

    要将特定的 CPU 添加到当前的 cpu_list 中,例如,使用 --cpus=+0

    --isolate 替换 [command]:

  • 隔离 CPU:

    # tuna --cpus=cpu_list --isolate
  • 包括一个 CPU:

    # tuna --cpus=cpu_list --include
  • 要使用带四个或更多处理器的系统,请显示如何在 CPU 01 上运行所有 ssh 线程,以及 CPU 23 中的所有 http 线程:

    # tuna --cpus=0,1 --threads=ssh\* \
    --move --cpus=2,3 --threads=http\* --move

    这个命令会按顺序执行以下操作:

    1. 选择 CPU 01
    2. 选择以 ssh 开头的所有线程。
    3. 将所选线程移到所选 CPU。tuna 设置线程的关联掩码,从 ssh 开始到适当的 CPU。CPU 可以数字形式表示为 01,在十六进制掩码为 0x3,也可以以 11 为单位表示。
    4. 将 CPU 列表重置为 23
    5. 选择所有以 http 开头的线程。
    6. 将所选线程移到指定的 CPU。tuna 将从 http 开始的线程的关联掩码设置为指定的 CPU。CPU 可以数字化为 23,在十六进制掩码中以 0xC 形式表示,也可以作为 1100 二进制表示。

验证步骤

  • 显示当前配置并验证更改是否已如预期执行:

    # tuna --threads=gnome-sc\* --show_threads \
    --cpus=0 --move --show_threads --cpus=1 \
    --move --show_threads --cpus=+0 --move --show_threads
    
                           thread       ctxt_switches
         pid SCHED_ rtpri affinity voluntary nonvoluntary             cmd
       3861   OTHER     0      0,1     33997           58 gnome-screensav
                           thread       ctxt_switches
         pid SCHED_ rtpri affinity voluntary nonvoluntary             cmd
       3861   OTHER     0        0     33997           58 gnome-screensav
                           thread       ctxt_switches
         pid SCHED_ rtpri affinity voluntary nonvoluntary             cmd
       3861   OTHER     0        1     33997           58 gnome-screensav
                           thread       ctxt_switches
         pid SCHED_ rtpri affinity voluntary nonvoluntary             cmd
       3861   OTHER     0      0,1     33997           58 gnome-screensav

    这个命令会按顺序执行以下操作:

    1. 选择以 gnome-sc 线程开头的所有线程。
    2. 显示所选线程,以让用户验证其关联性掩码和 RT 优先级。
    3. 选择 CPU 0
    4. gnome-sc 线程移动到指定的 CPU CPU 中,CPU 0。
    5. 显示移动的结果。
    6. 将 CPU 列表重置为 CPU 1
    7. gnome-sc 线程移到指定的 CPU 1 中。
    8. 显示移动的结果。
    9. 将 CPU 0 添加到 CPU 列表中。
    10. gnome-sc 线程移到指定的 CPU、CPU 01
    11. 显示移动的结果。

其他资源

  • /proc/cpuinfo 文件
  • tuna(8) 手册页

3.4. 使用 tuna 工具调整 IRQ

/proc/interrupts 文件记录每个 IRQ 的中断数、中断类型和位于 IRQ 的设备的名称。

这个步骤描述了如何使用 tuna 工具调整 IRQ。

先决条件

流程

  • 查看当前的 IRQs 及其关联性:

    # tuna --show_irqs
    # users            affinity
    0 timer                   0
    1 i8042                   0
    7 parport0                0
  • 指定要受某一命令影响的 IRQs 列表:

    # tuna --irqs=irq_list [command]

    irq_list 参数是用逗号分开的 IRQ 编号或 user-name 模式的列表。

    --spread 替换 [command]。

  • 将中断移到指定的 CPU:

    # tuna --irqs=128 --show_irqs
       # users            affinity
     128 iwlwifi           0,1,2,3
    
    # tuna --irqs=128 --cpus=3 --move

    使用 irq_list 参数替换 128,将 3 替换为 cpu_list 参数。

    cpu_list 参数是一个用逗号分开的 CPU 号列表,例如 :--cpus=0,2。如需更多信息,请参阅使用 tuna 工具调整 CPU

验证步骤

  • 比较所选 IRQs 的状态,并在将任何中断移到指定的 CPU 后进行比较:

    # tuna --irqs=128 --show_irqs
       # users            affinity
     128 iwlwifi                 3

其他资源

  • /procs/interrupts 文件
  • tuna(8) 手册页

第 4 章 使用 RHEL 系统角色监控性能

作为系统管理员,您可以使用 Metrics RHEL 系统角色监控系统性能。

4.1. RHEL 系统角色简介

RHEL 系统角色是 Ansible 角色和模块的集合。RHEL 系统角色提供了一个配置界面,用于远程管理多个 RHEL 系统。这个界面允许在多个 RHEL 版本间管理系统配置,以及处理新的主发行版本。

在 Red Hat Enterprise Linux 9 中,该接口目前由以下角色组成:

  • 证书问题和续订
  • 内核设置
  • 指标
  • 网络绑定磁盘加密客户端和网络 Bound 磁盘加密服务器
  • 网络
  • postfix
  • SSH 客户端
  • SSH 服务器
  • 系统范围加密策略
  • 终端会话记录

所有这些角色都由 AppStream 存储库中的 rhel-system-roles 软件包提供。

其他资源

4.2. RHEL 系统角色术语

您可以在本文档中找到以下术语:

Ansible playbook
Playbook 是 Ansible 的配置、部署和编配语言。它们可以描述您希望远程系统强制使用的策略,或者在一般的 IT 进程中选择一组步骤。
控制节点
安装了 Ansible 的任何机器。您可以从任何控制节点运行命令和 playbook,调用 /usr/bin/ansible 或 /usr/bin/ansible-playbook。您可以使用任意安装了 Python 的计算机作为控制节点 - 笔记本电脑、共享桌面和服务器都可以运行 Ansible。但是,您不能使用 Windows 机器作为控制节点。您可以拥有多个控制节点。
清单(Inventory)
受管节点列表。清单文件有时也称为"hostfile"。您的清单可以为每个受管节点指定像 IP 地址等信息。清单也可以管理受管节点,创建并嵌套组以更轻松地进行扩展。如需了解更多有关清单的信息,请参阅使用清单一 节。
受管节点
使用 Ansible 管理的网络设备、服务器或两者。受管节点有时也称为 "hosts(主机)"。Ansible 未安装到受管节点上。

4.3. 在系统中安装 RHEL 系统角色

要使用 RHEL 系统角色,请在系统中安装所需的软件包。

先决条件

  • Ansible Core 软件包安装在控制机器上。
  • 您已在要用作控制节点的系统中安装了 Ansible 软件包。

流程

  1. 在您要用作控制节点的系统上安装 rhel-system-roles 软件包:

    # dnf install rhel-system-roles
  2. 安装 Ansible Core 软件包:

    # dnf install ansible-core

Ansible Core 软件包提供了 ansible-playbook CLI、Ansible Vault 功能以及 RHEL Ansible 内容所需的基本模块和过滤器。

因此,您可以创建一个 Ansible playbook。

其他资源

4.4. 应用一个角色

以下流程描述了如何应用特定角色。

先决条件

  • 确保 rhel-system-roles 软件包安装在您要用作控制节点的系统上:

    # dnf install rhel-system-roles
    1. 安装 Ansible Core 软件包:

      # dnf install ansible-core

      Ansible Core 软件包提供了 ansible-playbook CLI、Ansible Vault 功能以及 RHEL Ansible 内容所需的基本模块和过滤器。

  • 确保您能够创建 Ansible 清单。

    清单表示主机、主机组,以及 Ansible playbook 使用的一些配置参数。

    playbook 通常为人类可读,并以 iniyamljson 和其他文件格式定义。

  • 确保您能够创建 Ansible playbook。

    Playbook 代表 Ansible 的配置、部署和编配语言。通过使用 playbook,您可以声明和管理远程机器的配置,部署多个远程机器,编配任何手动排序进程的步骤。

    playbook 是一个或多个 play 的列表。每个 play 都可以包括 Ansible 变量、任务或角色。

    playbook 是人类可读的,并以 yaml 格式定义。

流程

  1. 创建所需的包含您要管理的主机和组的 Ansible 清单。以下是一个使用名为 inventory.ini 的文件的示例,其包含一组名为 webservers 的主机:

    [webservers]
    host1
    host2
    host3
  2. 创建一个 Ansible playbook,包括所需角色。以下示例演示了如何通过 playbook 的 roles: 选项来使用角色:

    以下示例演示了如何通过角色( roles: 选项)来使用给定 play:

    ---
    - hosts: webservers
      roles:
    
         - rhel-system-roles.network
         - rhel-system-roles.postfix
    注意

    每个角色都包括 README 文件,该文件记录如何使用角色和支持的参数值。您还可以在角色的文档目录中找到特定角色的示例 playbook。这些文档目录默认由 rhel-system-roles 软件包提供,并可在以下位置找到:

    /usr/share/doc/rhel-system-roles/SUBSYSTEM/

    SUBSYSTEM 替换为所需角色的名称,如 postfix, metrics, network, tlog, 或 ssh

  3. 要在特定主机上执行 playbook,您必须执行以下一个操作:

    • 编辑 playbook 来使用 hosts: host1[,host2,…​], 或 hosts: all, 并执行命令:

      # ansible-playbook name.of.the.playbook
    • 编辑清单,以确保在组中定义了您要使用的主机,并执行命令:

      # ansible-playbook -i name.of.the.inventory name.of.the.playbook
    • 在执行 ansible-playbook 命令时指定所有主机:

      # ansible-playbook -i host1,host2,... name.of.the.playbook
      重要

      请注意,-i 标志指定所有可用主机的清单。如果您有多个目标主机,但希望选择其中一个运行 playbook 的主机,您可以在 playbook 中添加变量,以便能够选择主机。例如:

      Ansible Playbook | example-playbook.yml:
      
      
      - hosts: "{{ target_host }}"
        roles:
           - rhel-system-roles.network
           - rhel-system-roles.postfix

      Playbook 执行命令:

      # ansible-playbook -i host1,..hostn -e target_host=host5 example-playbook.yml

4.5. 指标系统角色简介

RHEL 系统角色是 Ansible 角色和模块的集合,可为远程管理多个 RHEL 系统提供一致的配置界面。指标系统角色为本地系统配置性能分析服务,并可以选择包含要由本地系统监控的远程系统的列表。指标系统角色使您能够使用 pcp 来监控您的系统性能,而无需单独配置 pcp,因为 pcp 的设置和部署是由 playbook 来处理的。

表 4.1. 指标系统角色变量

角色变量描述用法示例

metrics_monitored_hosts

要通过目标主机分析的远程主机的列表。这些主机将在目标主机上记录指标,因此要确保每个主机的 /var/log 下有足够的磁盘空间。

metrics_monitored_hosts: ["webserver.example.com", "database.example.com"]

metrics_retention_days

在删除前配置性能数据保留的天数。

metrics_retention_days: 14

metrics_graph_service

一个布尔值标志,使主机能够通过 pcpgrafana 设置性能数据可视化服务。默认设置为 false。

metrics_graph_service: no

metrics_query_service

一个布尔值标志,使主机能够通过 redis 设置时间序列查询服务,来查询记录的 pcp 指标。默认设置为 false。

metrics_query_service: no

metrics_provider

指定要用于提供指标的指标收集器。目前,pcp 是唯一受支持的指标提供者。

metrics_provider: "pcp"

注意

如需有关 metrics_connections 中使用的参数,以及有关指标系统角色的其他信息,请参阅 /usr/share/ansible/roles/rhel-system-roles.metrics/README.md 文件。

4.6. 使用指标系统角色以可视化方式监控本地系统

此流程描述了如何使用指标 RHEL 系统角色来监控您的本地系统,同时通过 Grafana 提供数据可视化。

先决条件

  • Ansible Core 软件包安装在控制机器上。
  • 您已在要监控的机器上安装了 rhel-system-roles 软件包。

步骤

  1. 通过将以下内容添加到清单中,来在 /etc/ansible/hosts Ansible 清单中配置 localhost

    localhost ansible_connection=local
  2. 使用以下内容创建一个 Ansible playbook:

    ---
    - hosts: localhost
      vars:
        metrics_graph_service: yes
      roles:
        - rhel-system-roles.metrics
  3. 运行 Ansible playbook:

    # ansible-playbook name_of_your_playbook.yml
    注意

    由于 metrics_graph_service 布尔值被设置为 value="yes",因此会使用 pcp 自动安装并提供 Grafana ,并添加为数据源。

  4. 要查看机器上收集的指标的视图,请访问 grafanaweb 界面 ,如 访问 Grafana web UI 中所述。

4.7. 使用 metrics 系统角色设置监控其自身的独立系统

此流程描述了如何使用 metrics 系统角色设置一组机器来监控其自身。

先决条件

  • Ansible Core 软件包安装在控制机器上。
  • 您已在要用来运行 playbook 的机器上安装了 rhel-system-roles 软件包。
  • 您已建立 SSH 连接。

步骤

  1. 将您要通过 playbook 监控的机器的名称或 IP 添加到 /etc/ansible/hosts Ansible 清单文件中括号内的标识组名称下:

    [remotes]
    webserver.example.com
    database.example.com
  2. 使用以下内容创建一个 Ansible playbook:

    ---
    - hosts: remotes
      vars:
        metrics_retention_days: 0
      roles:
        - rhel-system-roles.metrics
  3. 运行 Ansible playbook:

    # ansible-playbook name_of_your_playbook.yml -k

其中 -k 提示连接到远程系统的密码。

4.8. 使用 Metrics 系统角色通过本地机器监控机器的数量

此流程描述了如何使用指标系统角色设置本地机器来集中一组监控机器,同时通过 grafana 提供数据的可视化,并通过 redis 提供数据的查询。

先决条件

  • Ansible Core 软件包安装在控制机器上。
  • 您已在要用来运行 playbook 的机器上安装了 rhel-system-roles 软件包。

步骤

  1. 使用以下内容创建一个 Ansible playbook:

    ---
    - hosts: localhost
      vars:
        metrics_graph_service: yes
        metrics_query_service: yes
        metrics_retention_days: 10
        metrics_monitored_hosts: ["database.example.com", "webserver.example.com"]
      roles:
        - rhel-system-roles.metrics
  2. 运行 Ansible playbook:

    # ansible-playbook name_of_your_playbook.yml
    注意

    由于 metrics_graph_servicemetrics_query_service 布尔值被设置为 value="yes",因此会使用pcp 来自动安装并提供 grafana ,并添加为带有 pcp 数据记录索引到 redis 的数据源,允许 pcp 查询语言用于复杂的数据查询。

  3. 要查看机器集中收集的指标的图形表示,并查询数据,请访问 grafana web 界面,如 访问 Grafana Web UI 中所述。

4.9. 在使用 Metrics 系统角色监控系统时设置身份验证

PCP 通过简单身份验证安全层(SASL)框架支持 scram-sha-256 验证机制。Metrics RHEL 系统角色使用 scram-sha-256 身份验证机制自动设置身份验证的步骤。这个步骤描述了如何使用 Metrics RHEL 系统角色设置身份验证。

先决条件

  • Ansible Core 软件包安装在控制机器上。
  • 您已在要用来运行 playbook 的机器上安装了 rhel-system-roles 软件包。

步骤

  1. 在您要为其设置身份验证的 Ansible playbook 中包含以下变量:

    ---
      vars:
        metrics_username: your_username
        metrics_password: your_password
  2. 运行 Ansible playbook:

    # ansible-playbook name_of_your_playbook.yml

验证步骤

  • 验证 sasl 配置:

    # pminfo -f -h "pcp://ip_adress?username=your_username" disk.dev.read
    Password:
    disk.dev.read
    inst [0 or "sda"] value 19540

    ip_adress 应替换为主机的 IP 地址。

4.10. 使用指标系统角色为 SQL Server 配置和启用指标集合

此流程描述了如何使用指标 RHEL 系统角色来自动化配置,并通过本地系统上的 pcp 启用 Microsoft SQL Server 的指标集合。

先决条件

  • Ansible Core 软件包安装在控制机器上。
  • 您已在要监控的机器上安装了 rhel-system-roles 软件包。
  • 您已安装了用于 Red Hat Enterprise Linux 的 Microsoft SQL Server,并建立了与 SQL 服务器的"信任"连接。请参阅安装 SQL Server 并在红帽上创建数据库
  • 您已为 Red Hat Enterprise Linux 安装了用于 SQL Server 的 Microsoft ODBC 驱动程序。请参阅 Red Hat Enterprise Server 和 Oracle Linux

流程

  1. 通过将以下内容添加到清单中,来在 /etc/ansible/hosts Ansible 清单中配置 localhost

    localhost ansible_connection=local
  2. 创建一个包含以下内容的 Ansible playbook:

    ---
    - hosts: localhost
      roles:
        - role: rhel-system-roles.metrics
          vars:
            metrics_from_mssql: yes
  3. 运行 Ansible playbook:

    # ansible-playbook name_of_your_playbook.yml

验证步骤

  • 使用 pcp 命令来验证 SQL Server PMDA 代理(mssql)是否已加载并在运行:

    # pcp
    platform: Linux rhel82-2.local 4.18.0-167.el8.x86_64 #1 SMP Sun Dec 15 01:24:23 UTC 2019 x86_64
     hardware: 2 cpus, 1 disk, 1 node, 2770MB RAM
     timezone: PDT+7
     services: pmcd pmproxy
         pmcd: Version 5.0.2-1, 12 agents, 4 clients
         pmda: root pmcd proc pmproxy xfs linux nfsclient mmv kvm mssql
               jbd2 dm
     pmlogger: primary logger: /var/log/pcp/pmlogger/rhel82-2.local/20200326.16.31
         pmie: primary engine: /var/log/pcp/pmie/rhel82-2.local/pmie.log


[1] 本文档会使用 rhel-system-roles 软件包自动安装。

第 5 章 设置 PCP

Performance Co-Pilot(PCP)是用于监控、视觉化、存储和分析系统级性能测量的工具、服务和库集。

这部分论述了如何在您的系统中安装并启用 PCP。

5.1. PCP 概述

您可以使用 Python、Perl、C++ 和 C 接口添加性能指标。分析工具可以直接使用 Python、C++、C 客户端 API,并通过 JSON 界面探索所有可用的性能数据。

您可以通过将实时结果与存档数据进行比较来分析数据模型。

PCP 的功能:

  • 轻量级分布式架构,在复杂的系统集中分析过程中非常有用。
  • 它允许监控和管理实时数据。
  • 它允许记录和检索历史数据。

PCP 包含以下组件:

  • Performance Metric Collector Daemon(pmcd)从已安装的性能指标域代理(pmda)收集性能数据。PMDA 可以单独加载或卸载在系统上,并由同一主机上的 PMCD 控制。
  • pminfopmstat 等各种客户端工具可以检索、显示、存档和处理同一主机或网络上的此数据。
  • pcp 软件包提供命令行工具和底层功能。
  • pcp-gui 软件包提供了图形应用程序。执行 dnf install pcp-gui 命令来安装 pcp-gui 软件包。如需更多信息,请参阅使用 PCP Charts 应用程序进行 Visual tracing PCP 日志归档

5.2. 安装并启用 PCP

要开始使用 PCP,请安装所有必需的软件包并启用 PCP 监控服务。

这个步骤描述了如何使用 pcp 软件包安装 PCP。如果要自动化 PCP 安装,请使用 pcp-zeroconf 软件包安装它。有关使用 pcp-zeroconf 安装 PCP 的更多信息,请参阅使用 pcp-zeroconf 设置 PCP

步骤

  1. 安装 pcp 软件包:

    # dnf install pcp
  2. 在主机机器上启用并启动 pmcd 服务:

    # systemctl enable pmcd
    
    # systemctl start pmcd

验证步骤

  • 验证 pmcd 进程是否在主机上运行:

    # pcp
    
    Performance Co-Pilot configuration on workstation:
    
    platform: Linux workstation 4.18.0-80.el8.x86_64 #1 SMP Wed Mar 13 12:02:46 UTC 2019 x86_64
    hardware: 12 cpus, 2 disks, 1 node, 36023MB RAM
    timezone: CEST-2
    services: pmcd
    pmcd: Version 4.3.0-1, 8 agents
    pmda: root pmcd proc xfs linux mmv kvm jbd2

其他资源

5.3. 部署最小 PCP 设置

PCP 最小设置收集 Red Hat Enterprise Linux 的性能统计信息。设置涉及在产品系统中添加收集数据以便进一步分析所需的最小软件包数量。

您可以使用各种 PCP 工具分析生成的 tar.gz 文件和 pmlogger 输出存档,并将它们与其他性能信息源进行比较。

先决条件

步骤

  1. 更新 pmlogger 配置:

    # pmlogconf -r /var/lib/pcp/config/pmlogger/config.default
  2. 启动 pmcdpmlogger 服务:

    # systemctl start pmcd.service
    
    # systemctl start pmlogger.service
  3. 执行所需的操作来记录性能数据。
  4. 停止 pmcdpmlogger 服务:

    # systemctl stop pmcd.service
    
    # systemctl stop pmlogger.service
  5. 保存输出并将其保存到基于主机名和当前日期和时间的 tar.gz 文件中:

    # cd /var/log/pcp/pmlogger/
    
    # tar -czf $(hostname).$(date +%F-%Hh%M).pcp.tar.gz $(hostname)

    使用 PCP 工具提取此文件并分析数据。

其他资源

5.4. 使用 PCP 分发的系统服务

下表描述了各种系统服务的角色,这些服务随 PCP 一起分发。

表 5.1. PCP 分发的系统服务的角色

名称

描述

pmcd

Performance Metric Collector Daemon(PMCD)。

pmie

性能指标对引擎.

pmlogger

性能指标日志记录器。

pmproxy

实时和历史性能指标代理、时间序列查询和 REST API 服务。

5.5. PCP 分发的工具

下表描述了使用 PCP 分发的各种工具。

表 5.2. 使用 PCP 分发的工具

名称

描述

pcp

显示 Performance Co-Pilot 安装的当前状态。

pcp-atop

从性能角度显示最重要的硬件资源的系统级别:CPU、内存、磁盘和网络。

pcp-atopsar

在各种系统资源使用率上生成系统级活动报告。这个报告从之前使用 pmlogger 或 pcp-atop 的 -w 选项记录的原始日志文件生成。

pcp-dmcache

显示有关配置的设备映射缓存目标的信息,例如:设备 IOP、缓存和元数据设备利用率,以及在每次缓存设备的读写率和比率。

pcp-dstat

一次显示一个系统的指标。要显示多个系统的指标,请使用 --host 选项。

pcp-free

报告系统中的空闲和已用内存。

pcp-htop

以类似于 top 命令的方式显示系统上运行的所有进程及其命令行参数,但允许您使用鼠标进行垂直和水平滚动。您还可以以树形格式查看进程,并同时对多个进程选择和实施。

pcp-ipcs

显示调用进程具有读取访问权限的进程间通信(IPC)功能的信息。

pcp-numastat

显示内核内存分配器的 NUMA 分配统计信息。

pcp-pidstat

显示系统中运行的各个任务或进程的信息,如 CPU 百分比、内存和堆栈使用情况、调度和优先级。报告默认情况下本地主机的实时数据。

pcp-ss

显示 pmdasockets 性能指标域代理(PMDA)收集的套接字统计信息。

pcp-uptime

显示系统正在运行的时长,当前登录的用户数量,以及过去 1、5 和 15 分钟的系统负载平均值。

pcp-vmstat

每 5 秒提供高级系统性能概述。显示有关进程、内存、分页、块 IO、 traps 和 CPU 活动的信息。

pmchart

通过 Performance Co-Pilot 的功能来绘制性能指标值。

pmclient

使用性能指标应用程序编程接口(PMAPI)显示高级系统性能指标。

pmconfig

显示配置参数的值。

pmdbg

显示可用的 Performance Co-Pilot 调试控制标记及其值。

pmdiff

比较一个或两个存档(给定时间窗内)中每个指标的平均值,而在搜索性能回归时可能会感兴趣的更改。

pmdumplog

显示 Performance Co-Pilot 归档文件中的控制、元数据、索引和状态信息。

pmdumptext

输出从 Performance Co-Pilot 归档收集的性能指标值。

pmerr

显示可用的 Performance Co-Pilot 错误代码及其对应的错误消息。

pmfind

在网络上查找 PCP 服务。

pmie

定期评估一组算术、逻辑和规则表达式的 inference 引擎。指标可以从 live 系统或 Performance Co-Pilot 归档文件收集。

pmieconf

显示或设置可配置的 pmie 变量。

pmiectl

管理 pmie 的非主要实例。

pminfo

显示性能指标的相关信息。指标可以从 live 系统或 Performance Co-Pilot 归档文件收集。

pmiostat

报告 SCSI 设备的 I/O 统计信息(默认情况下)或者设备映射器设备(使用 -x dm 选项)。

pmlc

交互式地配置活跃的 pmlogger 实例。

pmlogcheck

在 Performance Co-Pilot 归档文件中标识无效数据。

pmlogconf

创建并修改 pmlogger 配置文件。

pmlogctl

管理 pmlogger 的非主要实例。

pmloglabel

验证、修改或修复 Performance Co-Pilot 归档文件的标签。

pmlogsummary

计算 Performance Co-Pilot 归档文件中存储性能指标的统计信息。

pmprobe

决定性能指标的可用性。

pmrep

报告选定、易于自定义、性能指标值。

pmsocks

允许通过防火墙访问 Performance Co-Pilot 主机。

pmstat

定期显示系统性能的简短摘要。

pmstore

修改性能指标的值。

pmtrace

提供到 trace PMDA 的命令行界面。

pmval

显示性能指标的当前值。

5.6. PCP 部署架构

Performance Co-Pilot(PCP)提供了多个选项来完成高级设置。在各种可能构架中,本节论述了如何根据红帽设置的建议部署、调整因素和配置选项扩展 PCP 部署。

PCP 根据 PCP 部署规模支持多个部署架构。

可用的扩展部署设置变体:

Localhost

每个服务在被监控的机器上本地运行。当您在没有配置更改的情况下启动服务时,这是默认的部署。在这种情况下无法对单个节点进行扩展。

默认情况下,Redis 的部署设置是单机 localhost。但是,Red Hat Redis 可以选择以高可用性和高度扩展的集群执行,其中数据在多个主机之间共享。另一个可行选择是在云中部署 Redis 集群,或者从云供应商中使用受管 Redis 集群。

Decentralized

localhost 和分散设置之间的唯一区别是集中式 Redis 服务。在这种模型中,主机在每个被监控的主机上执行 pmlogger 服务,并从本地 pmcd 实例检索指标。然后本地 pmproxy 服务将性能指标导出到中央 Redis 实例。

图 5.1. 分散日志记录

分散日志记录
集中式日志记录 - pmlogger 场

当被监控主机的资源使用情况受限时,另一个部署选项是一个 pmlogger 场,也称为集中式日志记录。在本设置中,单个日志记录器主机执行多个 pmlogger 进程,各自配置为从不同的远程 pmcd 主机检索性能指标。集中式日志记录器主机也被配置为执行 pmproxy 服务,该服务发现生成的 PCP 存档日志并将指标数据加载到 Redis 实例中。

图 5.2. 集中式日志记录 - pmlogger 场

集中式日志记录 - pmlogger 场
联邦 - 对 pmlogger farms

对于大规模部署,红帽建议以联邦方式部署多个 pmlogger farm。例如,每个机架或数据中心一个 pmlogger farm。每个 pmlogger farm 都会将指标加载到中央 Redis 实例中。

图 5.3. 联邦 - 多个 pmlogger farms

联邦 - 多个 pmlogger farms
注意

默认情况下,Redis 的部署设置是单机 localhost。但是,Red Hat Redis 可以选择以高可用性和高度扩展的集群执行,其中数据在多个主机之间共享。另一个可行选择是在云中部署 Redis 集群,或者从云供应商中使用受管 Redis 集群。

其他资源

5.8. 大小考虑因素

以下是扩展所需的大小调整因素:

远程系统大小
CPU、磁盘、网络接口和其他硬件资源的数量会影响中央日志记录主机上的每个 pmlogger 收集的数据量。
日志记录的指标数据
日志记录的指标的数量和类型是重要的角色。特别是,per-process proc.* 指标需要大量磁盘空间,例如,标准 pcp-zeroconf 设置、10s 日志记录间隔、11 MB、没有 proc 指标和 155 MB 的 proc 指标 - 可获得 10 倍。此外,每个指标的实例数量,如 CPU、块设备和网络接口的数量也会影响所需的存储容量。
日志记录间隔
指标的日志记录频率,会影响存储要求。预期的每日 PCP 归档文件大小会为每个 pmlogger 实例写入到 pmlogger.log 文件。这些值未压缩估算。由于 PCP 归档的压缩非常大,大约 10:1,因此可以为特定站点确定实际的长期磁盘空间要求。
pmlogrewrite
在每个 PCP 升级后,将执行 pmlogrewrite 工具,并重写旧的归档(如果之前版本中的指标元数据有变化)和 PCP 的新版本。这个过程持续时间使用存储的存档数扩展线性。

其他资源

  • pmlogrewrite(1)pmlogger(1) man page

5.9. PCP 扩展的配置选项

以下是扩展所需的配置选项:

sysctl 和 rlimit 设置
当启用归档发现时,对于每个 pmloggerpmproxy 都需要 4 个描述符,用于监控或注销,以及服务日志和 pmproxy 客户端套接字的额外文件描述符(如果有)。每个 pmlogger 进程在远程 pmcd 套接字、存档文件、服务日志等中使用大约 20 个文件描述符。总的来说,这可以超过运行约 200 个 pmlogger 进程的系统上的默认 1024 软限制。pcp-5.3.0 及之后的版本中的 pmproxy 服务会自动将软限制增加到硬限制。在 PCP 的早期版本中,如果要部署大量 pmlogger 进程,则需要调优;这可以通过增加 pmlogger 的软或硬限制来实现。如需更多信息,请参阅 如何为 systemd 运行的服务设置限制(ulimit)。
本地归档
pmlogger 服务将本地和远程 pmcds 的指标存储在 /var/log/pcp/pmlogger/ 目录中。要控制本地系统的日志间隔,请更新 /etc/pcp/pmlogger/control.d/configfile文件,并在参数中添加 -t X,其中 X 是日志间隔(以秒为单位)。要配置应该记录哪些指标,请执行 pmlogconf /var/lib/pcp/config/pmlogger/config.clienthostname。此命令使用一组默认指标来部署配置文件,可选择性地进行进一步自定义。要指定保留设置(指定何时清除旧的 PCP 存档),更新 /etc/sysconfig/pmlogger_timers 文件指定 PMLOGGER_DAILY_PARAMS="-E -k X",其中 X 是保留 PCP 归档的天数。
Redis

pmproxy 服务将日志记录的指标从 pmlogger 发送到 Redis 实例。以下是两个选项,用于指定 /etc/pcp/pmproxy/pmproxy.conf 配置文件中的保留设置:

  • stream.expire 指定应删除过时指标时的持续时间,即在指定时间内没有更新的指标,以秒为单位。
  • stream.maxlen 指定每个主机的一个指标值的最大指标值数。此设置应是保留的时间除以日志间隔,例如如果保留时间为 14 天日志间隔是 60s,则设置为 20160(60*60*24*14/60)

其他资源

  • pmproxy(1), pmlogger(1), 和 sysctl(8) man pages

5.10. 示例:分析集中式日志记录部署

在集中式日志记录设置中收集以下结果(也称为 pmlogger 场部署),其默认 pcp-zeroconf 5.3.0 安装,其中每个远程主机都是在有 64 个 CPU 内核、376 GB RAM 的服务器上运行 pmcd 的相同容器实例。

日志记录间隔为 10s,不包含远程节点的 proc 指标,内存值则引用 Resident Set Size(RSS)值。

表 5.4. 10s 日志间隔的详细利用率统计

主机数量1050

PCP 每天归档存储

91 MB

522 MB

pmlogger Memory

160 MB

580 MB

每天 pmlogger Network(In)

2 MB

9 MB

pmproxy Memory

1.4 GB

6.3 GB

每天的 redis 内存

2.6 GB

12 GB

表 5.5. 根据被监控的主机提供 60 个日志记录间隔的资源

主机数量1050100

PCP 每天归档存储

20 MB

120 MB

271 MB

pmlogger Memory

104 MB

524 MB

1049 MB

每天 pmlogger Network(In)

0.38 MB

1.75 MB

3.48 MB

pmproxy Memory

2.67 GB

5.5GB

9 GB

每天的 redis 内存

0.54 GB

2.65 GB

5.3 GB

注意

pmproxy 队列 Redis 请求,并使用 Redis pipelining 来加快 Redis 查询。这可能导致大量内存使用。有关此问题的故障排除,请参阅对高内存的使用进行故障排除

5.11. 示例:分析联合设置部署

以下结果在联合设置中观察,也称为多个 pmlogger farm,由三个集中式日志记录(pmlogger farm)设置组成,每个 pmlogger farm 都监控 100 个远程主机,总计为 300 个主机。

pmlogger 场的设置与 Example: Analyzing the centralized logging deployment 中所述的配置几乎一致(60 秒的间隔),唯一不同是 Redis 服务器以集群模式运行。

表 5.6. 根据联合主机进行 60s 日志记录间隔使用的资源

PCP 每天归档存储pmlogger Memory每天网络(In/Out)pmproxy Memory每天的 redis 内存

277 MB

1058 MB

15.6 MB / 12.3 MB

6-8 GB

5.5 GB

此处,所有值都是每个主机。网络带宽较高,因为 Redis 集群的节点间通信。

5.12. 对高内存使用量进行故障排除

以下情况可能会导致内存用量:

  • pmproxy 进程忙于处理新的 PCP 归档,且没有处理 Redis 请求和响应的备用 CPU 周期。
  • Redis 节点或集群已过载,且无法在时间处理传入的请求。

pmproxy 服务守护进程使用 Redis 流并支持配置参数,这些参数是 PCP 调优参数,并影响 Redis 内存用量和密钥保留。/etc/pcp/pmproxy/pmproxy.conf 文件列出了 pmproxy 和关联的 API 的可用选项。

这部分论述了如何对高内存用量进行故障排除。

先决条件

  1. 安装 pcp-pmda-redis 软件包:

    # dnf install pcp-pmda-redis
  2. 安装 redis PMDA:

    # cd /var/lib/pcp/pmdas/redis && ./Install

步骤

  • 要排除高内存用量的问题,请执行以下命令并观察 inflight 列:

    $ pmrep :pmproxy
             backlog  inflight  reqs/s  resp/s   wait req err  resp err  changed  throttled
              byte     count   count/s  count/s  s/s  count/s   count/s  count/s   count/s
    14:59:08   0         0       N/A       N/A   N/A    N/A      N/A      N/A        N/A
    14:59:09   0         0    2268.9    2268.9    28     0        0       2.0        4.0
    14:59:10   0         0       0.0       0.0     0     0        0       0.0        0.0
    14:59:11   0         0       0.0       0.0     0     0        0       0.0        0.0

    此列显示有多少 Redis 请求是 in-flight,这意味着它们被排队或发送,目前还没有收到回复。

    数字表示以下条件之一:

    • pmproxy 进程忙于处理新的 PCP 归档,且没有处理 Redis 请求和响应的备用 CPU 周期。
    • Redis 节点或集群已过载,且无法在时间处理传入的请求。
  • 要对高内存使用问题进行故障排除,请减少此场的 pmlogger 进程数量,再添加另一个 pmlogger 场。使用联邦 - 多个 pmlogger farm 设置。

    如果 Redis 节点使用 100% 的 CPU 延长的时间,请将其移到具有更好的性能的主机,或使用集群的 Redis 设置。

  • 要查看 pmproxy.redis.* 指标,请使用以下命令:

    $ pminfo -ftd pmproxy.redis
    pmproxy.redis.responses.wait [wait time for responses]
        Data Type: 64-bit unsigned int  InDom: PM_INDOM_NULL 0xffffffff
        Semantics: counter  Units: microsec
        value 546028367374
    pmproxy.redis.responses.error [number of error responses]
        Data Type: 64-bit unsigned int  InDom: PM_INDOM_NULL 0xffffffff
        Semantics: counter  Units: count
        value 1164
    [...]
    pmproxy.redis.requests.inflight.bytes [bytes allocated for inflight requests]
        Data Type: 64-bit int  InDom: PM_INDOM_NULL 0xffffffff
        Semantics: discrete  Units: byte
        value 0
    
    pmproxy.redis.requests.inflight.total [inflight requests]
        Data Type: 64-bit unsigned int  InDom: PM_INDOM_NULL 0xffffffff
        Semantics: discrete  Units: count
        value 0
    [...]

    要查看有多少 Redis 请求在flight 中,请参阅 pmproxy.redis.requests.inflight.total 指标和 pmproxy.redis.requests.inflight.bytes 指标来查看所有当前在flight Redis 请求中消耗的字节数。

    通常,redis 请求队列为零,但可以根据大型 pmlogger 场的使用而构建,这限制了可扩展性,并可能导致 pmproxy 客户端的高延迟。

  • 使用 pminfo 命令查看有关性能指标的信息。例如,要查看 redis.* 指标,请使用以下命令:

    $ pminfo -ftd redis
    redis.redis_build_id [Build ID]
        Data Type: string  InDom: 24.0 0x6000000
        Semantics: discrete  Units: count
        inst [0 or "localhost:6379"] value "87e335e57cffa755"
    redis.total_commands_processed [Total number of commands processed by the server]
        Data Type: 64-bit unsigned int  InDom: 24.0 0x6000000
        Semantics: counter  Units: count
        inst [0 or "localhost:6379"] value 595627069
    [...]
    
    redis.used_memory_peak [Peak memory consumed by Redis (in bytes)]
        Data Type: 32-bit unsigned int  InDom: 24.0 0x6000000
        Semantics: instant  Units: count
        inst [0 or "localhost:6379"] value 572234920
    [...]

    要查看峰值内存用量,请参阅 redis.used_memory_peak 指标。

其他资源

第 6 章 使用 pmlogger 记录性能数据

使用 PCP 工具,您可以记录性能指标值并稍后重新显示。这可让您执行改进的性能分析。

使用 pmlogger 工具,您可以:

  • 在系统上创建所选指标的归档日志
  • 指定系统中记录哪些指标以及它们的频率

6.1. 使用 pmlogconf 修改 pmlogger 配置文件

pmlogger 服务运行时,PCP 会记录主机上一组默认指标。

使用 pmlogconf 实用程序检查默认配置。如果 pmlogger 配置文件不存在,则 pmlogconf 会使用默认指标值创建该文件。

先决条件

步骤

  1. 创建或修改 pmlogger 配置文件:

    # pmlogconf -r /var/lib/pcp/config/pmlogger/config.default
  2. 按照 pmlogconf 提示启用或禁用相关性能指标组,并控制每个启用的组的日志间隔。

其他资源

6.2. 手动编辑 pmlogger 配置文件

要使用特定指标和给定间隔创建定制的日志配置,请手动编辑 pmlogger 配置文件。默认 pmlogger 配置文件为 /var/lib/pcp/config/pmlogger/config.default。配置文件指定主日志记录实例记录哪些指标。

在手动配置中,您可以:

  • 记录没有列在自动配置中的指标。
  • 选择自定义日志记录频率。
  • 使用应用程序指标添加 PMDA

先决条件

步骤

  • 打开并编辑 /var/lib/pcp/config/pmlogger/config.default 文件以添加特定的指标:

    # It is safe to make additions from here on ...
    #
    
    log mandatory on every 5 seconds {
        xfs.write
        xfs.write_bytes
        xfs.read
        xfs.read_bytes
    }
    
    log mandatory on every 10 seconds {
        xfs.allocs
        xfs.block_map
        xfs.transactions
        xfs.log
    
    }
    
    [access]
    disallow * : all;
    allow localhost : enquire;

其他资源

6.3. 启用 pmlogger 服务

必须启动并启用 pmlogger 服务,以记录本地计算机上的指标值。

这个步骤描述了如何启用 pmlogger 服务。

先决条件

步骤

  • 启动并启用 pmlogger 服务:

    # systemctl start pmlogger
    
    # systemctl enable pmlogger

验证步骤

  • 验证 pmlogger 服务是否已启用:

    # pcp
    
    Performance Co-Pilot configuration on workstation:
    
    platform: Linux workstation 4.18.0-80.el8.x86_64 #1 SMP Wed Mar 13 12:02:46 UTC 2019 x86_64
    hardware: 12 cpus, 2 disks, 1 node, 36023MB RAM
    timezone: CEST-2
    services: pmcd
    pmcd: Version 4.3.0-1, 8 agents, 1 client
    pmda: root pmcd proc xfs linux mmv kvm jbd2
    pmlogger: primary logger: /var/log/pcp/pmlogger/workstation/20190827.15.54

其他资源

6.4. 为指标集合设置客户端系统

这个步骤描述了如何设置客户端系统,以便中央服务器能够从运行 PCP 的客户端收集指标。

先决条件

步骤

  1. 安装 pcp-system-tools 软件包:

    # dnf install pcp-system-tools
  2. pmcd 配置 IP 地址:

    # echo "-i 192.168.4.62" >>/etc/pcp/pmcd/pmcd.options

    使用客户端应侦听的 IP 地址替换 192.168.4.62

    默认情况下,pmcd 侦听 localhost。

  3. 配置防火墙以永久添加公共 zone

    # firewall-cmd --permanent --zone=public --add-port=44321/tcp
    success
    
    # firewall-cmd --reload
    success
  4. 设置 SELinux 布尔值:

    # setsebool -P pcp_bind_all_unreserved_ports on
  5. 启用 pmcdpmlogger 服务:

    # systemctl enable pmcd pmlogger
    # systemctl restart pmcd pmlogger

验证步骤

  • 验证 pmcd 是否已正确侦听配置的 IP 地址:

    # ss -tlp | grep 44321
    LISTEN   0   5     127.0.0.1:44321   0.0.0.0:*   users:(("pmcd",pid=151595,fd=6))
    LISTEN   0   5  192.168.4.62:44321   0.0.0.0:*   users:(("pmcd",pid=151595,fd=0))
    LISTEN   0   5         [::1]:44321      [::]:*   users:(("pmcd",pid=151595,fd=7))

其他资源

6.5. 设置中央服务器以收集数据

这个步骤描述了如何创建中央服务器从运行 PCP 的客户端收集指标。

先决条件

步骤

  1. 安装 pcp-system-tools 软件包:

    # dnf install pcp-system-tools
  2. 使用以下内容创建 /etc/pcp/pmlogger/control.d/remote 文件:

    # DO NOT REMOVE OR EDIT THE FOLLOWING LINE
    $version=1.1
    
    192.168.4.13 n n PCP_ARCHIVE_DIR/rhel7u4a -r -T24h10m -c config.rhel7u4a
    192.168.4.14 n n PCP_ARCHIVE_DIR/rhel6u10a -r -T24h10m -c config.rhel6u10a
    192.168.4.62 n n PCP_ARCHIVE_DIR/rhel8u1a -r -T24h10m -c config.rhel8u1a
    192.168.4.69 n n PCP_ARCHIVE_DIR/rhel9u3a -r -T24h10m -c config.rhel9u3a

    使用客户端 IP 地址替换 192.168.4.13192.168.4.14192.168.4.62192.168.4.69

  3. 启用 pmcdpmlogger 服务:

    # systemctl enable pmcd pmlogger
    # systemctl restart pmcd pmlogger

验证步骤

  • 确保您可以从每个目录中访问最新的归档文件:

    # for i in /var/log/pcp/pmlogger/rhel*/*.0; do pmdumplog -L $i; done
    Log Label (Log Format Version 2)
    Performance metrics from host rhel6u10a.local
      commencing Mon Nov 25 21:55:04.851 2019
      ending     Mon Nov 25 22:06:04.874 2019
    Archive timezone: JST-9
    PID for pmlogger: 24002
    Log Label (Log Format Version 2)
    Performance metrics from host rhel7u4a
      commencing Tue Nov 26 06:49:24.954 2019
      ending     Tue Nov 26 07:06:24.979 2019
    Archive timezone: CET-1
    PID for pmlogger: 10941
    [..]

    /var/log/pcp/pmlogger/ 目录中的存档文件可用于进一步分析和显示。

其他资源

6.6. 使用 pmrep 重现 PCP 日志存档

记录指标数据后,您可以重新执行 PCP 日志存档。要将日志导出到文本文件并将其导入到电子表格中,请使用 pcp2csvpcp2xmlpmreppmlogsummary 等。

使用 pmrep 工具,您可以:

  • 查看日志文件
  • 解析所选 PCP 日志存档,并将值导出到 ASCII 表中
  • 通过在命令行中指定单个指标,从日志中提取整个存档日志或只从日志中选择指标值

先决条件

  • 已安装 PCP。如需更多信息,请参阅安装并启用 PCP
  • pmlogger 服务已启用。如需更多信息,请参阅启用 pmlogger 服务
  • 安装 pcp-system-tools 软件包:

    # dnf install pcp-gui

步骤

  • 显示指标上的数据:

    $ pmrep --start @3:00am --archive 20211128 --interval 5seconds --samples 10 --output csv disk.dev.write
    Time,"disk.dev.write-sda","disk.dev.write-sdb"
    2021-11-28 03:00:00,,
    2021-11-28 03:00:05,4.000,5.200
    2021-11-28 03:00:10,1.600,7.600
    2021-11-28 03:00:15,0.800,7.100
    2021-11-28 03:00:20,16.600,8.400
    2021-11-28 03:00:25,21.400,7.200
    2021-11-28 03:00:30,21.200,6.800
    2021-11-28 03:00:35,21.000,27.600
    2021-11-28 03:00:40,12.400,33.800
    2021-11-28 03:00:45,9.800,20.600

    上述示例以逗号分隔值格式显示存档中以 5 秒 间隔收集的 disk.dev.write 指标中的数据。

    注意

    将此示例中的 20211128 替换为包含您要显示数据的 pmlogger 存档的文件名。

其他资源

第 7 章 使用 Performance Co-Pilot 监控性能

Performance Co-Pilot(PCP)是用于监控、视觉化、存储和分析系统级性能测量的工具、服务和库集。

作为系统管理员,您可以使用 Red Hat Enterprise Linux 9 中的 PCP 应用程序监控系统性能。

7.1. 使用 pmda-postfix 监控 postfix

这个步骤描述了如何使用 pmda- postfix 监控 postfix 邮件服务器的性能指标。它有助于检查每秒接收多少电子邮件。

先决条件

步骤

  1. 安装以下软件包:

    1. 安装 pcp-system-tools

      # dnf install pcp-system-tools
    2. 安装 pmda-postfix 软件包以监控 postfix

      # dnf install pcp-pmda-postfix postfix
    3. 安装日志记录守护进程:

      # dnf install rsyslog
    4. 安装邮件客户端进行测试:

      # dnf install mutt
  2. 启用 postfixrsyslog 服务:

    # systemctl enable postfix rsyslog
    # systemctl restart postfix rsyslog
  3. 启用 SELinux 布尔值,以便 pmda-postfix 可以访问所需的日志文件:

    # setsebool -P pcp_read_generic_logs=on
  4. 安装 PMDA

    # cd /var/lib/pcp/pmdas/postfix/
    
    # ./Install
    
    Updating the Performance Metrics Name Space (PMNS) ...
    Terminate PMDA if already installed ...
    Updating the PMCD control file, and notifying PMCD ...
    Waiting for pmcd to terminate ...
    Starting pmcd ...
    Check postfix metrics have appeared ... 7 metrics and 58 values

验证步骤

  • 验证 pmda-postfix 操作:

    echo testmail | mutt root
  • 验证可用指标:

    # pminfo postfix
    
    postfix.received
    postfix.sent
    postfix.queues.incoming
    postfix.queues.maildrop
    postfix.queues.hold
    postfix.queues.deferred
    postfix.queues.active

其他资源

7.2. 使用 PCP Charts 应用程序可视化追踪 PCP 日志存档

记录指标数据后,您可以作为图形重新执行 PCP 日志存档。指标来源于一个或多个实时主机,可通过替代选项将 PCP 日志存档中的指标数据用作历史数据的来源。要自定义 PCP 图表 应用程序接口来显示性能指标中的数据,您可以使用行图表、栏图或利用率图形。

使用 PCP Charts 应用程序,您可以:

  • 重播 PCP 图表 应用程序中的数据,并使用图形来视觉化重新内省数据以及系统的实时数据。
  • 将性能指标值图表到图表中。
  • 同时显示多个 chart。

先决条件

步骤

  1. 从命令行启动 PCP Charts 应用程序:

    # pmchart

    图 7.1. PCP Charts 应用程序

    pmchart started

    pmtime 服务器设置位于底部。可以使用 startpause 按钮控制:

    • PCP 轮询指标数据的时间间隔
    • 历史数据指标的日期和时间
  2. File 然后点 New Chart,通过指定主机名或地址来选择来自本地机器和远程机器的指标。高级配置选项包括手动设置图表值的功能,以及手动选择图表颜色。
  3. 记录在 PCP Charts 应用程序中创建的视图:

    以下是获取镜像或记录 PCP Charts 应用程序中创建的视图的选项:

    • 单击 File,然后单击 Export 以保存当前视图的镜像。
    • Record,然后 Start 启动记录。点 Record,然后 Stop 停止记录。停止记录后,会存档记录的指标,以便稍后查看。
  4. 可选:在 PCP Charts 应用程序中,主配置文件称为 view,允许保存与一个或多个 chart 关联的元数据。此元数据描述了所有图表,包括所使用的指标和图表列。通过单击 File 保存自定义 视图 配置,然后保存 View,稍后载入 视图 配置。

    以下 PCP 图表 应用程序视图配置文件示例描述了一个堆栈图图,显示了读取和写入到给定 XFS 文件系统 loop1 的字节总数:

    #kmchart
    version 1
    
    chart title "Filesystem Throughput /loop1" style stacking antialiasing off
        plot legend "Read rate"   metric xfs.read_bytes   instance  "loop1"
        plot legend "Write rate"  metric xfs.write_bytes  instance  "loop1"

其他资源

7.3. 使用 PCP 从 SQL 服务器收集数据

SQL Server 代理在 Performance Co-Pilot(PCP)中提供,它可帮助您监控和分析数据库性能问题。

这个步骤描述了如何通过系统中的 pcp 为 Microsoft SQL Server 收集数据。

先决条件

  • 您已安装了用于 Red Hat Enterprise Linux 的 Microsoft SQL Server ,并建立了到 SQL 服务器的"可信"连接。
  • 您已安装了用于 Red Hat Enterprise Linux 的 SQL Server 的 Microsoft ODBC 驱动程序。

步骤

  1. 安装 PCP:

    # dnf install pcp-zeroconf
  2. 安装 pyodbc 驱动程序所需的软件包:

    # dnf install python3-pyodbc
  3. 安装 mssql 代理:

    1. 为 PCP 安装 Microsoft SQL Server 域名代理:

      # dnf install pcp-pmda-mssql
    2. 编辑 /etc/pcp/mssql/mssql.conf 文件,为 mssql 代理配置 SQL 服务器帐户的用户名和密码。请确定您配置的帐户具有性能数据的访问权限。

      username: user_name
      password: user_password

      使用这个帐户的 SQL Server 帐户和 user_password 替换 user_name

  4. 安装代理:

    # cd /var/lib/pcp/pmdas/mssql
    # ./Install
    Updating the Performance Metrics Name Space (PMNS) ...
    Terminate PMDA if already installed ...
    Updating the PMCD control file, and notifying PMCD ...
    Check mssql metrics have appeared ... 168 metrics and 598 values
    [...]

验证步骤

  • 使用 pcp 命令,验证 SQL Server PMDA(mssql)是否已加载并在运行:

    $ pcp
    Performance Co-Pilot configuration on rhel.local:
    
    platform: Linux rhel.local 4.18.0-167.el8.x86_64 #1 SMP Sun Dec 15 01:24:23 UTC 2019 x86_64
     hardware: 2 cpus, 1 disk, 1 node, 2770MB RAM
     timezone: PDT+7
     services: pmcd pmproxy
         pmcd: Version 5.0.2-1, 12 agents, 4 clients
         pmda: root pmcd proc pmproxy xfs linux nfsclient mmv kvm mssql
               jbd2 dm
     pmlogger: primary logger: /var/log/pcp/pmlogger/rhel.local/20200326.16.31
         pmie: primary engine: /var/log/pcp/pmie/rhel.local/pmie.log
  • 查看 PCP 可以从 SQL Server 收集的指标的完整列表:

    # pminfo mssql
  • 查看指标列表后,您可以报告事务的速度。例如,要报告每秒总事务数,超过 5 秒时间窗:

    # pmval -t 1 -T 5 mssql.databases.transactions
  • 使用 pmchart 命令查看系统中的这些指标的图形图表。如需更多信息,请参阅使用 PCP Charts 应用程序进行 Visual tracing PCP 日志归档

其他资源

7.4. 从 sadc 归档生成 PCP 归档

您可以使用 sysstat 软件包提供的 sadf 工具来生成来自原生 sadc 归档的 PCP 存档。

先决条件

  • 已创建了 sadc 存档:

    # /usr/lib64/sa/sadc 1 5 -

    在本例中,sadc 是抽样系统数据 1 时间,间隔为 5 秒。outfile 指定为 -,它导致 sadc 将数据写入标准系统活动每日数据文件。此文件名为 saDD,默认情况下位于 /var/log/sa 目录中。

步骤

  • sadc 归档生成 PCP 存档:

    # sadf -l -O pcparchive=/tmp/recording -2

    在本例中,使用 -2 选项会导致 sadfsadc 归档(2 天)中生成 PCP 存档。

验证步骤

您可以使用 PCP 命令检查和分析 sadc 存档生成的 PCP 存档,正如一个原生 PCP 存档一样。例如:

  • 要显示 PCP 存档中从 sadc 归档生成的指标列表,请运行:

    $ pminfo --archive /tmp/recording
    Disk.dev.avactive
    Disk.dev.read
    Disk.dev.write
    Disk.dev.blkread
    [...]
  • 要显示 PCP 归档的归档和主机名的时间范围,请运行:

    $ pmdumplog --label /tmp/recording
    Log Label (Log Format Version 2)
    Performance metrics from host shard
            commencing Tue Jul 20 00:10:30.642477 2021
            ending     Wed Jul 21 00:10:30.222176 2021
  • 要将性能指标值绘制成图形,请运行:

    $ pmchart --archive /tmp/recording

第 8 章 使用 PCP 对 XFS 的性能分析

XFS PMDA 作为 pcp 软件包的一部分提供,并在安装过程中默认启用。它用于在 Performance Co-Pilot(PCP)中收集 XFS 文件系统的性能指标数据。

这部分论述了如何使用 PCP 分析 XFS 文件系统的性能。

8.1. 手动安装 XFS PMDA

如果 pcp 配置输出中没有列出 XFS PMDA,请手动安装 PMDA 代理。

这个步骤描述了如何手动安装 PMDA 代理。

先决条件

步骤

  1. 进入 xfs 目录:

    # cd /var/lib/pcp/pmdas/xfs/

验证步骤

  • 验证 pmcd 进程是否在主机上运行,且在配置中列出 XFS PMDA:

    # pcp
    
    Performance Co-Pilot configuration on workstation:
    
    platform: Linux workstation 4.18.0-80.el8.x86_64 #1 SMP Wed Mar 13 12:02:46 UTC 2019 x86_64
    hardware: 12 cpus, 2 disks, 1 node, 36023MB RAM
    timezone: CEST-2
    services: pmcd
    pmcd: Version 4.3.0-1, 8 agents
    pmda: root pmcd proc xfs linux mmv kvm jbd2

其他资源

8.2. 使用 pminfo 检查 XFS 性能指标

PCP 启用 XFS PMDA 以允许每个挂载的 XFS 文件系统报告特定的 XFS 指标。这样可以更加轻松地查明特定挂载的文件系统问题并评估性能。

pminfo 命令为每个挂载的 XFS 文件系统提供每个设备 XFS 指标。

此流程显示 XFS PMDA 提供所有可用指标的列表。

先决条件

步骤

  • 显示 XFS PMDA 提供的所有可用指标列表:

    # pminfo xfs
  • 显示各个指标的信息。以下示例使用 pminfo 工具检查特定的 XFS 指标:

    • 显示 xfs.write_bytes 指标的简短描述:

      # pminfo --oneline xfs.write_bytes
      
      xfs.write_bytes [number of bytes written in XFS file system write operations]
    • 显示 xfs.read_bytes 指标的长描述:

      # pminfo --helptext xfs.read_bytes
      
      xfs.read_bytes
      Help:
      This is the number of bytes read via read(2) system calls to files in
      XFS file systems. It can be used in conjunction with the read_calls
      count to calculate the average size of the read operations to file in
      XFS file systems.
    • 获取 xfs.read_bytes 指标的当前性能值:

      # pminfo --fetch xfs.read_bytes
      
      xfs.read_bytes
          value 4891346238
    • 使用 pminfo 获取每个设备 XFS 指标:

      # pminfo --fetch --oneline xfs.perdev.read xfs.perdev.write
      
      xfs.perdev.read [number of XFS file system read operations]
      inst [0 or "loop1"] value 0
      inst [0 or "loop2"] value 0
      
      xfs.perdev.write [number of XFS file system write operations]
      inst [0 or "loop1"] value 86
      inst [0 or "loop2"] value 0

8.3. 使用 pmstore 重置 XFS 性能指标

使用 PCP,您可以修改特定指标的值,特别是当指标充当控制变量时,如 xfs.control.reset 指标。要修改指标值,请使用 pmstore 工具。

这个步骤描述了如何使用 pmstore 工具重置 XFS 指标。

先决条件

步骤

  1. 显示指标的值:

    $ pminfo -f xfs.write
    
    xfs.write
        value 325262
  2. 重置所有 XFS 指标:

    # pmstore xfs.control.reset 1
    
    xfs.control.reset old value=0 new value=1

验证步骤

  • 在重置指标后查看信息:

    $ pminfo --fetch xfs.write
    
    xfs.write
        value 0

其他资源

8.4. XFS 的 PCP 指标组

下表描述了 XFS 可用的 PCP 指标组。

表 8.1. XFS 的指标组

指标组

提供的指标

xfs.*

常规 XFS 指标,包括读取和写入操作计数、读取和写入字节计数。另外,索引节点的次数也会刷新、集群集群和集群失败数的计数器。

xfs.allocs.*

xfs.alloc_btree.*

有关文件系统中对象分配的指标范围,其中包括扩展的数量和块创建/自由。分配树查找和比较,以及扩展从 btree 创建和删除记录。

xfs.block_map.*

xfs.bmap_btree.*

指标包括块映射的读/写入和块删除次数,用于插入、删除和查找的扩展列表操作。另外,还可从 blockmap 进行比较、查找、插入和删除操作的操作计数器。

xfs.dir_ops.*

XFS 文件系统的目录操作计数器,用于创建、删除条目,计数为"getdent"操作。

xfs.transactions.*

meta-data 事务的数量的计数器包括同步和异步事务的数量以及空事务的数量。

xfs.inode_ops.*

操作系统在索引节点缓存中查找带有不同结果的 XFS 索引节点的次数计数器。这些计数的缓存命中,缓存未命中等。

xfs.log.*

xfs.log_tail.*

通过 XFS 文件 sytems 写入的日志缓冲区数的计数器包括写入磁盘的块数量。还提供日志清除和固定数量的指标。

XFS.xstrat.*

XFS flush deamon 清空的文件数据的字节数以及缓冲区数量计数器(清空到磁盘上连续和非相邻空间)的计数器。

xfs.attr.*

所有 XFS 文件系统的属性数量、设置、删除和列出操作的数量。

xfs.quota.*

在 XFS 文件系统上,配额操作的指标包括数字配额回收、配额缓存未命中、缓存命中和配额数据回收。

xfs.buffer.*

有关 XFS 缓冲区对象的指标范围。计数器包括请求的缓冲区调用数、成功缓冲区锁定、等待的缓冲区锁定、miss_locks、miss_retries 和 buffer hit(在查找页面时)。

xfs.btree.*

有关 XFS btree 操作的指标。

xfs.control.reset

配置用于重置 XFS 统计数据的指标计数器的配置指标。使用 pmstore 工具切换控制指标。

8.5. 每个设备 PCP 指标组用于 XFS

下表描述了适用于 XFS 的每设备 PCP 指标组。

表 8.2. 每个设备 PCP 指标组用于 XFS

指标组

提供的指标

xfs.perdev.*

常规 XFS 指标,包括读取和写入操作计数、读取和写入字节计数。另外,索引节点的次数也会刷新、集群集群和集群失败数的计数器。

xfs.perdev.allocs.*

xfs.perdev.alloc_btree.*

有关文件系统中对象分配的指标范围,其中包括扩展的数量和块创建/自由。分配树查找和比较,以及扩展从 btree 创建和删除记录。

xfs.perdev.block_map.*

xfs.perdev.bmap_btree.*

指标包括块映射的读/写入和块删除次数,用于插入、删除和查找的扩展列表操作。另外,还可从 blockmap 进行比较、查找、插入和删除操作的操作计数器。

xfs.perdev.dir_ops.*

XFS 文件系统的目录操作计数器,用于创建、删除条目,计数为"getdent"操作。

xfs.perdev.transactions.*

meta-data 事务的数量的计数器包括同步和异步事务的数量以及空事务的数量。

xfs.perdev.inode_ops.*

操作系统在索引节点缓存中查找带有不同结果的 XFS 索引节点的次数计数器。这些计数的缓存命中,缓存未命中等。

xfs.perdev.log.*

xfs.perdev.log_tail.*

通过 XFS filesytems 写入的日志缓冲区数的计数器包括写入磁盘的块数量。还提供日志清除和固定数量的指标。

xfs.perdev.xstrat.*

XFS flush deamon 清空的文件数据的字节数以及缓冲区数量计数器(清空到磁盘上连续和非相邻空间)的计数器。

xfs.perdev.attr.*

所有 XFS 文件系统的属性数量、设置、删除和列出操作的数量。

xfs.perdev.quota.*

在 XFS 文件系统上,配额操作的指标包括数字配额回收、配额缓存未命中、缓存命中和配额数据回收。

xfs.perdev.buffer.*

有关 XFS 缓冲区对象的指标范围。计数器包括请求的缓冲区调用数、成功缓冲区锁定、等待的缓冲区锁定、miss_locks、miss_retries 和 buffer hit(在查找页面时)。

xfs.perdev.btree.*

有关 XFS btree 操作的指标。

第 9 章 设置 PCP 指标的图形表示

使用 pcpgrafanapcp redispcp bpftracepcp vector 的组合根据 Performance Co-Pilot(PCP)收集的实时数据或数据提供图形。

这部分论述了如何设置并访问 PCP 指标的图形表示。

9.1. 使用 pcp-zeroconf 设置 PCP

这个步骤描述了如何在使用 pcp-zeroconf 软件包的系统中设置 PCP。安装 pcp-zeroconf 软件包后,系统会将默认指标集合记录到存档文件中。

步骤

  • 安装 pcp-zeroconf 软件包:

    # dnf install pcp-zeroconf

验证步骤

  • 确保 pmlogger 服务处于活跃状态,并开始归档指标:

    # pcp | grep pmlogger
     pmlogger: primary logger: /var/log/pcp/pmlogger/localhost.localdomain/20200401.00.12

其他资源

9.2. 设置 grafana-server

Grafana 生成可从浏览器访问的图形。grafana-server 是 Grafana 仪表板的后端服务器。默认情况下,它监听所有接口,并提供通过 Web 浏览器访问的 Web 服务。grafana-pcp 插件与后端中的 pmproxy 协议交互。

这个步骤描述了如何设置 grafana-server

先决条件

步骤

  1. 安装以下软件包:

    # dnf install grafana grafana-pcp
  2. 重启并启用以下服务:

    # systemctl restart grafana-server
    # systemctl enable grafana-server
  3. 为到 Grafana 服务的网络流量打开服务器防火墙。

    # firewall-cmd --permanent --add-service=grafana
    success
    
    # firewall-cmd --reload
    success

验证步骤

  • 确定 grafana-server 正在侦听并响应请求:

    # ss -ntlp | grep 3000
    LISTEN  0  128  *:3000  *:*  users:(("grafana-server",pid=19522,fd=7))
  • 确保安装了 grafana-pcp 插件:

    # grafana-cli plugins ls | grep performancecopilot-pcp-app
    
    performancecopilot-pcp-app @ 3.1.0

其他资源

  • pmproxy(1)grafana-server man page

9.3. 访问 Grafana Web UI

这个步骤描述了如何访问 Grafana Web 界面。

使用 Grafana Web 界面,您可以:

  • 添加 PCP Redis、PCP bpftrace 和 PCP 向量数据源
  • 创建仪表板
  • 查看任何有用的指标的概述
  • 在 PCP Redis 中创建警报

先决条件

  1. 配置了 PCP。如需更多信息,请参阅使用 pcp-zeroconf 设置 PCP
  2. grafana-server 被配置。如需更多信息,请参阅设置 grafana-server

步骤

  1. 在客户端系统中,打开浏览器,并使用 http://192.0.2.0:3000 链接通过端口 3000 访问 grafana-server

    192.0.2.0 替换为您的计算机 IP。

  2. 首次登录时,在 Email or usernamePassword 字段中输入 admin

    Grafana 提示设置 新密码 以创建安全帐户。如果要稍后设置,请点击 Skip

  3. 在菜单中,将鼠标悬停在 grafana gear icon Configuration 图标上,然后单击 Plugins
  4. Plugins 选项卡的 Search by name or type 中输入 performance co-pilot,然后点 Performance Co-Pilot (PCP) 插件。
  5. Plugins / Performance Co-Pilot 窗格中,点 Enable
  6. 点 Grafana grafana home page whirl icon 图标。Grafana Home 页会被显示。

    图 9.1. 仪表板主页

    Grafana 主页仪表板
    注意

    屏幕右上角有一个类似的 grafana top corner settings icon 图标,但它控制常规 仪表板设置

  7. 在 Grafana Home 页面中,点 Add your first data source 添加 PCP Redis、PCP bpftrace 和 PCP 向量数据源。有关添加数据源的更多信息,请参阅:

  8. 可选:在菜单中,将鼠标悬停在 admin 配置集 grafana logout option icon 图标上,更改 首选项,包括 编辑配置文件更改密码注销

其他资源

  • grafana-cligrafana-server man page

9.4. 配置 PCP Redis

本节介绍了配置 PCP Redis 数据源。

使用 PCP Redis 数据源:

  • 查看数据存档
  • 使用 pm series 语言查询时间序列
  • 分析多个主机的数据

先决条件

  1. 配置了 PCP。如需更多信息,请参阅使用 pcp-zeroconf 设置 PCP
  2. grafana-server 被配置。如需更多信息,请参阅设置 grafana-server

步骤

  1. 安装 redis 软件包:

    # dnf install redis
  2. 启动并启用以下服务:

    # systemctl start pmproxy redis
    # systemctl enable pmproxy redis
  3. 邮件传输代理(如 sendmailpostfix )已安装并配置。
  4. 确保 grafana.ini 文件中的 allow_loading_unsigned_plugins 参数设置为 PCP Redis 数据库:

    # vi /etc/grafana/grafana.ini
    
    allow_loading_unsigned_plugins = pcp-redis-datasource
  5. 重启 grafana-server

    # systemctl restart grafana-server

验证步骤

  • 确保 pmproxyredis 正常工作:

    # pmseries disk.dev.read
    2eb3e58d8f1e231361fb15cf1aa26fe534b4d9df

    如果没有安装 redis 软件包,这个命令不会返回任何数据。

其他资源

  • pmseries(1) man page

9.5. 在 PCP Redis 数据源中创建面板和警报

在添加了 PCP Redis 数据源后,您可以使用有用的指标概述控制面板,添加查询来视觉化负载图形,并创建可帮助您在系统发生后查看系统问题的警报。

先决条件

  1. PCP Redis 已配置。如需更多信息,请参阅配置 PCP Redis
  2. grafana-server 可以访问。如需更多信息,请参阅 访问 Grafana Web UI

步骤

  1. 登录到 Grafana Web UI。
  2. 在 Grafana Home 页面中,点 Add your first data source
  3. Add data source 窗格中,在 Filter by name or type 文本框中键入 redis,然后单击 PCP Redis
  4. Data Sources / PCP Redis 窗格中,执行以下操作:

    1. URL 字段中添加 http://localhost:44322,然后点 Save & Test
    2. Dashboards tabImportPCP Redis: Host Overview 查看带有任何有用指标概述的仪表板。

      图 9.2. PCP Redis: 主机概述

      PCP redis 主机概述
  5. 添加新面板:

    1. 在菜单中,将鼠标悬停在 grafana plus sign    Create iconDashboardAdd new panel icon 来添加一个面板。
    2. Query 选项卡中,从查询列表中选择 PCP Redis 而不是所选的默认选项,在 A 的文本字段中输入 metric,如 kernel.all.load 以视觉化内核负载图形。
    3. 可选:添加 Panel titleDescription,更新来自 Settings 的选项。
    4. 点击 Save 以应用更改并保存仪表板。添加仪表板名称
    5. 点击 Apply 以应用更改并返回控制面板。

      图 9.3. PCP Redis 查询面板

      PCP redis 查询面板
  6. 创建警报规则:

    1. PCP Redis 查询面板中,点 redis alert icon Alert,然后点 Create Alert
    2. 编辑 Rule 中的 Name, Evaluate queryFor 项,为您的警报指定 Conditions
    3. 点击 Save 以应用更改并保存仪表板。点击 Apply 以应用更改并返回控制面板。

      图 9.4. 在 PCP Redis 面板中创建警报

      PCP redis query 警报面板
    4. 可选:在同一面板中,向下滚动并单击 Delete 图标以删除创建的规则。
    5. 可选:在菜单中点 alerting bell icon Alerting 图标查看具有不同警报状态的创建的警报规则,以编辑警报规则,或者从 Alert Rules 选项卡中暂停现有规则。

      要为创建的警报规则添加通知频道以接收来自 Grafana 的警报通知,请参阅为警报添加通知频道

9.6. 为警报添加通知频道

通过添加通知频道,每当满足警报规则条件且系统需要进一步监控时,可以从 Grafana 接收警报通知。

在从支持的通知程序列表中选择任意一种类型后,您可以收到这些警报,其中包括 DingDing, Discord, Email, Google Hangouts Chat, HipChat, Kafka REST Proxy, LINE, Microsoft Teams, OpsGenie, PagerDuty, Prometheus Alertmanager, Pushover, Sensu, Slack, Telegram, Threema Gateway, VictorOps, 和 webhook

先决条件

  1. grafana-server 可以访问。如需更多信息,请参阅 访问 Grafana Web UI
  2. 已创建一个警报规则。如需更多信息,请参阅在 PCP Redis 数据源中创建面板和警报
  3. 配置 SMTP 并在 grafana/grafana.ini 文件中添加有效的发件人电子邮件地址:

    # vi /etc/grafana/grafana.ini
    
    [smtp]
    enabled = true
    from_address = abc@gmail.com

    使用有效电子邮件地址替换 abc@gmail.com

步骤

  1. 在菜单中,将鼠标悬停在 alerting bell icon Alerting 图标上点击 Notification channelsAdd channel
  2. 在 Add notification 频道详情窗格中执行以下操作:

    1. Name 文本框中输入您的名称
    2. 选择通信类型,如 Email 并输入电子邮件地址。您可以使用 ; 分隔符添加多个电子邮件地址。
    3. 可选:配置可选电子邮件设置通知设置
  3. Save
  4. 在警报规则中选择通知频道:

    1. 在菜单中,将鼠标悬停在 alerting bell icon Alerting 图标上,然后单击 Alert rules
    2. Alert Rules 选项卡中点创建的警报规则。
    3. 通知 选项卡上,从 Send to 选项中选择您的通知频道名称,然后添加警报消息。
    4. 应用

9.7. 在 PCP 组件间设置身份验证

您可以使用 scram-sha-256 身份验证机制来设置身份验证,该机制可通过简单身份验证安全层(SASL)框架获得 PCP 支持的。

步骤

  1. scram-sha-256 身份验证机制安装 sasl 框架:

    # dnf install cyrus-sasl-scram cyrus-sasl-lib
  2. pmcd.conf 文件中指定支持的身份验证机制和用户数据库路径:

    # vi /etc/sasl2/pmcd.conf
    
    mech_list: scram-sha-256
    
    sasldb_path: /etc/pcp/passwd.db
  3. 创建一个新用户:

    # useradd -r metrics

    使用您的用户名替换 metrics

  4. 在用户数据库中添加创建的用户:

    # saslpasswd2 -a pmcd metrics
    
    Password:
    Again (for verification):

    要添加创建的用户,您需要输入 指标 帐户密码。

  5. 设置用户数据库的权限:

    # chown root:pcp /etc/pcp/passwd.db
    # chmod 640 /etc/pcp/passwd.db
  6. 重启 pmcd 服务:

    # systemctl restart pmcd

验证步骤

  • 验证 sasl 配置:

    # pminfo -f -h "pcp://127.0.0.1?username=metrics" disk.dev.read
    Password:
    disk.dev.read
    inst [0 or "sda"] value 19540

其他资源

9.8. 安装 PCP bpftrace

安装 PCP bpftrace 代理以内省系统,并从内核和用户空间追踪点收集指标。

bpftrace 代理使用 bpftrace 脚本来收集指标。bpftrace 脚本使用增强的 Berkeley Packet Filter(eBPF)。

这个步骤描述了如何安装 pcp bpftrace

先决条件

  1. 配置了 PCP。如需更多信息,请参阅使用 pcp-zeroconf 设置 PCP
  2. grafana-server 被配置。如需更多信息,请参阅设置 grafana-server
  3. scram-sha-256 身份验证机制被配置。如需更多信息,请参阅在 PCP 组件之间设置身份验证

步骤

  1. 安装 pcp-pmda-bpftrace 软件包:

    # dnf install pcp-pmda-bpftrace
  2. 编辑 bpftrace.conf 文件并添加您在 {setting-up-authentication-b between-pcp-components} 中创建的用户:

    # vi /var/lib/pcp/pmdas/bpftrace/bpftrace.conf
    
    [dynamic_scripts]
    enabled = true
    auth_enabled = true
    allowed_users = root,metrics

    使用您的用户名替换 metrics

  3. 安装 bpftrace PMDA:

    # cd /var/lib/pcp/pmdas/bpftrace/
    # ./Install
    Updating the Performance Metrics Name Space (PMNS) ...
    Terminate PMDA if already installed ...
    Updating the PMCD control file, and notifying PMCD ...
    Check bpftrace metrics have appeared ... 7 metrics and 6 values

    pmda-bpftrace 现已安装,只能在验证您的用户后使用。如需更多信息,请参阅 查看 PCP bpftrace System Analysis 仪表板

其他资源

  • pmdabpftrace(1)bpftrace man page

9.9. 查看 PCP bpftrace System Analysis 仪表板

使用 PCP bpftrace 数据源,您可以从 pmlogger 或 archive 中不以普通数据提供的源访问实时数据

在 PCP bpftrace 数据源中,您可以使用有用的指标概述查看仪表板。

先决条件

  1. 已安装 PCP bpftrace。如需更多信息,请参阅安装 PCP bpftrace
  2. grafana-server 可以访问。如需更多信息,请参阅 访问 Grafana Web UI

步骤

  1. 登录到 Grafana Web UI。
  2. 在 Grafana Home 页面中,点 Add your first data source
  3. Add data source 窗格中,在 Filter by name or type 文本框中键入 bpftrace,然后点 PCP bpftrace
  4. Data Sources / PCP bpftrace 窗格中,执行以下操作:

    1. URL 字段中添加 http://localhost:44322
    2. 切换 Basic Auth 选项,并在 UserPassword 字段中添加创建的用户凭证。
    3. Save and Test

      图 9.5. 在数据源中添加 PCP bpftrace

      bpftrace auth
    4. Dashboards tabImportPCP bpftrace: System Analysis 查看包含任何有用的指标概述的仪表板。

      图 9.6. PCP bpftrace: 系统分析

      pcp bpftrace bpftrace 系统分析

9.10. 安装 PCP 向量

这个步骤描述了如何安装 pcp 向量

先决条件

  1. 配置了 PCP。如需更多信息,请参阅使用 pcp-zeroconf 设置 PCP
  2. grafana-server 被配置。如需更多信息,请参阅设置 grafana-server

步骤

  1. 安装 pcp-pmda-bcc 软件包:

    # dnf install pcp-pmda-bcc
  2. 安装 bcc PMDA:

    # cd /var/lib/pcp/pmdas/bcc
    # ./Install
    [Wed Apr  1 00:27:48] pmdabcc(22341) Info: Initializing, currently in 'notready' state.
    [Wed Apr  1 00:27:48] pmdabcc(22341) Info: Enabled modules:
    [Wed Apr  1 00:27:48] pmdabcc(22341) Info: ['biolatency', 'sysfork',
    [...]
    Updating the Performance Metrics Name Space (PMNS) ...
    Terminate PMDA if already installed ...
    Updating the PMCD control file, and notifying PMCD ...
    Check bcc metrics have appeared ... 1 warnings, 1 metrics and 0 values

其他资源

  • pmdabcc(1) man page

9.11. 查看 PCP 向量清单

PCP 向量数据源显示实时指标并使用 pcp 指标。它分析单个主机的数据。

在添加了 PCP 向量数据源后,您可以使用有用的指标概述来查看仪表板,并查看清单中的相关故障排除或引用链接。

先决条件

  1. 已安装 PCP 向量。如需更多信息,请参阅安装 PCP 向量
  2. grafana-server 可以访问。如需更多信息,请参阅 访问 Grafana Web UI

步骤

  1. 登录到 Grafana Web UI。
  2. 在 Grafana Home 页面中,点 Add your first data source
  3. Add data source 窗格中,在 Filter by name or type 文本框中键入 vector,然后单击 PCP 向量
  4. Data Sources / PCP Vector 窗格中,执行以下操作:

    1. URL 字段中添加 http://localhost:44322,然后点 Save & Test
    2. Dashboards tabImportPCP Vector: Host Overview 查看带有任何有用指标概述的仪表板。

      图 9.7. PCP Vector:主机概述

      PCP 向量主机概述
  5. 在菜单中,将鼠标悬停在 pcp plugin in grafana Performance Co-Pilot 插件上,然后单击 PCP Vector Checklist

    在 PCP 检查列表中,点 pcp vector checklist troubleshooting doc 帮助或 pcp vector checklist warning 警告图标查看相关的故障排除或参考链接。

    图 9.8. Performance Co-Pilot / PCP 向量清单

    PCP 向量清单

9.12. Grafana 问题故障排除

本节论述了如何对 Grafana 问题进行故障排除,如 Grafana 不会显示任何数据,仪表板是黑色或类似的问题。

步骤

  • 通过执行以下命令,验证 pmlogger 服务是否已启动并正在运行:

    $ systemctl status pmlogger
  • 运行以下命令,验证是否在磁盘中创建或修改了文件:

    $ ls /var/log/pcp/pmlogger/$(hostname)/ -rlt
    total 4024
    -rw-r--r--. 1 pcp pcp   45996 Oct 13  2019 20191013.20.07.meta.xz
    -rw-r--r--. 1 pcp pcp     412 Oct 13  2019 20191013.20.07.index
    -rw-r--r--. 1 pcp pcp   32188 Oct 13  2019 20191013.20.07.0.xz
    -rw-r--r--. 1 pcp pcp   44756 Oct 13  2019 20191013.20.30-00.meta.xz
    [..]
  • 运行以下命令验证 pmproxy 服务是否正在运行:

    $ systemctl status pmproxy
  • 通过查看 /var/log/pcp/pmproxy/pmproxy.log 文件确定其包括一些内容来验证 pmproxy 是否正在运行、时间序列支持是否被启用以及到 Redis 的连接:

    pmproxy(1716) Info: Redis slots, command keys, schema version setup

    在这里,1716 是 pmproxy 的 PID,对于每次调用 pmproxy 时,将有所不同。

  • 运行以下命令,验证 Redis 数据库是否包含任何密钥:

    $ redis-cli dbsize
    (integer) 34837
  • 通过执行以下命令,验证 Redis 数据库和 pmproxy 中的任何 PCP 指标是否能够访问它们:

    $ pmseries disk.dev.read
    2eb3e58d8f1e231361fb15cf1aa26fe534b4d9df
    
    $ pmseries "disk.dev.read[count:10]"
    2eb3e58d8f1e231361fb15cf1aa26fe534b4d9df
        [Mon Jul 26 12:21:10.085468000 2021] 117971 70e83e88d4e1857a3a31605c6d1333755f2dd17c
        [Mon Jul 26 12:21:00.087401000 2021] 117758 70e83e88d4e1857a3a31605c6d1333755f2dd17c
        [Mon Jul 26 12:20:50.085738000 2021] 116688 70e83e88d4e1857a3a31605c6d1333755f2dd17c
    [...]
    $ redis-cli --scan --pattern "*$(pmseries 'disk.dev.read')"
    
    pcp:metric.name:series:2eb3e58d8f1e231361fb15cf1aa26fe534b4d9df
    pcp:values:series:2eb3e58d8f1e231361fb15cf1aa26fe534b4d9df
    pcp:desc:series:2eb3e58d8f1e231361fb15cf1aa26fe534b4d9df
    pcp:labelvalue:series:2eb3e58d8f1e231361fb15cf1aa26fe534b4d9df
    pcp:instances:series:2eb3e58d8f1e231361fb15cf1aa26fe534b4d9df
    pcp:labelflags:series:2eb3e58d8f1e231361fb15cf1aa26fe534b4d9df
  • 运行以下命令,验证 Grafana 日志中是否有错误:

    $ journalctl -e -u grafana-server
    -- Logs begin at Mon 2021-07-26 11:55:10 IST, end at Mon 2021-07-26 12:30:15 IST. --
    Jul 26 11:55:17 localhost.localdomain systemd[1]: Starting Grafana instance...
    Jul 26 11:55:17 localhost.localdomain grafana-server[1171]: t=2021-07-26T11:55:17+0530 lvl=info msg="Starting Grafana" logger=server version=7.3.6 c>
    Jul 26 11:55:17 localhost.localdomain grafana-server[1171]: t=2021-07-26T11:55:17+0530 lvl=info msg="Config loaded from" logger=settings file=/usr/s>
    Jul 26 11:55:17 localhost.localdomain grafana-server[1171]: t=2021-07-26T11:55:17+0530 lvl=info msg="Config loaded from" logger=settings file=/etc/g>
    [...]

第 10 章 使用 Web 控制台优化系统性能

了解如何在 RHEL web 控制台中设置性能配置集,以便为所选任务优化系统性能。

10.1. Web 控制台中的性能调优选项

Red Hat Enterprise Linux 9 提供几个根据以下任务优化系统的性能配置集:

  • 使用桌面的系统
  • 吞吐性能
  • 延迟性能
  • 网络性能
  • 低电源消耗
  • 虚拟机

tuned 服务优化系统选项以匹配所选配置集。

在 Web 控制台中,您可以设置系统使用的哪个性能配置集。

其他资源

10.2. 在 Web 控制台中设置性能配置集

此流程使用 Web 控制台优化所选任务的系统性能。

先决条件

步骤

  1. 登录到 RHEL web 控制台。详情请参阅 Web 控制台的日志记录
  2. Overview
  3. Performance Profile 字段中点击当前的性能配置集。

    cockpit performance profile pf4

  4. 如果需要,在 Change Performance Profile 对话框中修改配置集。
  5. Change Profile

    cockpit performance profile change pf4

验证步骤

  • 概述标签现在显示所选的性能配置集。

10.3. 使用 Web 控制台监控性能

Red Hat 的 Web 控制台使用 Utilization Saturation and Errors(USE)方法进行故障排除。新的性能指标页面带有最新数据,您可以对数据进行组织化的历史视图。

在这里,您可以查看资源利用率和饱和度的事件、错误和图形表示。

先决条件

  1. 确保 Web 控制台已安装并可以访问。详情请参阅安装 Web 控制台
  2. 安装 cockpit-pcp 软件包,它可收集性能指标:

    # dnf install cockpit-pcp

步骤

  1. 登录到 RHEL 9 web 控制台。详情请参阅 Web 控制台的日志记录
  2. Overview

    Web console Overview

  3. View details and history 查看性能指标

    View details and history

    Performance metrics in Web console

第 11 章 设置磁盘调度程序

磁盘调度程序负责对提交至存储设备的 I/O 请求进行排序。

您可以通过几种不同方式配置调度程序:

注意

在 Red Hat Enterprise Linux 9 中,块设备只支持多队列调度。这可让块层性能针对使用快速固态驱动器(SSD)和多核系统进行正常扩展。

Red Hat Enterprise Linux 7 和更早的版本中的传统、单一队列调度程序已被删除。

11.1. 可用磁盘调度程序

Red Hat Enterprise Linux 9 中支持以下多队列磁盘调度程序:

none
实施第一出(FIFO)调度算法。它将请求合并到通用块层,并通过一个简单的最近缓存来合并。
mq-deadline

尝试为请求到达调度程序的时间点提供有保证的延迟。

mq-deadline 调度程序将排队的 I/O 请求分为读取或写入批处理,然后调度它们以增加逻辑块寻址(LBA)顺序执行。默认情况下,读取批处理的优先级高于写入批处理,因为应用程序更有可能阻止读 I/O 操作。在 mq-deadline 批处理后,它会检查写操作在处理器时间耗尽的时间,并根据情况调度下一个读取或写入批处理。

这个调度程序适用于大多数用例,特别是那些写入操作是异步的。

bfq

以桌面系统和互动任务为目标。

bfq 调度程序可确保任何单个应用程序都不会使用所有带宽。实际上,存储设备总是像它们处于闲置时一样进行响应。在其默认配置中,bfq 注重提供最低延迟,而不是达到最大吞吐量。

BFQ 基于 cfq 代码。它不会为每个进程授予固定时间片段,但会为进程分配一个扇区数衡量的 budget(预算)

在复制大型文件时,这个调度程序不适用。

kyber

调度程序调整自身,以通过计算提交到块 I/O 层的每个 I/O 请求的延迟来实现延迟目标。您可以为读取配置目标延迟,如 cache-misses 和同步写入请求。

此调度程序适用于快速设备,如 NVMe、SSD 或其他低延迟设备。

11.2. 不同用例的磁盘调度程序

根据系统执行的任务,建议在进行任何分析和调优任务前,将以下磁盘调度程序作为基准:

表 11.1. 适用于不同用例的磁盘调度程序

使用案例磁盘调度程序

传统的使用 SCSI 接口的 HDD

使用 mq-deadlinebfq

高性能 SSD 或具有快速存储的 CPU 绑定系统

使用 none,特别是在运行企业级应用程序时。或者,使用 kyber

桌面或互动任务

使用 bfq

虚拟客户端

使用 mq-deadline。使用可以多队列的主机总线适配器(HBA)驱动程序,使用 none

11.3. 默认磁盘调度程序

块设备使用默认的磁盘调度程序,除非您指定了另一个调度程序。

注意

具体来说,对于 非易失性内存 Express(NVMe) 块设备,默认调度程序为 none,红帽建议不更改此设备。

内核会根据设备类型选择默认磁盘调度程序。自动选择调度程序通常是最佳设置。如果您需要不同的调度程序,红帽建议使用 udev 规则或 TuneD 应用程序来配置它。匹配所选设备并只为那些设备切换调度程序。

11.4. 确定活跃磁盘调度程序

此流程决定了哪个磁盘调度程序目前在给定块设备中活跃。

步骤

  • 读取 /sys/block/设备/queue/scheduler 文件的内容:

    # cat /sys/block/device/queue/scheduler
    
    [mq-deadline] kyber bfq none

    在文件名中,将 device 替换为块设备名称,如 sdc

    活跃的调度程序列在方括号中([ ])。

11.5. 使用 TuneD 设置磁盘调度程序

此流程创建并启用 TuneD 配置集,该配置集为所选块设备设置给定磁盘调度程序。这个设置会在系统重启后保留。

在以下命令和配置中替换:

  • 带有块设备名称的 device,如 sdf
  • 带有您要为该设备设置的磁盘调度程序的 selected-scheduler,例如 bfq

先决条件

流程

  1. 可选:选择一个您的配置集将要基于的现有 Tuned 配置集。有关可用配置集列表,请参阅 RHEL 提供的 TuneD 配置集

    要查看哪个配置集当前处于活跃状态,请使用:

    $ tuned-adm active
  2. 创建一个新目录来保存 TuneD 配置集:

    # mkdir /etc/tuned/my-profile
  3. 查找所选块设备系统唯一标识符:

    $ udevadm info --query=property --name=/dev/device | grep -E '(WWN|SERIAL)'
    
    ID_WWN=0x5002538d00000000_
    ID_SERIAL=Generic-_SD_MMC_20120501030900000-0:0
    ID_SERIAL_SHORT=20120501030900000
    注意

    本例中的命令将返回以 World Wide Name(WWN)或与指定块设备关联的序列号的所有值。虽然最好使用 WWN,但给定设备始终不能使用 WWN,但 example 命令返回的任何值都可以接受用作 device system unique ID

  4. 创建 /etc/tuned/my-profile/tuned.conf 配置文件。在该文件中设置以下选项:

    1. 可选:包含现有配置集:

      [main]
      include=existing-profile
    2. 为与 WWN 标识符匹配的设备设置所选磁盘调度程序:

      [disk]
      devices_udev_regex=IDNAME=device system unique id
      elevator=selected-scheduler

      在这里:

      • 使用要使用的标识符的名称替换 IDNAME (如 ID_WWN)。
      • device system unique id 替换为所选标识符的值(如 0x5002538d00000000)。

        要匹配 devices_udev_regex 选项中的多个设备,将标识符放在括号中,并使用垂直栏来分离它们:

        devices_udev_regex=(ID_WWN=0x5002538d00000000)|(ID_WWN=0x1234567800000000)
  5. 启用您的配置集:

    # tuned-adm profile my-profile

验证步骤

  1. 验证 TuneD 配置集是否活跃并应用:

    $ tuned-adm active
    
    Current active profile: my-profile
    $ tuned-adm verify
    
    Verification succeeded, current system settings match the preset profile.
    See tuned log file ('/var/log/tuned/tuned.log') for details.
  2. 读取 /sys/block/设备/queue/scheduler 文件的内容:

    # cat /sys/block/device/queue/scheduler
    
    [mq-deadline] kyber bfq none

    在文件名中,将 device 替换为块设备名称,如 sdc

    活跃的调度程序列在方括号中([])。

其他资源

11.6. 使用 udev 规则设置磁盘调度程序

此流程使用 udev 规则为特定块设备设置给定磁盘调度程序。这个设置会在系统重启后保留。

在以下命令和配置中替换:

  • 带有块设备名称的 device,如 sdf
  • 带有您要为该设备设置的磁盘调度程序的 selected-scheduler,例如 bfq

步骤

  1. 查找块设备系统唯一标识符:

    $ udevadm info --name=/dev/device | grep -E '(WWN|SERIAL)'
    E: ID_WWN=0x5002538d00000000
    E: ID_SERIAL=Generic-_SD_MMC_20120501030900000-0:0
    E: ID_SERIAL_SHORT=20120501030900000
    注意

    本例中的命令将返回以 World Wide Name(WWN)或与指定块设备关联的序列号的所有值。虽然最好使用 WWN,但给定设备始终不能使用 WWN,但 example 命令返回的任何值都可以接受用作 device system unique ID

  2. 配置 udev 规则。使用以下内容创建 /etc/udev/rules.d/99-scheduler.rules 文件:

    ACTION=="add|change", SUBSYSTEM=="block", ENV{IDNAME}=="device system unique id", ATTR{queue/scheduler}="selected-scheduler"

    在这里:

    • 使用要使用的标识符的名称替换 IDNAME (如 ID_WWN)。
    • device system unique id 替换为所选标识符的值(如 0x5002538d00000000)。
  3. 重新载入 udev 规则:

    # udevadm control --reload-rules
  4. 应用调度程序配置:

    # udevadm trigger --type=devices --action=change

验证步骤

  • 验证活跃的调度程序:

    # cat /sys/block/device/queue/scheduler

11.7. 为特定磁盘临时设置调度程序

此流程为特定块设备设置给定磁盘调度程序。系统重启后该设置不会保留。

步骤

  • 将所选调度程序的名称写入 /sys/block/device/queue/scheduler 文件:

    # echo selected-scheduler > /sys/block/device/queue/scheduler

    在文件名中,将 device 替换为块设备名称,如 sdc

验证步骤

  • 验证调度程序是否在该设备中活跃:

    # cat /sys/block/device/queue/scheduler

第 12 章 调整 Samba 服务器的性能

本章描述了在某些情况下,什么设置可以提高 Samba 的性能,以及哪些设置可能会对性能造成负面影响。

本节的部分内容来自在 Samba Wiki 中发布的 Performance Tuning 文档。许可证: CC BY 4.0。作者和贡献者:请参阅 Wiki 页面上的历史选项卡。

先决条件

  • Samba 被设置为文件或打印服务器

12.1. 设置 SMB 协议版本

每个新的 SMB 版本都添加了特性并提高了协议的性能。最新的 Windows 和 Windows 服务器操作系统始终支持最新的协议版本。如果 Samba 也使用最新的协议版本,那么连接到 Samba 的 Windows 客户端将从性能改进中受益。在 Samba 中,server max protocol的默认值被设置为最新支持的稳定的 SMB 协议版本。

注意

要始终拥有最新的稳定的 SMB 协议版本,请不要设置 server max protocol 参数。如果手动设置参数,则需要修改 SMB 协议的每个新版本的设置,以便启用最新的协议版本。

以下流程解释了如何对 server max protocol 参数使用默认值。

步骤

  1. /etc/samba/smb.conf 文件的 [global] 部分中删除 server max protocol 参数。
  2. 重新载入 Samba 配置

    # smbcontrol all reload-config

12.2. 与包含大量文件的目录调整共享

Linux 支持区分大小写的文件名。因此,在搜索或访问文件时,Samba需要针对大小写文件名来扫描目录。您可以将共享配置为只以小写或大写来创建新文件,这可以提高性能。

先决条件

  • Samba 配置为文件服务器

步骤

  1. 将共享上的所有文件重命名为小写。

    注意

    使用这个过程中的设置,名称不为小写的文件将不再显示。

  2. 在共享部分中设置以下参数:

    case sensitive = true
    default case = lower
    preserve case = no
    short preserve case = no

    有关参数的详情,请查看 smb.conf(5) 手册页 中的描述。

  3. 验证/etc/samba/smb.conf文件:

    # testparm
  4. 重新载入 Samba 配置:

    # smbcontrol all reload-config

应用了这些设置后,此共享上所有新创建的文件的名称都使用小写。由于这些设置,Samba 不再需要针对大小写来扫描目录,这样可以提高性能。

12.3. 可能会对性能造成负面影响的设置

默认情况下,Red Hat Enterprise Linux 中的内核会根据高网络性能进行了微调。例如,内核对缓冲区大小使用自动轮询机制。在 /etc/samba/smb.conf 文件中设置 socket options 参数会覆盖这些内核设置。因此,设置此参数会在大多数情况下降低 Samba 网络性能。

要使用内核的优化的设置,请从 /etc/samba/smb.conf 中的 [global] 部分删除 socket options 参数。

第 13 章 优化虚拟机性能

与主机相比,虚拟机的性能总会有所降低。以下小节解释了这个冲突的原因,并提供了有关如何在 RHEL 9 中最小化虚拟化性能影响的说明,以便您的硬件基础架构资源可以尽可能高效地使用。

13.1. 影响虚拟机性能的因素

虚拟机作为用户空间进程在主机上运行。因此管理程序需要转换主机的系统资源,以便虚拟机可使用它们。因此,部分资源会被转换消耗,因此虚拟机无法获得与主机相同的性能效率。

虚拟化对系统性能的影响

体虚拟机性能损失的原因包括:

  • 虚拟 CPU(vCPU)是主机上的线,,由 Linux 调度程序处理。
  • VM 不会自动继承主机内核的优化功能,比如 NUMA 或巨页。
  • 主机的磁盘和网络 I/O 设置可能会对虚拟机有显著的性能影响。
  • 网络流量通常通过基于软件的网桥到达虚拟机。
  • 根据主机设备及其型号,特定硬件的模拟可能会产生大量的开销。

虚拟化对虚拟机性能影响的严重程度受到各种因素的影响,具体包括:

  • 并行运行的虚拟机数量。
  • 每个虚拟机使用的虚拟设备数量。
  • 虚拟机使用的设备类型。

降低虚拟机性能损失

RHEL 9 提供了很多功能,可用于降低虚拟化的负面影响。值得注意的是:

重要

调整虚拟机性能会对其他虚拟化功能造成负面影响。例如,它可以使迁移修改过的虚拟机更为困难。

13.2. 使用 tuned 优化虚拟机性能

tuned 工具是一种调优配置文件交付机制,能够让 RHEL 适应某些工作负载特性,如 CPU 密集型任务或存储网络吞吐量响应的需求。它提供很多预先配置的调优配置文件,以便在多个特定用例中增强性能并降低功耗。您可以编辑这些配置集,或创建新配置集来创建适合您的环境的性能解决方案,包括虚拟环境。

要为虚拟化优化 RHEL 9,请使用以下配置集:

  • 对于 RHEL 9 虚拟机,请使用 virtual-guest 配置集。它基于通常适用的 throughput-performance 配置集,但也会降低虚拟内存的交换性。
  • 对于 RHEL 9 虚拟化主机,请使用 virtual-host 配置集。这可提高脏内存页面的主动回写,这有助于主机性能。

先决条件

步骤

启用特定的 tuned 配置文件:

  1. 列出可用的 tuned 配置文件。

    # tuned-adm list
    
    Available profiles:
    - balanced             - General non-specialized tuned profile
    - desktop              - Optimize for the desktop use-case
    [...]
    - virtual-guest        - Optimize for running inside a virtual guest
    - virtual-host         - Optimize for running KVM guests
    Current active profile: balanced
  2. 可选: 创建一个新的 tuned 配置文件或编辑现有的 tuned 配置文件。

    如需更多信息,请参阅自定义 tuned 配置集

  3. 激活 tuned 配置文件。

    # tuned-adm profile selected-profile
    • 要优化虚拟化主机,请使用 virtual-host 配置集。

      # tuned-adm profile virtual-host
    • 在 RHEL 虚拟机操作系统中,使用 virtual-guest 配置集。

      # tuned-adm profile virtual-guest

13.3. 优化 libvirt 守护进程

libvirt 虚拟化套件作为 RHEL hypervisor 的管理层,libvirt 配置对您的虚拟化主机有很大影响。值得注意的是,RHEL 9 包含两种不同类型的 libvirt 守护进程,即单体或模块化,您使用的守护进程类型会影响您可以配置单独的虚拟化驱动程序。

13.3.1. libvirt 守护进程的类型

RHEL 9 支持以下 libvirt 守护进程类型:

单体 libvirt

传统的 libvirt 守护进程 libvirtd,使用单一配置文件 - /etc/libvirt/libvirtd.conf 控制各种虚拟化驱动程序。

因此,libvirtd 允许使用集中的虚拟机监控程序配置,但可能会导致对系统资源的使用效率低。因此,libvirtd 在以后的 RHEL 主发行版本中将不被支持。

但是,如果您从 RHEL 8 更新至 RHEL 9,您的主机仍然默认使用 libvirtd

模块 libvirt

RHEL 9 中新引入的模块 libvirt 为各个虚拟化驱动程序提供一个特定的守护进程。其中包括:

  • virtqemud - hypervisor 管理的主要守护进程
  • virtinterfaced - 用于主机 NIC 管理的辅助守护进程
  • virtnetworkd - 用于虚拟网络管理的辅助守护进程
  • virtnodedevd - 主机物理设备管理的辅助守护进程
  • virtnwfilterd - 主机防火墙管理的辅助守护进程
  • virtsecretd - 用于主机 secret 管理的辅助守护进程
  • virtstoraged - 用于存储管理的辅助守护进程

每个守护进程都有单独的配置文件 - 例如 /etc/libvirt/virtqemud.conf。因此,模块化的 libvirt 守护进程可以为调优 libvirt 资源管理提供更好的选项。

如果您执行了全新的 RHEL 9 安装,则会默认配置模块化的 libvirt

后续步骤

13.3.2. 启用模块化 libvirt 守护进程

在 RHEL 9 中,libvirt 库使用 modular 守护进程来处理您主机上的单个虚拟化驱动程序集。例如,virtqemud 守护进程处理 QEMU 驱动程序。

如果您执行了 RHEL 9 主机的全新安装,您的虚拟机监控程序默认使用模块化 libvirt 守护进程。但是,如果您将主机从 RHEL 8 升级到 RHEL 9,您的管理程序将使用单体 libvirtd 守护进程,这是 RHEL 8 中的默认设置。

如果出现这种情况,红帽建议改为启用模块化 libvirt 守护进程,因为它们为微调 libvirt 资源管理提供了更好的选项。另外,libvirtd 在以后的 RHEL 主发行版本中将不被支持。

先决条件

  • 您的管理程序使用单体的 libvirtd 服务。要了解这一点是否如此:

    # systemctl is-active libvirtd.service
    active

    如果这个命令显示 active,则代表在使用 libvirtd

  • 您的虚拟机已关闭。

步骤

  1. 停止 libvirtd 及其套接字。

    # systemctl stop libvirtd.service
    # systemctl stop libvirtd{,-ro,-admin,-tcp,-tls}.socket
  2. 禁用 libvirtd 以防止它在引导时启动。

    $ systemctl disable libvirtd.service
    $ systemctl disable libvirtd{,-ro,-admin,-tcp,-tls}.socket
  3. 启用模块 libvirt 守护进程。

    # for drv in qemu interface network nodedev nwfilter secret storage; do systemctl unmask virt${drv}d.service; systemctl unmask virt${drv}d{,-ro,-admin}.socket; systemctl enable virt${drv}d.service; systemctl enable virt${drv}d{,-ro,-admin}.socket; done
  4. 启动模块守护进程的套接字。

    # for drv in qemu network nodedev nwfilter secret storage; do systemctl start virt${drv}d{,-ro,-admin}.socket; done
  5. 可选: 如果您需要从远程主机连接到主机,请启用并启动虚拟化代理守护进程。

    # systemctl unmask virtproxyd.service
    # systemctl unmask virtproxyd{,-ro,-admin,-tls}.socket
    # systemctl enable virtproxyd.service
    # systemctl enable virtproxyd{,-ro,-admin,-tls}.socket
    # systemctl start virtproxyd{,-ro,-admin,-tls}.socket

验证

  1. 激活已启用的虚拟化守护进程。

    # virsh uri
    qemu:///system
  2. 确保您的主机使用 virtqemud 模块守护进程。

    # systemctl is-active virtqemud.service
    active

    如果这个命令显示 active,则代表您成功启用了模块 libvirt 守护进程。

13.4. 配置虚拟机内存

要提高虚拟机(VM)的性能,您可以将额外的主机 RAM 分配给虚拟机。类似地,您可以减少分配给虚拟机的内存量,从而使主机内存可以分配给其他虚拟机或任务。

要执行这些操作,您可以使用 Web 控制台命令行界面

13.4.1. 使用 web 控制台添加和删除虚拟机内存

要提高虚拟机(VM)的性能或释放它使用的主机资源,您可以使用 Web 控制台来调整分配给虚拟机的内存量。

先决条件

  • 客户端操作系统正在运行内存 balloon 驱动程序。请执行以下命令校验:

    1. 确保虚拟机的配置包含 memballoon 设备:

      # virsh dumpxml testguest | grep memballoon
      <memballoon model='virtio'>
          </memballoon>

      如果此命令显示任何输出,并且型号未设置为 none,则存在 memballoon 设备。

    2. 确保 balloon 驱动程序在客户机操作系统中运行。

      • 在 Windows 客户机中,驱动程序作为 virtio-win 驱动程序软件包的一部分安装。具体步骤请查看 为 Windows 虚拟机安装半虚拟化 KVM 驱动程序
      • 在 Linux 客户机中,通常默认包含驱动程序,并在存在 memballoon 设备时激活。
  • Web 控制台 VM 插件 已安装在您的系统上

步骤

  1. 可选:包含有关虚拟机最大内存和当前使用的内存的信息。这将作为您更改的基准,并进行验证。

    # virsh dominfo testguest
    Max memory:     2097152 KiB
    Used memory:    2097152 KiB
  2. Virtual Machines 界面中,点击您要查看其信息的虚拟机。

    此时将打开一个新页面,其中包含关于所选虚拟机基本信息的概述部分,以及用于访问虚拟机的图形界面的控制台部分。

  3. 单击概述窗格中 Memory 行旁边的 edit

    此时将显示 Memory Adjustment 对话框。

    显示虚拟机内存调整对话框的图片。
  4. 为所选虚拟机配置虚拟 CPU。

    • 最大分配 - 设置虚拟机可用于其进程的最大主机内存量。您可以在创建虚拟机时指定最大内存,或可以在以后增大。您可以将内存指定为 MiB 或 GiB 的倍数。

      只有在关闭虚拟机上才能调整最大内存分配。

    • 当前分配 - 设置分配给虚拟机的实际内存量。这个值可以小于最大分配量,但不能超过它。您可以调整值,来控制虚拟机的进程可使用的内存。您可以将内存指定为 MiB 或 GiB 的倍数。

      如果没有指定这个值,则默认分配是 Maximum allocation 值。

  5. Save

    调整了虚拟机的内存分配。

13.4.2. 使用命令行界面添加和删除虚拟机内存

若要提高虚拟机(VM)的性能或释放其使用的主机资源,您可以使用 CLI 来调整分配给虚拟机的内存量。

先决条件

  • 客户端操作系统正在运行内存 balloon 驱动程序。请执行以下命令校验:

    1. 确保虚拟机的配置包含 memballoon 设备:

      # virsh dumpxml testguest | grep memballoon
      <memballoon model='virtio'>
          </memballoon>

      如果此命令显示任何输出,并且型号未设置为 none,则存在 memballoon 设备。

    2. 确定 ballon 驱动程序正在客户端操作系统中运行。

      • 在 Windows 客户机中,驱动程序作为 virtio-win 驱动程序软件包的一部分安装。具体步骤请查看 为 Windows 虚拟机安装半虚拟化 KVM 驱动程序
      • 在 Linux 客户机中,通常默认包含驱动程序,并在存在 memballoon 设备时激活。

步骤

  1. 可选:包含有关虚拟机最大内存和当前使用的内存的信息。这将作为您更改的基准,并进行验证。

    # virsh dominfo testguest
    Max memory:     2097152 KiB
    Used memory:    2097152 KiB
  2. 调整分配给虚拟机的最大内存。增加这个值可以提高虚拟机的性能风险,降低这个值会降低虚拟机在主机上的性能占用空间。请注意,此更改只能在关闭的虚拟机上执行,因此调整正在运行的虚拟机需要重新启动才能生效。

    例如,将 testguest 虚拟机可以使用的最大内存更改为 4096 MiB:

    # virt-xml testguest --edit --memory memory=4096,currentMemory=4096
    Domain 'testguest' defined successfully.
    Changes will take effect after the domain is fully powered off.

    要增加正在运行的虚拟机的最大内存,您可以将内存设备附加到虚拟机。这也被称为内存热插拔。详情请查看 将设备附加到虚拟机

    警告

    不支持从正在运行的虚拟机中删除内存设备(也称为内存热插拔),因此红帽强烈不鼓励这样做。

  3. 可选: 您还可以调整虚拟机当前使用的内存,最多不超过最大分配数。这调整了虚拟机在主机上的内存负载,直到下一次重启为止,而不需要更改最大的虚拟机分配。

    # virsh setmem testguest --current 2048

验证

  1. 确认虚拟机使用的内存已更新:

    # virsh dominfo testguest
    Max memory:     4194304 KiB
    Used memory:    2097152 KiB
  2. 可选:如果您调整了当前虚拟机内存,您可以获取虚拟机的内存 balloon 统计,以评估它如何有效地控制其内存使用量。

     # virsh domstats --balloon testguest
    Domain: 'testguest'
      balloon.current=365624
      balloon.maximum=4194304
      balloon.swap_in=0
      balloon.swap_out=0
      balloon.major_fault=306
      balloon.minor_fault=156117
      balloon.unused=3834448
      balloon.available=4035008
      balloon.usable=3746340
      balloon.last-update=1587971682
      balloon.disk_caches=75444
      balloon.hugetlb_pgalloc=0
      balloon.hugetlb_pgfail=0
      balloon.rss=1005456

13.4.3. 其他资源

13.5. 优化虚拟机 I/O 性能

虚拟机(VM)的输入和输出(I/O)能力可能会显著限制虚拟机的整体效率。要解决这个问题,您可以通过配置块 I/O 参数来优化虚拟机的 I/O。

13.5.1. 在虚拟机中调整块 I/O

当一个或多个虚拟机正在使用多个块设备时,可能需要通过修改虚拟设备的 I/O 优先级来调整虚拟设备的 I/O 权重

增加设备的 I/O 权重会增加设备的 I/O 带宽的优先级,从而为它提供更多主机资源。同样的,降低设备的权重可使其消耗较少的主机资源。

注意

每个设备的 weight 值必须在 1001000 之间。或者,该值可以是 0,它会从每个设备列表中删除该设备。

步骤

显示和设置虚拟机的块 I/O 参数:

  1. 显示虚拟机当前的 <blkio> 参数:

    # virsh dumpxml VM-name

    <domain>
      [...]
      <blkiotune>
        <weight>800</weight>
        <device>
          <path>/dev/sda</path>
          <weight>1000</weight>
        </device>
        <device>
          <path>/dev/sdb</path>
          <weight>500</weight>
        </device>
      </blkiotune>
      [...]
    </domain>
  2. 编辑指定设备的 I/O 加权:

    # virsh blkiotune VM-name --device-weights device, I/O-weight

    例如:以下将 liftrul 虚拟机中的 /dev/sda 设备的权重改为 500。

    # virsh blkiotune liftbrul --device-weights /dev/sda, 500

13.5.2. 虚拟机中的磁盘 I/O 节流

当多个虚拟机同时运行时,它们可能会使用过量的磁盘 I/O 而干扰系统性能。KVM 虚拟化中的磁盘 I/O 节流使得能够对从虚拟机发送到主机的磁盘 I/O 请求设定限制。这可以防止虚拟机过度使用共享资源并影响其他虚拟机的性能。

要启用磁盘 I/O 节流,请对从附加到虚拟机的每个块设备发送给主机的磁盘 I/O 请求设置限制。

步骤

  1. 使用 virsh domblklist 命令列出指定虚拟机上所有磁盘设备的名称。

    # virsh domblklist rollin-coal
    Target     Source
    ------------------------------------------------
    vda        /var/lib/libvirt/images/rollin-coal.qcow2
    sda        -
    sdb        /home/horridly-demanding-processes.iso
  2. 找到您要节流的虚拟磁盘挂载的主机块设备。

    例如,如果您想要从上一步中节流 sdb 虚拟磁盘,以下输出显示该磁盘挂载在 /dev/nvme0n1p3 分区上。

    $ lsblk
    NAME                                          MAJ:MIN RM   SIZE RO TYPE  MOUNTPOINT
    zram0                                         252:0    0     4G  0 disk  [SWAP]
    nvme0n1                                       259:0    0 238.5G  0 disk
    ├─nvme0n1p1                                   259:1    0   600M  0 part  /boot/efi
    ├─nvme0n1p2                                   259:2    0     1G  0 part  /boot
    └─nvme0n1p3                                   259:3    0 236.9G  0 part
      └─luks-a1123911-6f37-463c-b4eb-fxzy1ac12fea 253:0    0 236.9G  0 crypt /home
  3. 使用 virsh blkiotune 命令为块设备设置 I/O 限制。

    # virsh blkiotune VM-name --parameter device,limit

    以下示例将 rollin-coal 上的 sdb 磁盘节流为每秒 1000 个读写 I/O 操作,每秒的读写 I/O 操作吞吐量 50 MB。

    # virsh blkiotune rollin-coal --device-read-iops-sec /dev/nvme0n1p3,1000 --device-write-iops-sec /dev/nvme0n1p3,1000 --device-write-bytes-sec /dev/nvme0n1p3,52428800 --device-read-bytes-sec /dev/nvme0n1p3,52428800

附加信息

  • 磁盘 I/O 节流可用于各种情况,例如,当属于不同客户的虚拟机在同一台主机上运行时,或者为不同的虚拟机提供服务质量保障时。磁盘 I/O 节流还可用来模拟较慢的磁盘。
  • I/O 节流可以独立应用于附加到虚拟机的每个块设备,并支持对吞吐量和 I/O 操作的限制。
  • 红帽不支持使用 virsh blkdeviotune命令来在 VM 中配置 I/O 节流。有关使用 RHEL 9 作为虚拟机主机时不支持的功能的更多信息,请参阅 RHEL 9 虚拟化中的不支持的功能

13.5.3. 启用多队列 virtio-scsi

在虚拟机(VM)中使用 virtio-scsi 存储设备时,multi-queue virtio-scsi 特性可提高存储性能和可扩展性。它允许每个虚拟 CPU(vCPU)使用单独的队列和中断,而不影响其他 vCPU。

步骤

  • 要为特定虚拟机启用 multi-queue virtio-scsi 支持,请在虚拟机的 XML 配置中添加以下内容,其中 N 是 vCPU 队列的总数:

    <controller type='scsi' index='0' model='virtio-scsi'>
       <driver queues='N' />
    </controller>

13.6. 优化虚拟机 CPU 性能

与主机中的物理 CPU 非常相似,vCPU 对虚拟机(VM)性能至关重要。因此,优化 vCPU 会对虚拟机的资源效率产生重大影响。优化 vCPU:

  1. 调整分配给虚拟机的主机 CPU 数。您可以使用 CLIWeb 控制台进行此操作。
  2. 确保 vCPU 模型与主机的 CPU 型号一致。例如,将 testguest1 虚拟机设置为使用主机的 CPU 型号:

    # virt-xml testguest1 --edit --cpu host-model
  3. 管理内核相同的页面合并(KSM)
  4. 如果您的主机使用非统一内存访问(NUMA),您也可以为其虚拟机 配置 NUMA。这会尽可能将主机的 CPU 和内存进程映射到虚拟机的 CPU 和内存进程上。实际上,NUMA 调优为 vCPU 提供了对分配给虚拟机的系统内存更精简的访问,这可以提高 vCPU 的处理效率。

    详情请参阅 在虚拟机中配置 NUMA vCPU 性能调整场景示例

13.6.1. 使用命令行界面添加和删除虚拟 CPU

要提高或优化虚拟机(VM)的 CPU 性能,您可以添加或删除分配给虚拟机的虚拟 CPU(vCPU)。

当在运行的虚拟机上执行时,这也被称为 vCPU 热插和热拔。但请注意,RHEL 9 不支持 vCPU 热拔,红帽不建议使用它。

先决条件

  • 可选:查看目标虚拟机中的 vCPU 的当前状态。例如,显示 testguest 虚拟机上的 vCPU 数量:

    # virsh vcpucount testguest
    maximum      config         4
    maximum      live           2
    current      config         2
    current      live           1

    此输出显示 testguest 目前使用 1 个 vCPU,另外 1 个 vCPu 可以热插入以提高虚拟机性能。但是,重新引导后,vCPU testguest 使用的数量会改为 2,而且能够热插 2 个 vCPU。

步骤

  1. 调整可以附加到虚拟机的最大 vCPU 数量,其在虚拟机下次启动时生效。

    例如,要将 testguest 虚拟机的最大 vCPU 数量增加到 8:

    # virsh setvcpus testguest 8 --maximum --config

    请注意,最大值可能会受 CPU 拓扑、主机硬件、hypervisor 和其他因素的限制。

  2. 将当前附加到虚拟机的 vCPU 数量调整到上一步中配置的最大值。例如:

    • 将附加到正在运行的 testguest 虚拟机的 vCPU 数量增加到 4:

      # virsh setvcpus testguest 4 --live

      这会增加虚拟机的性能和主机的 testguest 负载占用,直到虚拟机下次引导为止。

    • 将附加到 testguest 虚拟机的 vCPU 数量永久减少至 1:

      # virsh setvcpus testguest 1 --config

      这会降低虚拟机的性能和 testguest 的主机负载占用。但是,如果需要可热插入虚拟机以暂时提高性能。

验证

  • 确认虚拟机的 vCPU 的当前状态反映了您的更改。

    # virsh vcpucount testguest
    maximum      config         8
    maximum      live           4
    current      config         1
    current      live           4

13.6.2. 使用 Web 控制台管理虚拟 CPU

使用 RHEL 9 web 控制台,您可以查看并配置 web 控制台连接的虚拟机使用的虚拟 CPU。

先决条件

步骤

  1. Virtual Machines 界面中,点击您要查看其信息的虚拟机。

    此时将打开一个新页面,其中包含关于所选虚拟机基本信息的概述部分,以及用于访问虚拟机的图形界面的控制台部分。

  2. 单击概述窗格中 vCPU 数旁边的 edit

    此时会出现 vCPU 详情对话框。

    显示 VM CPU 详情对话框的图片。
  1. 为所选虚拟机配置虚拟 CPU。

    • vCPU 数量 - 当前正在使用的 vCPU 数量。

      注意

      vCPU 数量不能超过 vCPU 的最大值。

    • vCPU 最大 - 可为虚拟机配置的最大虚拟 CPU 数。如果这个值大于 vCPU Count,可以为虚拟机附加额外的 vCPU。
    • 插槽 - 向虚拟机公开的插槽数量。
    • 每个插槽的内核数 - 向虚拟机公开的每个插槽的内核数。
    • 每个内核的线程数 - 向虚拟机公开的每个内核的线程数。

      请注意, 插槽每个插槽的内核数每个内核的线程数选项调整了虚拟机的 CPU 拓扑。这可能对 vCPU 性能有好处,但可能会影响客户机操作系统中某些软件的功能。如果您的部署不需要不同的设置,请保留默认值。

  2. 应用

    配置了虚拟机的虚拟 CPU。

    注意

    对虚拟 CPU 设置的更改仅在重启虚拟机后生效。

13.6.3. 在虚拟机中配置 NUMA

以下方法可用于在 RHEL 9 主机上配置虚拟机(VM)的非一致性内存访问(NUMA)设置。

先决条件

  • 主机是一个与 NUMA 兼容的机器。要检测是否是这种情况,请使用 virsh nodeinfo 命令,并查看 NUMA cell(s) 行:

    # virsh nodeinfo
    CPU model:           x86_64
    CPU(s):              48
    CPU frequency:       1200 MHz
    CPU socket(s):       1
    Core(s) per socket:  12
    Thread(s) per core:  2
    NUMA cell(s):        2
    Memory size:         67012964 KiB

    如果行的值为 2 或更高,则主机与 NUMA 兼容。

步骤

为便于使用,您可以使用自动化工具和服务设置虚拟机的 NUMA 配置。但是,手动 NUMA 设置可能会显著提高性能。

自动方法

  • 将虚拟机的 NUMA 策略设为 Preferred。例如,对于 testguest5 虚拟机要这样做:

    # virt-xml testguest5 --edit --vcpus placement=auto
    # virt-xml testguest5 --edit --numatune mode=preferred
  • 在主机上启用自动 NUMA 均衡:

    # echo 1 > /proc/sys/kernel/numa_balancing
  • 使用 numad 命令,自动将 VM CPU 与内存资源匹配。

    # numad

手动方法

  1. 将特定 vCPU 线程固定到特定主机 CPU 或者 CPU 范围。在非 NUMA 主机和虚拟机上也可以这样做,我们推荐您使用一种安全的方法来提高 vCPU 性能。

    例如,以下命令将 testguest6 虚拟机的 vCPU 线程 0 到 5 分别固定到主机 CPU 1、3、5、7、9 和 11:

    # virsh vcpupin testguest6 0 1
    # virsh vcpupin testguest6 1 3
    # virsh vcpupin testguest6 2 5
    # virsh vcpupin testguest6 3 7
    # virsh vcpupin testguest6 4 9
    # virsh vcpupin testguest6 5 11

    之后,您可以验证操作是否成功:

    # virsh vcpupin testguest6
    VCPU   CPU Affinity
    ----------------------
    0      1
    1      3
    2      5
    3      7
    4      9
    5      11
  2. 固定 vCPU 线程后,您还可以将与指定虚拟机关联的 QEMU 进程线程固定到特定的主机 CPU 或 CPU 范围。例如:以下命令将 testguest6 的 QEMU 进程线程 固定到 CPU 13 和 15,确认成功:

    # virsh emulatorpin testguest6 13,15
    # virsh emulatorpin testguest6
    emulator: CPU Affinity
    ----------------------------------
           *: 13,15
  3. 最后,您也可以指定将哪些主机 NUMA 节点专门分配给某个虚拟机。这可提高虚拟机 vCPU 的主机内存用量。例如,以下命令将 testguest6 设置为使用主机 NUMA 节点 3 到 5,确认成功:

    # virsh numatune testguest6 --nodeset 3-5
    # virsh numatune testguest6
注意

为了获得最佳性能,建议使用以上列出的所有手动调优方法

13.6.4. vCPU 性能调整场景示例

为了获得最佳 vCPU 性能,红帽建议您同时使用手动 vcpupinemulatorpinnumatune 设置,如以下场景中所示:

起始场景

  • 您的主机有以下与硬件相关的信息:

    • 2 个 NUMA 节点
    • 每个节点上的 3 个 CPU 内核
    • 每个内核有 2 个线程

    此类机器的 virsh nodeinfo 输出类似于:

    # virsh nodeinfo
    CPU model:           x86_64
    CPU(s):              12
    CPU frequency:       3661 MHz
    CPU socket(s):       2
    Core(s) per socket:  3
    Thread(s) per core:  2
    NUMA cell(s):        2
    Memory size:         31248692 KiB
  • 您打算将现有的虚拟机修改为有 8 个 vCPU,这意味着单个 NUMA 节点无法容纳它。

    因此,您应该在每个 NUMA 节点上分发 4 个 vCPU,并使 vCPU 拓扑尽可能接近主机拓扑。这意味着,作为给定物理 CPU 的同级线程运行的 vCPU 应该固定到同一核上的主机线程。详情请查看以下解决方案:

解决方案

  1. 获取主机拓扑的信息:

    # virsh capabilities

    输出应包含类似如下的部分:

    <topology>
      <cells num="2">
        <cell id="0">
          <memory unit="KiB">15624346</memory>
          <pages unit="KiB" size="4">3906086</pages>
          <pages unit="KiB" size="2048">0</pages>
          <pages unit="KiB" size="1048576">0</pages>
          <distances>
            <sibling id="0" value="10" />
            <sibling id="1" value="21" />
          </distances>
          <cpus num="6">
            <cpu id="0" socket_id="0" core_id="0" siblings="0,3" />
            <cpu id="1" socket_id="0" core_id="1" siblings="1,4" />
            <cpu id="2" socket_id="0" core_id="2" siblings="2,5" />
            <cpu id="3" socket_id="0" core_id="0" siblings="0,3" />
            <cpu id="4" socket_id="0" core_id="1" siblings="1,4" />
            <cpu id="5" socket_id="0" core_id="2" siblings="2,5" />
          </cpus>
        </cell>
        <cell id="1">
          <memory unit="KiB">15624346</memory>
          <pages unit="KiB" size="4">3906086</pages>
          <pages unit="KiB" size="2048">0</pages>
          <pages unit="KiB" size="1048576">0</pages>
          <distances>
            <sibling id="0" value="21" />
            <sibling id="1" value="10" />
          </distances>
          <cpus num="6">
            <cpu id="6" socket_id="1" core_id="3" siblings="6,9" />
            <cpu id="7" socket_id="1" core_id="4" siblings="7,10" />
            <cpu id="8" socket_id="1" core_id="5" siblings="8,11" />
            <cpu id="9" socket_id="1" core_id="3" siblings="6,9" />
            <cpu id="10" socket_id="1" core_id="4" siblings="7,10" />
            <cpu id="11" socket_id="1" core_id="5" siblings="8,11" />
          </cpus>
        </cell>
      </cells>
    </topology>
  2. 可选: 使用 适用的工具和实用程序 测试虚拟机的性能。
  3. 在主机上设置并挂载 1 GiB 巨页:

    1. 在主机的内核命令行中添加以下行:

      default_hugepagesz=1G hugepagesz=1G
    2. 使用以下内容创建 /etc/systemd/system/hugetlb-gigantic-pages.service 文件:

      [Unit]
      Description=HugeTLB Gigantic Pages Reservation
      DefaultDependencies=no
      Before=dev-hugepages.mount
      ConditionPathExists=/sys/devices/system/node
      ConditionKernelCommandLine=hugepagesz=1G
      
      [Service]
      Type=oneshot
      RemainAfterExit=yes
      ExecStart=/etc/systemd/hugetlb-reserve-pages.sh
      
      [Install]
      WantedBy=sysinit.target
    3. 使用以下内容创建 /etc/systemd/hugetlb-reserve-pages.sh 文件:

      #!/bin/sh
      
      nodes_path=/sys/devices/system/node/
      if [ ! -d $nodes_path ]; then
      	echo "ERROR: $nodes_path does not exist"
      	exit 1
      fi
      
      reserve_pages()
      {
      	echo $1 > $nodes_path/$2/hugepages/hugepages-1048576kB/nr_hugepages
      }
      
      reserve_pages 4 node1
      reserve_pages 4 node2

      这会从 node1 保留 4 个 1GiB 巨页,并在 node2 中保留 4 个 1GiB 巨页。

    4. 使在上一步中创建的脚本可执行:

      # chmod +x /etc/systemd/hugetlb-reserve-pages.sh
    5. 在引导时启用巨页保留:

      # systemctl enable hugetlb-gigantic-pages
  4. 使用 virsh edit 命令编辑您要优化的虚拟机的 XML 配置,在本例中为 super-VM

    # virsh edit super-vm
  5. 用以下方法调整虚拟机的 XML 配置:

    1. 将虚拟机设置为使用 8 个静态 vCPU。使用 <vcpu/> 元素来执行此操作。
    2. 将每个 vCPU 线程固定到拓扑中镜像的对应主机 CPU 线程。为此,请在 <cputune> 部分中使用 <vcpupin/> 元素。

      请注意,如上面 virsh capabilities 工具所示,主机 CPU 线程在各自的内核中不是按顺序排序的。此外,vCPU 线程应固定到同一 NUMA 节点上最多可用的主机核集合。有关表图,请查看以下 示例拓扑 部分。

      步骤 a. 和 b. 的 XML 配置类似:

      <cputune>
        <vcpupin vcpu='0' cpuset='1'/>
        <vcpupin vcpu='1' cpuset='4'/>
        <vcpupin vcpu='2' cpuset='2'/>
        <vcpupin vcpu='3' cpuset='5'/>
        <vcpupin vcpu='4' cpuset='7'/>
        <vcpupin vcpu='5' cpuset='10'/>
        <vcpupin vcpu='6' cpuset='8'/>
        <vcpupin vcpu='7' cpuset='11'/>
        <emulatorpin cpuset='6,9'/>
      </cputune>
    3. 将虚拟机设置为使用 1 GiB 巨页:

      <memoryBacking>
        <hugepages>
          <page size='1' unit='GiB'/>
        </hugepages>
      </memoryBacking>
    4. 配置虚拟机的 NUMA 节点,使其使用主机上对应的 NUMA 节点的内存。要做到这一点,请在 <numatune/> 部分中使用 <memnode/> 元素:

      <numatune>
        <memory mode="preferred" nodeset="1"/>
        <memnode cellid="0" mode="strict" nodeset="0"/>
        <memnode cellid="1" mode="strict" nodeset="1"/>
      </numatune>
    5. 确保 CPU 模式设为 host-passthrough,且 CPU 在 passthrough 模式下使用缓存:

      <cpu mode="host-passthrough">
        <topology sockets="2" cores="2" threads="2"/>
        <cache mode="passthrough"/>

验证

  1. 确认生成的虚拟机 XML 配置包含类似如下内容:

    [...]
      <memoryBacking>
        <hugepages>
          <page size='1' unit='GiB'/>
        </hugepages>
      </memoryBacking>
      <vcpu placement='static'>8</vcpu>
      <cputune>
        <vcpupin vcpu='0' cpuset='1'/>
        <vcpupin vcpu='1' cpuset='4'/>
        <vcpupin vcpu='2' cpuset='2'/>
        <vcpupin vcpu='3' cpuset='5'/>
        <vcpupin vcpu='4' cpuset='7'/>
        <vcpupin vcpu='5' cpuset='10'/>
        <vcpupin vcpu='6' cpuset='8'/>
        <vcpupin vcpu='7' cpuset='11'/>
        <emulatorpin cpuset='6,9'/>
      </cputune>
      <numatune>
        <memory mode="preferred" nodeset="1"/>
        <memnode cellid="0" mode="strict" nodeset="0"/>
        <memnode cellid="1" mode="strict" nodeset="1"/>
      </numatune>
      <cpu mode="host-passthrough">
        <topology sockets="2" cores="2" threads="2"/>
        <cache mode="passthrough"/>
        <numa>
          <cell id="0" cpus="0-3" memory="2" unit="GiB">
            <distances>
              <sibling id="0" value="10"/>
              <sibling id="1" value="21"/>
            </distances>
          </cell>
          <cell id="1" cpus="4-7" memory="2" unit="GiB">
            <distances>
              <sibling id="0" value="21"/>
              <sibling id="1" value="10"/>
            </distances>
          </cell>
        </numa>
      </cpu>
    </domain>
  2. 可选: 使用 适用的工具和实用程序 测试虚拟机的性能来评估虚拟机优化的影响。

拓扑示例

  • 下表演示了 vCPU 和主机 CPU 之间的连接:

    表 13.1. 主机拓扑

    CPU 线程

    0

    3

    1

    4

    2

    5

    6

    9

    7

    10

    8

    11

    内核

    0

    1

    2

    3

    4

    5

    插槽

    0

    1

    NUMA 节点

    0

    1

    表 13.2. VM 拓扑

    vCPU 线程

    0

    1

    2

    3

    4

    5

    6

    7

    内核

    0

    1

    2

    3

    插槽

    0

    1

    NUMA 节点

    0

    1

    表 13.3. 合并主机和虚拟机拓扑

    vCPU 线程

     

    0

    1

    2

    3

     

    4

    5

    6

    7

    主机 CPU 线程

    0

    3

    1

    4

    2

    5

    6

    9

    7

    10

    8

    11

    内核

    0

    1

    2

    3

    4

    5

    插槽

    0

    1

    NUMA 节点

    0

    1

    在这种情况下,有 2 个 NUMA 节点和 8 个 vCPU。因此,应该为每个节点固定 4 个 vCPU 线程。

    另外,红帽建议在每个节点上至少保留一个 CPU 线程用于主机系统操作。

    因为在这个示例中,每个 NUMA 节点都有 3 个核,每个核都有 2 个主机 CPU 线程,节点 0 的设置转换如下:

    <vcpupin vcpu='0' cpuset='1'/>
    <vcpupin vcpu='1' cpuset='4'/>
    <vcpupin vcpu='2' cpuset='2'/>
    <vcpupin vcpu='3' cpuset='5'/>

13.6.5. 管理内核相同的页面合并

内核同页合并(KSM)通过在虚拟机(VM)间共享相同的内存页面来提高内存密度。但是,启用 KSM 会增加 CPU 使用率,并可能会根据工作负载对整体性能造成负面影响。

根据您的要求,您可以为单个会话启用或禁用 KSM,或者永久禁用 KSM。

注意

在 RHEL 9 及更高版本中,默认禁用 KSM。

先决条件

  • 根访问您的主机系统。

步骤

  • 禁用 KSM:

    • 要对单个会话停用 KSM,请使用 systemctl 工具停止 ksmksmtuned 服务。

      # systemctl stop ksm
      
      # systemctl stop ksmtuned
    • 要永久停用 KSM,请使用 systemctl 工具来禁用 ksmksmtuned 服务。

      # systemctl disable ksm
      Removed /etc/systemd/system/multi-user.target.wants/ksm.service.
      # systemctl disable ksmtuned
      Removed /etc/systemd/system/multi-user.target.wants/ksmtuned.service.
注意

取消激活 KSM 前在虚拟机间共享的内存页将保持共享。要停止共享,请使用以下命令删除系统中的所有 PageKSM 页面:

# echo 2 > /sys/kernel/mm/ksm/run

匿名页面替换了 KSM 页面后,khugepaged 内核服务将在虚拟机物理内存中重建透明的大页面。

  • 启用 KSM:
警告

启用 KSM 会增加 CPU 使用率并影响整体 CPU 性能。

  1. 安装 ksmtuned 服务:

    # yum install ksmtuned
  2. 启动服务:

    • 要为单个会话启用 KSM,请使用 systemctl 程序启动 ksmksmtuned 服务。

      # systemctl start ksm
      # systemctl start ksmtuned
    • 要永久启用 KSM,请使用 systemctl 程序启用 ksmksmtuned 服务。

      # systemctl enable ksm
      Created symlink /etc/systemd/system/multi-user.target.wants/ksm.service → /usr/lib/systemd/system/ksm.service
      
      # systemctl enable ksmtuned
      Created symlink /etc/systemd/system/multi-user.target.wants/ksmtuned.service → /usr/lib/systemd/system/ksmtuned.service

13.7. 优化虚拟机网络性能

由于虚拟机的网络接口卡(NIC)的虚拟性质,虚拟机会丢失其分配的主机网络带宽的一部分,这可以降低虚拟机的整体工作负载效率。以下提示可最大程度降低虚拟化对虚拟 NIC(vNIC)吞吐量的负面影响。

步骤

使用以下任一方法并观察它是否对虚拟机网络性能有帮助:

启用 vhost_net 模块

在主机上,确保启用了 vhost_net 内核特性:

# lsmod | grep vhost
vhost_net              32768  1
vhost                  53248  1 vhost_net
tap                    24576  1 vhost_net
tun                    57344  6 vhost_net

如果这个命令的输出为空,请启用 vhost_net 内核模块:

# modprobe vhost_net
设置 multi-queue virtio-net

要为虚拟机设置 multi-queue virtio-net 特性,请使用 virsh edit 命令来编辑虚拟机的 XML 配置。在 XML 中,将以下内容添加到 <devices> 部分,并将 N 替换为虚拟机中的 vCPU 个数,最多 16 个:

<interface type='network'>
      <source network='default'/>
      <model type='virtio'/>
      <driver name='vhost' queues='N'/>
</interface>

如果虚拟机正在运行,重启它以使更改生效。

批量网络数据包

在具有长传输路径的 Linux VM 配置中,在将数据包提交给内核之前对其进行批处理可以提高缓存利用率。要设置数据包批处理,请在主机上使用以下命令,并将 tap0 替换为虚拟机使用的网络接口的名称:

# ethtool -C tap0 rx-frames 64
SR-IOV
如果您的主机 NIC 支持 SR-IOV,请为您的 vNIC 使用 SR-IOV 设备分配。如需更多信息,请参阅管理 SR-IOV 设备

其他资源

13.8. 虚拟机性能监控工具

要确定什么消耗了最多的 VM 资源,以及虚拟机性能的哪方面需要优化,可以使用性能诊断工具,包括通用的和特定于虚拟机的。

默认操作系统性能监控工具

对于标准性能评估,您可以使用主机和虚拟机操作系统默认提供的实用程序:

  • 在 RHEL 9 主机上,以 root 用户身份使用 top 实用程序或 系统监控 应用程序,并在输出中查找 qemuvirt。这显示了您的虚拟机消耗的主机系统资源量。

    • 如果监控工具显示任何 qemuvirt 进程消耗了大量的主机 CPU 或内存量,请使用 perf 工具进行调查。详情请查看以下信息。
    • 另外,如果 vhost_net 线程进程(如 vhost_net-1234 )被显示为消耗大量主机 CPU 容量,请考虑使用 虚拟网络优化功能,如 multi-queue virtio-net
  • 在客户机操作系统上,使用系统上可用的性能工具和应用程序来评估哪些进程消耗了最多的系统资源。

    • 在 Linux 系统上,您可以使用 top 工具。
    • 在 Windows 系统中,您可以使用 Task Manager 应用程序。

perf kvm

您可以使用 perf 实用程序收集有关 RHEL 9 主机性能的特定虚拟化统计。要做到这一点:

  1. 在主机上安装 perf 软件包:

    # dnf install perf
  2. 使用 perf kvm stat 命令之一来显示您的虚拟化主机的 perf 统计信息:

    • 若要实时监控 hypervisor ,请使用 perf kvm stat live 命令。
    • 若要记录一段时间内 hypervisor 的 perf 数据,请使用 perf kvm stat record 命令激活日志记录。命令被取消或中断后,数据保存在 perf.data.guest 文件中,可以使用 perf kvm stat report 命令进行分析。
  3. 分析 VM-EXIT 事件类型及其分发的 perf 输出。例如,PAUSE_INSTRUCTION 事件应当不常发生,但在以下输出中,此事件的频繁发生表明主机 CPU 没有很好地处理正在运行的 vCPU。在这种场景下,请考虑关闭某些处于活动状态的虚拟机,从这些虚拟机中删除 vCPU,或者 调优 vCPU 的性能

    # perf kvm stat report
    
    Analyze events for all VMs, all VCPUs:
    
    
                 VM-EXIT    Samples  Samples%     Time%    Min Time    Max Time         Avg time
    
      EXTERNAL_INTERRUPT     365634    31.59%    18.04%      0.42us  58780.59us    204.08us ( +-   0.99% )
               MSR_WRITE     293428    25.35%     0.13%      0.59us  17873.02us      1.80us ( +-   4.63% )
        PREEMPTION_TIMER     276162    23.86%     0.23%      0.51us  21396.03us      3.38us ( +-   5.19% )
       PAUSE_INSTRUCTION     189375    16.36%    11.75%      0.72us  29655.25us    256.77us ( +-   0.70% )
                     HLT      20440     1.77%    69.83%      0.62us  79319.41us  14134.56us ( +-   0.79% )
                  VMCALL      12426     1.07%     0.03%      1.02us   5416.25us      8.77us ( +-   7.36% )
           EXCEPTION_NMI         27     0.00%     0.00%      0.69us      1.34us      0.98us ( +-   3.50% )
           EPT_MISCONFIG          5     0.00%     0.00%      5.15us     10.85us      7.88us ( +-  11.67% )
    
    Total Samples:1157497, Total events handled time:413728274.66us.

    perf kvm stat 输出中表明有问题的其它事件类型包括:

有关使用 perf 来监控虚拟化性能的更多信息,请参阅 perf-kvm 手册页。

numastat

要查看系统当前的 NUMA 配置,您可以使用 numastat 工具,该工具通过安装 numactl 软件包来提供。

以下显示了一个有 4 个运行虚拟机的主机,各自从多个 NUMA 节点获取内存。这不是 vCPU 性能的最佳方案,并保证调整

# numastat -c qemu-kvm

Per-node process memory usage (in MBs)
PID              Node 0 Node 1 Node 2 Node 3 Node 4 Node 5 Node 6 Node 7 Total
---------------  ------ ------ ------ ------ ------ ------ ------ ------ -----
51722 (qemu-kvm)     68     16    357   6936      2      3    147    598  8128
51747 (qemu-kvm)    245     11      5     18   5172   2532      1     92  8076
53736 (qemu-kvm)     62    432   1661    506   4851    136     22    445  8116
53773 (qemu-kvm)   1393      3      1      2     12      0      0   6702  8114
---------------  ------ ------ ------ ------ ------ ------ ------ ------ -----
Total              1769    463   2024   7462  10037   2672    169   7837 32434

相反,以下显示单个节点为每个虚拟机提供内存,这效率显著提高。

# numastat -c qemu-kvm

Per-node process memory usage (in MBs)
PID              Node 0 Node 1 Node 2 Node 3 Node 4 Node 5 Node 6 Node 7 Total
---------------  ------ ------ ------ ------ ------ ------ ------ ------ -----
51747 (qemu-kvm)      0      0      7      0   8072      0      1      0  8080
53736 (qemu-kvm)      0      0      7      0      0      0   8113      0  8120
53773 (qemu-kvm)      0      0      7      0      0      0      1   8110  8118
59065 (qemu-kvm)      0      0   8050      0      0      0      0      0  8051
---------------  ------ ------ ------ ------ ------ ------ ------ ------ -----
Total                 0      0   8072      0   8072      0   8114   8110 32368

第 14 章 使用 PowerTOP 管理能耗

作为系统管理员,您可以使用 PowerTOP 工具来分析和管理功耗。

14.1. PowerTOP 的目的

PowerTOP 是一个诊断与功耗相关的问题的程序,并提供如何延长生动生命周期的建议。

PowerTOP 工具可提供系统总功耗和各个进程、设备、内核工作器、计时器和中断处理器的功耗。工具还可识别频繁绕过 CPU 的内核和用户空间应用程序的特定组件。

Red Hat Enterprise Linux 9 使用 PowerTOP 版本 2.x。

14.2. 使用 PowerTOP

先决条件

  • 为了可以使用 PowerTOP,请确定在您的系统中已安装了 powertop 软件包:

    # dnf install powertop

14.2.1. 启动 PowerTOP

步骤

  • 要运行 PowerTOP,请使用以下命令:

    # powertop
重要

笔记本电脑应在运行 powertop 命令时以电能量运行。

14.2.2. 校准 PowerTOP

步骤

  1. 在笔记本电脑中,您可以通过运行以下命令来布放节能引擎:

    # powertop --calibrate
  2. 让校准完成,而不会在此过程中与机器交互。

    校准需要一些时间,因为进程执行各种测试,整个测试通过强度级别和交换机设备进行循环。

  3. 在完成校准过程后,PowerTOP 会正常启动。让它运行大约一小时以收集数据。

    收集足够数据后,输出表的第一列中将显示节能数据。

注意

请注意,powertop --calibrate 仅适用于笔记本电脑。

14.2.3. 设置测量间隔

默认情况下,PowerTOP 将测量间隔为 20 秒。

如果要更改此测量频率,请使用以下步骤:

步骤

  • 使用 --time 选项运行 powertop 命令:

    # powertop --time=time in seconds

14.3. powertop 统计

在运行期间,PowerTOP 会从系统收集统计信息。

powertop的输出提供多个标签:

  • 概述
  • idle stats
  • 频率统计
  • 设备统计
  • Tunables
  • WakeUp

您可以使用 TabShift+Tab 键通过这些选项卡进行循环。

14.3.1. Overview 选项卡

Overview 选项卡中,您可以查看将 wakeups 发送到 CPU 最频繁或消耗最多功能的组件列表。Overview 选项卡中的项目(包括进程、中断、设备和其他资源)会根据它们的使用情况进行排序。

Overview 选项卡中的 adjacent 列提供以下信息:

使用
详细估算资源的使用情况。
Events/s
每秒的 Wakeups 数。每秒唤醒的时间数代表如何高效地执行内核的设备和驱动程序。较少的 wakeups 表示消耗较少电源。组件按照可进一步优化的电源使用量排序。
类别
组件的类别,如进程、设备或计时器。
描述
组件的描述。

如果正确校准,则会显示第一列中每个列出的项目的功耗估算。

除此之外,Overview 选项卡还包含包含摘要统计的行,例如:

  • 电源消耗总数
  • 剩余限制生命周期(仅在适用的情况下)
  • 每秒的 GPU 操作总数(每秒为 GPU 操作)和每秒虚拟文件系统操作

14.3.2. Idle stats 标签页

Idle stats 选项卡显示所有处理器和内核的使用 C-states,而 Frequency stats 选项卡显示 P-states 的使用,包括 Turbo 模式(若适用)所有处理器和内核。C- 或 P-states 的持续时间代表 CPU 用量的优化程度。CPU 使用率更长的 CPU 处于更高的 C- 或 P-states(例如,C4 大于 C3),CPU 使用量优化越好。理想情况下,当系统闲置时,驻留的最高 C- 或 P-state 应该为 90% 或更高。

14.3.3. Device stats 标签页

Device stats 选项卡中提供与 Overview 选项卡类似的信息,但只适用于设备。

14.3.4. Tunables 选项卡

Tunables 选项卡包含 PowerTOP的建议,以优化系统以降低功耗。

使用 updown 键移动建议,使用 enter 键打开或关闭建议。

14.3.5. WakeUp 选项卡

WakeUp 选项卡显示设备 wakeup 设置,供用户根据需要更改。

使用 updown 键通过可用的设置移动,并使用 enter 键启用或禁用设置。

图 14.1. PowerTOP 输出

powertop2 14

其他资源

有关 PowerTOP 的详情,请参阅 PowerTOP 主页

14.4. 为什么 Powertop 不会在一些实例中显示 Frequency stats 值

在使用 Intel P-State 驱动程序时,如果驱动程序处于被动模式,PowerTOP 仅显示 Frequency Stats 选项卡中的值。但在这种情况下,这些值可能不完整。

总而言,Intel P-State 驱动程序有三种可能模式:

  • 使用硬件 P-States(HWP)的活跃模式
  • 没有 HWP 的活跃模式
  • 被动模式

切换到 ACPI CPUfreq 驱动程序会导致 PowerTOP 显示的完整信息。但是,建议将您的系统保留在默认设置中。

要查看载入哪些驱动程序以及在什么模式下运行:

# cat /sys/devices/system/cpu/cpu0/cpufreq/scaling_driver
  • 如果 Intel P-State 驱动程序被加载且处于活跃模式,则返回 intel_pstate
  • 如果 Intel P-State 驱动程序被加载且处于被动模式,则返回 intel_cpufreq
  • 如果载入 ACPI CPUfreq 驱动程序,则返回 acpi-cpufreq

在使用 Intel P-State 驱动程序时,在内核命令行中添加以下参数,以强制驱动程序在被动模式下运行:

intel_pstate=passive

要禁用 Intel P-State 驱动程序并使用,而是使用 ACPI CPUfreq 驱动程序,在内核引导命令行中添加以下参数:

intel_pstate=disable

14.5. 生成 HTML 输出

除了终端中的 powertop 输出外,您还可以生成 HTML 报告。

步骤

  • 使用 --html 选项运行 powertop 命令:

    # powertop --html=htmlfile.html

    htmlfile.html 参数替换为输出文件所需名称。

14.6. 优化功耗

要优化功耗,您可以使用 powertop 服务或 powertop2tuned 程序。

14.6.1. 使用 powertop 服务优化功耗

您可以使用 powertop 服务,从引导时的 Tunables 选项卡中自动启用所有 PowerTOP 的建议:

步骤

  • 启用 powertop 服务:

    # systemctl enable powertop

14.6.2. powertop2tuned 工具

powertop2tuned 程序允许您从 PowerTOP 建议创建自定义 TuneD 配置集。

默认情况下,powertop2tuned/etc/tuned/ 目录中创建配置集,并在当前选择的 TuneD 配置集中基础配置集。为安全起见,所有 PowerTOP 调优最初在新配置集中被禁用。

要启用调整,您可以:

  • /etc/tuned/profile_name/tuned.conf 文件中 取消注释。
  • 使用 --enable-e 选项生成新的配置集,启用 PowerTOP 建议的大部分调优。

    某些潜在的调整(如 USB 自动暂停)在默认情况下被禁用,需要手动取消注释。

14.6.3. 使用 powertop2tuned 程序优化电源消耗

先决条件

  • powertop2tuned 程序已安装在系统上:

    # dnf install tuned-utils

步骤

  1. 创建自定义配置集:

    # powertop2tuned new_profile_name
  2. 激活新配置集:

    # tuned-adm profile new_profile_name

附加信息

  • 要获得 powertop2tuned 支持的选项列表,请使用:

    $ powertop2tuned --help

14.6.4. powertop.service 和 powertop2tuned 的比较

powertop.service 相比,对于优化能耗应首选 powertop2tuned,理由如下:

  • powertop2tuned 实用程序代表将 PowerTOP 集成到 TuneD 中,这能够带来这两个工具的优势。
  • powertop2tuned 实用程序允许对已启用的调优进行精细的控制。
  • 使用 powertop2tuned 时,可能无法自动启用潜在的危险调整。
  • 通过 powertop2tuned,可以在不重启的情况下进行回滚。

第 15 章 perf 入门

作为系统管理员,您可以使用 perf 工具来收集和分析系统的性能数据。

15.1. perf 简介

与基于内核的子系统 Performance Counters for Linux (PCL) 的 perf 用户空间工具接口。perf 是一个强大的工具,它使用性能监控单元(PMU)测量、记录和监控各种硬件和软件事件。perf 还支持追踪点、kprobes 和 uprobes。

15.2. 安装 perf

此流程安装 perf 用户空间工具。

步骤

  • 安装 perf 工具:

    # dnf install perf

15.3. 常见 perf 命令

本节概述常用的 perf 命令。

常用的 perf 命令

perf stat
此命令提供常见性能事件的总体统计信息,包括执行的指令和消耗的时钟周期。选项可用于选择默认测量事件以外的事件。
perf 记录
此命令将性能数据记录到文件 perf.data 中,稍后可以使用 perf report 命令进行分析。
perf 报告
此命令从 perf 记录 创建的 perf.data 文件中读取和显示性能数据。
perf list
此命令列出特定计算机上可用的事件。这些事件将根据系统的性能监控硬件和软件配置而有所不同。
perf top
此命令执行与 top 实用程序类似的功能。它生成并实时显示性能计数器配置集。
perf trace
此命令执行与 strace 工具类似的函数。它监控指定线程或进程使用的系统调用,以及该应用收到的所有信号。
perf help
此命令显示 perf 命令的完整列表。

其他资源

  • 在 子命令中添加 --help 选项以打开 man page。

第 16 章 使用 numastat 分析内存分配

使用 numastat 工具,您可以显示系统中内存分配的统计信息。

numastat 工具会单独显示每个 NUMA 节点的数据。您可以使用这些信息来调查系统的内存性能,或者系统上的不同内存策略的有效性。

16.1. 默认 numastat 统计

默认情况下,numastat 工具显示各个 NUMA 节点的这些类别数据的统计信息:

numa_hit
成功分配给此节点的页面数量。
numa_miss
由于预期节点上的内存较低,在此节点上分配的页面数量。每个 numa_miss 事件在另一个节点上都有对应的 numa_foreign 事件。
numa_foreign
最初用于分配给另一节点的页面数量。每个 numa_foreign 事件在另一节点上都有对应的 numa_miss 事件。
interleave_hit
成功分配给此节点的交集策略页面数量。
local_node
此节点上的进程在这个节点上成功分配的页面数量。
other_node
通过另一节点上的进程在这个节点上分配的页面数量。
注意

high numa_hit values 和 low numa_miss 值(相互相对)代表最佳性能。

16.2. 使用 numastat 查看内存分配

您可以使用 numastat 工具查看系统的内存分配。

先决条件

  • 安装 numactl 软件包:

    # dnf install numactl

步骤

  • 查看系统的内存分配:

    $ numastat
                                 node0         node1
    numa_hit                  76557759      92126519
    numa_miss                 30772308      30827638
    numa_foreign              30827638      30772308
    interleave_hit              106507        103832
    local_node                76502227      92086995
    other_node                30827840      30867162

其他资源

  • numastat(8) 手册页

第 17 章 配置操作系统以优化 CPU 使用率

这部分论述了如何配置操作系统来优化其工作负载的 CPU 使用率。

17.1. 监控和诊断处理器问题的工具

以下是 Red Hat Enterprise Linux 9 中用于监控并诊断处理器相关性能问题的工具:

  • turbostat 工具以指定间隔打印计数器结果,以帮助管理员识别服务器中的意外行为,如过量电源使用、无法进入深度睡眠状态或系统管理中断(SMI)创建不必要。
  • numactl 实用程序提供了多个选项来管理处理器和内存关联性。numactl 软件包包含 libnuma 库,它为内核支持的 NUMA 策略提供简单编程接口,并可用于比 numactl 应用更精细的调优。
  • numastat 工具显示操作系统及其进程的每个 NUMA 节点内存统计信息,并演示进程内存是否在整个系统中分散,还是集中于特定的节点上。此工具由 numactl 软件包提供。
  • numad 是一个自动 NUMA 关联性管理守护进程。它监控系统中的 NUMA 拓扑和资源使用情况,以便动态改进 NUMA 资源分配和管理。
  • /proc/interrupts 文件显示中断请求(IRQ)编号、系统中的每个处理器处理的类似中断请求数量、中断发送的类型以及响应所列中断请求的设备的逗号分隔列表。
  • pqos 程序在 intel-cmt-cat 软件包中提供。它监控最近 Intel 处理器上的 CPU 缓存和内存带宽。它监控:

    • 每个周期的说明(IPC)。
    • 最后一次缓存 MISSES 的计数。
    • 在 LLC 中给定 CPU occupies 中程序执行的大小(以 KB 为单位)。
    • 到本地内存的带宽(MBL)。
    • 远程内存的带宽(MBR)。
  • x86_energy_perf_policy 工具让管理员能够定义与性能和能源效率相对的重要性。然后,当这些信息选择在性能和能源效率之间权衡的选项时,可以使用这些信息来影响支持此功能的处理器。
  • taskset 工具由 util-linux 软件包提供。它允许管理员检索和设置正在运行的进程的处理器关联,或启动具有指定处理器关联性的进程。

其他资源

  • turbostat(8), numactl(8), numastat(8), numa(7), numad(8), pqos(8), x86_energy_perf_policy(8), 和 taskset(1) man page

17.2. 系统拓扑类型

在现代计算中,CPU 的概念有误导,因为大多数现代系统具有多个处理器。系统的拓扑是这些处理器互相连接并与其他系统资源的连接的方式。这可能会影响系统和应用程序性能,以及系统的调优注意事项。

以下是现代计算中使用的两种主要拓扑类型:

对称多进程(SMP)拓扑
SMP 拓扑允许所有处理器在相同时间内访问内存。但是,因为共享和相同的内存访问本质上会阻止所有 CPU 进行序列化内存访问,SMP 系统扩展限制通常被视为不可接受的。因此,所有现代服务器系统都是 NUMA 机器。
非统一内存访问(NUMA)拓扑

NUMA 拓扑是比 SMP 拓扑更久而开发的。在 NUMA 系统中,多个处理器通过插槽被物理分组。每个套接字都有一个专用的内存和处理器区域,它们对该内存进行本地访问,它们统称为节点。同一节点上的处理器对该节点的内存银行具有高速度访问,而对内存银行而非其节点上的内存银行而言较慢。

因此,访问非本地内存时会有一个性能损失。因此,具有 NUMA 拓扑的系统上性能敏感的应用程序应该访问与执行应用程序的处理器相同的内存,并应尽可能避免访问远程内存。

对于性能敏感的多线程应用程序,这些应用程序可能会被配置为在特定 NUMA 节点上执行,而不是特定处理器。这是否适当地取决于您的系统和应用程序的要求。如果多个应用程序线程访问同一缓存的数据,那么可将这些线程配置为在同一处理器上执行。但是,如果多个访问和缓存不同数据在同一处理器上执行的线程,每个线程可能会驱除由上一线程访问的缓存数据。这意味着,每个线程"misses"缓存,浪费执行时间从内存中获取数据并在缓存中替换。使用 perf 工具检查是否有过多的缓存未命中。

17.2.1. 显示系统拓扑

有许多命令可帮助了解系统拓扑。这个步骤描述了如何确定系统拓扑。

步骤

  • 显示系统拓扑概述:

    $ numactl --hardware
    available: 4 nodes (0-3)
    node 0 cpus: 0 4 8 12 16 20 24 28 32 36
    node 0 size: 65415 MB
    node 0 free: 43971 MB
    [...]
  • 要收集有关 CPU 架构的信息,如 CPU、线程、内核、插槽和 NUMA 节点的数量:

    $ lscpu
    Architecture:          x86_64
    CPU op-mode(s):        32-bit, 64-bit
    Byte Order:            Little Endian
    CPU(s):                40
    On-line CPU(s) list:   0-39
    Thread(s) per core:    1
    Core(s) per socket:    10
    Socket(s):             4
    NUMA node(s):          4
    Vendor ID:             GenuineIntel
    CPU family:            6
    Model:                 47
    Model name:            Intel(R) Xeon(R) CPU E7- 4870  @ 2.40GHz
    Stepping:              2
    CPU MHz:               2394.204
    BogoMIPS:              4787.85
    Virtualization:        VT-x
    L1d cache:             32K
    L1i cache:             32K
    L2 cache:              256K
    L3 cache:              30720K
    NUMA node0 CPU(s):     0,4,8,12,16,20,24,28,32,36
    NUMA node1 CPU(s):     2,6,10,14,18,22,26,30,34,38
    NUMA node2 CPU(s):     1,5,9,13,17,21,25,29,33,37
    NUMA node3 CPU(s):     3,7,11,15,19,23,27,31,35,39
  • 查看系统的图形表示:

    # dnf install hwloc-gui
    # lstopo

    图 17.1. lstopo 输出

    lstopo
  • 查看详细文本输出:

    # dnf install hwloc
    # lstopo-no-graphics
    Machine (15GB)
      Package L#0 + L3 L#0 (8192KB)
        L2 L#0 (256KB) + L1d L#0 (32KB) + L1i L#0 (32KB) + Core L#0
            PU L#0 (P#0)
            PU L#1 (P#4)
           HostBridge L#0
        PCI 8086:5917
            GPU L#0 "renderD128"
            GPU L#1 "controlD64"
            GPU L#2 "card0"
        PCIBridge
            PCI 8086:24fd
              Net L#3 "wlp61s0"
        PCIBridge
            PCI 8086:f1a6
        PCI 8086:15d7
            Net L#4 "enp0s31f6"

其他资源

  • numactl(8), lscpu(1), 和 lstopo(1) man pages

17.3. 配置内核空循环时间

默认情况下,Red Hat Enterprise Linux 9 使用无空循环内核,它不会中断空闲的 CPU 来降低功耗,并允许新处理器利用深度睡眠状态。

Red Hat Enterprise Linux 9 还提供了动态无空选项,这对于对延迟敏感型工作负载(如高性能计算或实时计算)非常有用。默认情况下禁用动态无空选项。红帽建议使用 cpu-partitioning TuneD 配置集为指定为 isolated_cores 的内核启用动态无空选项。

这个步骤描述了如何永久启用动态无数性行为。

步骤

  1. 要在特定内核中启用动态无空行为,在内核命令行中使用 nohz_full 参数指定这些核心。在 16 核系统上,在 /etc/default/grub 文件中的 GRUB_CMDLINE_LINUX 选项中附加这个参数:

    nohz_full=1-15

    这启用了内核 115 的动态无数性行为,将所有时间保留到唯一未指定的内核(内核 0)。

  2. 要永久启用动态无空行为,请使用编辑的默认文件重新生成 GRUB2 配置。在带有 BIOS 固件的系统中执行以下命令:

    # grub2-mkconfig -o /etc/grub2.cfg

    在 UEFI 固件的系统中执行以下命令:

    # grub2-mkconfig -o /etc/grub2-efi.cfg
  3. 当系统引导时,手动将 rcu 线程移到非延迟敏感的内核中,在本例中是 core 0

    # for i in `pgrep rcu[^c]` ; do taskset -pc 0 $i ; done
  4. 可选:在内核命令行中使用 isolcpus 参数,将特定内核与用户空间任务隔离开来。
  5. 可选:将内核的 write-back bdi-flush 线程的 CPU 关联性设置为 housekeeping 内核:

    echo 1 > /sys/bus/workqueue/devices/writeback/cpumask

验证步骤

  • 系统重启后,验证是否启用了 dynticks

    # journalctl -xe | grep dynticks
    Mar 15 18:34:54 rhel-server kernel: NO_HZ: Full dynticks CPUs: 1-15.
  • 验证动态无空配置是否正常工作:

    # perf stat -C 1 -e irq_vectors:local_timer_entry taskset -c 1 sleep 3

    这个命令会在 CPU 1 上测量升级,同时告诉 CPU 1 休眠 3 秒。

  • 默认内核计时器配置在常规 CPU 上显示大约 3100 勾号:

    # perf stat -C 0 -e irq_vectors:local_timer_entry taskset -c 0 sleep 3
    
     Performance counter stats for 'CPU(s) 0':
    
                 3,107      irq_vectors:local_timer_entry
    
           3.001342790 seconds time elapsed
  • 配置动态无数内核后,您应该会看到大约 4 个空循环:

    # perf stat -C 1 -e irq_vectors:local_timer_entry taskset -c 1 sleep 3
    
     Performance counter stats for 'CPU(s) 1':
    
                     4      irq_vectors:local_timer_entry
    
           3.001544078 seconds time elapsed

17.4. 中断请求概述

中断请求或 IRQ 是从硬件立即发送到处理器的信号。系统中的每个设备都会被分配一个或多个 IRQ 编号,允许它发送唯一的中断。启用中断后,接收中断请求的处理器会立即暂停当前应用程序线程执行,以处理中断请求。

由于中断中断会停止正常操作,因此高中断率可能会严重降低系统性能。通过配置中断的关联性,或者向批处理中发送多个较低优先级中断(协调多个中断),这可以减少中断所花费的时间。

中断请求具有关联的关联性属性 smp_affinity,它定义了处理中断请求的处理器。要提高应用性能,请将中断关联和进程关联分配到同一处理器,或分配到同一内核上的处理器。这允许指定的中断和应用程序线程共享缓存行。

在支持中断中断的系统上,修改中断请求的 smp_affinity 属性可设置硬件,以便决定使用特定处理器在硬件级别提供中断,而无需在内核中干预。

17.4.1. 手动平衡中断

如果您的 BIOS 导出它的 NUMA 拓扑,则 irqbalance 服务可自动为节点上对请求服务的硬件进行中断请求。

步骤

  1. 检查哪些设备对应于您要配置的中断请求。
  2. 查找平台的硬件规格。检查您系统上的芯片组是否支持分发中断。

    1. 如果这样做,您可以按照以下步骤中的内容配置中断交付。另外,检查您的芯片组用来平衡中断的算法。有些 BIOS 有一些选项来配置中断交付。
    2. 如果没有,您的芯片组总会将所有中断路由到单个静态 CPU。您无法配置使用哪些 CPU。
  3. 检查系统上使用了 Advanced Programmable Interrupt Controller(APIC)模式:

    $ journalctl --dmesg | grep APIC

    在这里,

    • 如果您的系统使用 flat 以外的模式,您可以看到一个类似于 Setting APIC routing to physical flat 的行。
    • 如果看不到这个信息,代表您的系统使用 flat 模式。

      如果您的系统使用 x2apic 模式,您可以在 引导装载程序配置 的内核命令行中添加 nox2apic 选项来禁用它。

      只有非物理平面模式(flat)支持将中断分发到多个 CPU。这个模式仅适用于最多 8 个 CPU 的系统。

  4. 计算 smp_affinity 掩码。有关如何计算 smp_affinity 掩码 的更多信息,请参阅设置 smp_affinity mask

其他资源

  • journalctl(1)taskset(1) man page

17.4.2. 设置 smp_affinity 掩码

smp_affinity 值存储为代表系统中所有处理器的十六进制位掩码。每个位配置不同的 CPU。最重要的位是 CPU 0。

掩码的默认值为 f,这意味着可在系统中的任何处理器上处理中断请求。将此值设置为 1 表示只有处理器 0 可以处理中断。

步骤

  1. 二进制代码中,将值 1 用于处理中断的 CPU。例如,要设置 CPU 0 和 CPU 7 以处理中断,请使用 0000000010000001 作为二进制代码:

    表 17.1. CPU 的二进制位

    CPU

    15

    14

    13

    12

    11

    10

    9

    8

    7

    6

    5

    4

    3

    2

    1

    0

    二进制

    0

    0

    0

    0

    0

    0

    0

    0

    1

    0

    0

    0

    0

    0

    0

    1

  2. 将二进制代码转换为十六进制代码:

    例如,使用 Python 转换二进制代码:

    >>> hex(int('0000000010000001', 2))
    
    '0x81'

    在有 32 个处理器的系统上,您必须限制离散的 32 位组的 smp_affinity 值。例如,如果您只想 64 位处理器系统的第一个 32 个处理器来服务中断请求,请使用 0xffffffff,00000000

  3. 特定中断请求的中断关联性值存储在关联的 /proc/irq/irq_number/smp_affinity 文件中。在此文件中设置 smp_affinity mask:

    # echo mask > /proc/irq/irq_number/smp_affinity

其他资源

  • journalctl(1), irqbalance(1), 和 taskset(1) man pages

第 18 章 调优调度策略

在 Red Hat Enterprise Linux 中,进程执行的最小单元称为线程。系统调度程序决定哪个处理器运行线程,以及线程的运行时间。但是,因为调度程序的主要关注是保持系统忙碌,因此可能无法为应用程序性能最佳调度线程。

例如,当 Node B 上的处理器可用时,NUMA 系统上的应用程序在 Node A 上运行。为了将处理器保持在节点 B忙碌上,调度程序会将其中一个应用的线程移至节点 B。但是,应用程序线程仍然需要访问 Node A 上的内存。但是,这个内存会更长时间访问,因为线程现在在 Node B 和 Node A 内存上运行,而 Node A 内存不再是线程本地的。因此,线程完成在 Node B 上运行的时间可能要长于在 Node B 上运行,等待 Node A 上的处理器变得可用,然后在具有本地内存访问的原始节点上执行线程。

18.1. 调度策略的类别

性能敏感的应用程序通常受益于设计人员或管理员确定运行线程的位置。Linux 调度程序实施多个调度策略,用于决定线程的运行时间和时长。

以下是调度策略的两个主要类别:

普通策略
常规线程用于普通优先级的任务。
实时策略

实时策略用于不需要中断时必须完成的时间敏感任务。实时线程不会受到时间分片。这意味着线程会运行直到它们 block、exit、voluntarily yield 或被较高优先级线程抢占。

任何具有一般策略线程的线程前,会调度最低优先级实时线程。如需更多信息,请参阅使用 SCHED_FIFO 的静态优先级调度和使用 SCHED_RR 进行循环优先级调度

其他资源

  • sched(7), sched_setaffinity(2), sched_getaffinity(2), sched_setscheduler(2), 和 sched_getscheduler(2) man pages

18.2. 使用 SCHED_FIFO 的静态优先级调度

SCHED_FIFO 也称为静态优先级调度,是一种实时策略,为每个线程定义固定优先级。此策略允许管理员提高事件响应时间并缩短延迟。建议您不要在时间敏感时执行此策略。

当使用 SCHED_FIFO 时,调度程序会按照优先级顺序扫描所有 SCHED_FIFO 线程的列表,并调度可随时运行的最高优先级线程。SCHED_FIFO 线程的优先级级别可以是从 199 的任何整数,其中 99 被视为最高优先级。红帽建议仅在识别延迟问题时以较低数量开始并增加优先级。

警告

因为实时线程不会受到时间分片,因此红帽不推荐将优先级设置为 99。这与迁移和 watchdog 线程相同的优先级级别保持您的进程;如果您的线程进入计算循环,并且这些线程被阻止,则它们将无法运行。具有单一处理器的系统最终会在这种情况下挂起。

管理员可以限制 SCHED_FIFO 带宽,以防止实时应用程序程序员启动对处理器进行单调执行的实时任务。

以下是此策略中使用的一些参数:

/proc/sys/kernel/sched_rt_period_us
此参数以微秒为单位定义时间,它被视为处理器带宽的 10%。默认值为 1000000 InventoryServices,或 1 秒
/proc/sys/kernel/sched_rt_runtime_us
此参数以微秒为单位定义运行实时线程的时间周期。默认值为 950000 μs,即 0.95 秒

18.3. 使用 SCHED_RR 循环优先级调度

SCHED_RRSCHED_FIFO 的循环变体。当多个线程需要在同一优先级级别上运行时,此策略很有用。

SCHED_FIFO 一样,SCHED_RR 是一个实时策略,用于为每个线程定义固定优先级。调度程序会按照优先级顺序扫描所有 SCHED_RR 线程的列表,并调度可随时运行的最高优先级线程。但是,与 SCHED_FIFO 不同,在特定时间片段中以 round-robin 样式调度具有相同优先级的线程。

您可以使用 /proc/sys/kernel/sched_rr_timeslice_ms 文件中的 sched_rr_timeslice_ms 内核参数以毫秒为单位设置这个时间片段的值。最低值为 1 毫秒

18.4. 使用 SCHED_OTHER 常规调度

SCHED_OTHER 是 Red Hat Enterprise Linux 9 中的默认调度策略。此策略使用完全公平调度程序(CFS),允许对使用该策略调度的所有线程进行公平处理器访问。当有大量线程或数据吞吐量是优先级时,此策略最有用,因为它可以更有效地调度线程。

当使用此策略时,调度程序会根据每个进程线程的 niceness 值创建动态优先级列表。管理员可以更改进程的 niceness 值,但不能直接更改调度程序的动态优先级列表。

18.5. 设置调度程序策略

使用 chrt 命令行工具检查并调整调度程序策略和优先级。它可以启动具有所需属性的新进程,或更改正在运行的进程的属性。它还可用于在运行时设置策略。

步骤

  1. 查看活跃进程的进程 ID(PID):

    # ps

    ps 命令中使用 --pid-p 选项来查看特定 PID 的详细信息。

  2. 检查特定进程的调度策略、PID 和优先级:

    # chrt -p 468
    pid 468's current scheduling policy: SCHED_FIFO
    pid 468's current scheduling priority: 85
    
    # chrt -p 476
    pid 476's current scheduling policy: SCHED_OTHER
    pid 476's current scheduling priority: 0

    在这里,468476 是进程的 PID。

  3. 设置进程的调度策略:

    1. 例如,要将 PID 为 1000 的进程设置为 SCHED_FIFO,其优先级为 50

      # chrt -f -p 50 1000
    2. 例如,要将 PID 为 1000 的进程设置为 SCHED_OTHER,其优先级为 0

      # chrt -o -p 0 1000
    3. 例如,要将 PID 为 1000 的进程设置为 SCHED_RR,其优先级为 10

      # chrt -r -p 10 1000
    4. 要启动具有特定策略和优先级的新应用,请指定应用程序的名称:

      # chrt -f 36 /bin/my-app

18.6. chrt 命令的策略选项

使用 chrt 命令,您可以查看和设置进程的调度策略。

下表描述了适当的策略选项,可用于设置进程的调度策略。

表 18.1. chrt 命令的策略选项

短选项长选项描述

-f

--fifo

将调度设置为 SCHED_FIFO

-o

--other

将调度设置为 SCHED_OTHER

-r

--rr

将调度设置为 SCHED_RR

18.7. 在引导过程中更改服务优先级

使用 systemd 服务时,可以在引导过程中为启动的服务设置实时优先级。单元配置指令 用于在引导过程中更改服务的优先级。

引导过程优先级更改通过使用 service 部分中的以下指令进行:

CPUSchedulingPolicy=
设置已执行进程的 CPU 调度策略。它被用于设置 other, fifo, 和 rr 策略。
CPUSchedulingPriority=
设置已执行进程的 CPU 调度优先级。可用的优先级范围取决于所选的 CPU 调度策略。对于实时调度策略,可以使用 1(最低优先级)和 99 (最高优先级)之间的整数。

下面的步骤描述了如何使用 mcelog 服务在引导过程中更改服务的优先级。

先决条件

  1. 安装 tuned 软件包:

    # dnf install tuned
  2. 启用并启动 tuned 服务:

    # systemctl enable --now tuned

步骤

  1. 查看正在运行的线程的调度优先级:

    # tuna --show_threads
                          thread       ctxt_switches
        pid SCHED_ rtpri affinity voluntary nonvoluntary             cmd
      1      OTHER     0     0xff      3181          292         systemd
      2      OTHER     0     0xff       254            0        kthreadd
      3      OTHER     0     0xff         2            0          rcu_gp
      4      OTHER     0     0xff         2            0      rcu_par_gp
      6      OTHER     0        0         9            0 kworker/0:0H-kblockd
      7      OTHER     0     0xff      1301            1 kworker/u16:0-events_unbound
      8      OTHER     0     0xff         2            0    mm_percpu_wq
      9      OTHER     0        0       266            0     ksoftirqd/0
    [...]
  2. 创建附加 mcelog 服务配置文件,并在该文件中插入策略名称和优先级:

    # cat <<-EOF > /etc/systemd/system/mcelog.system.d/priority.conf
    
    >
    [SERVICE]
    CPUSchedulingPolicy=_fifo_
    CPUSchedulingPriority=_20_
    EOF
  3. 重新载入 systemd 脚本配置:

    # systemctl daemon-reload
  4. 重启 mcelog 服务:

    # systemctl restart mcelog

验证步骤

  • 显示 systemd 问题设置的 mcelog 优先级:

    # tuna -t mcelog -P
    thread       ctxt_switches
      pid SCHED_ rtpri affinity voluntary nonvoluntary             cmd
    826     FIFO    20  0,1,2,3        13            0          mcelog

其他资源

18.8. 优先级映射

优先级在组中定义,有一些组专用于特定内核功能。对于实时调度策略,可以使用 1(最低优先级)和 99 (最高优先级)之间的整数。

下表描述了优先级范围,可在设置进程的调度策略时使用。

表 18.2. 优先级范围的描述

Priority线程描述

1

低优先级内核线程

此优先级通常为需要超过 SCHED_OTHER 的任务保留。

2 - 49

可供使用

用于典型的应用程序优先级的范围。

50

默认 hard-IRQ 值

 

51 - 98

高优先级线程

对定期执行的线程使用此范围,且必须快速响应时间。不要将此范围用于 CPU 密集型线程,因为您将中断。

99

Watchdogs 和 migration

必须以最高优先级运行的系统线程。

18.9. TuneD cpu-partitioning 配置集

要为对延迟敏感的工作负载调整 Red Hat Enterprise Linux 9,红帽建议使用 cpu-partitioning TuneD 配置集。

在 Red Hat Enterprise Linux 9 之前,低延迟 Red Hat 文档描述了实现低延迟调整所需的大量低级别步骤。在 Red Hat Enterprise Linux 9 中,您可以使用 cpu-partitioning TuneD 配置集更有效地执行低延迟性能优化。根据个人低延迟应用程序的要求,此配置集可轻松自定义。

下图显示了如何使用 cpu-partitioning 配置集。这个示例使用 CPU 和节点布局。

图 18.1. cpu-partitioning 图

CPU 分区

您可以使用以下配置选项在 /etc/tuned/cpu-partitioning-variables.conf 文件中配置 cpu-partitioning 配置集:

带有负载均衡的隔离 CPU

在 cpu-partitioning 图中,从 4 到 23 编号的块是默认的隔离 CPU。在这些 CPU 上启用了内核调度程序的进程负载均衡。它专为需要内核调度程序负载平衡的多个线程的低延迟进程而设计。

您可以使用 isolated_cores=cpu-list 选项在 /etc/tuned/cpu-partitioning-variables.conf 文件中配置 cpu-partitioning 配置集,它列出了 CPU 来隔离将使用内核调度程序负载平衡。

隔离的 CPU 列表用逗号分开,也可以使用一个短划线(如 3-5 )指定范围。这个选项是必须的。这个列表中缺少的任何 CPU 会自动被视为内务 CPU。

没有负载均衡的隔离 CPU

在 cpu-partitioning 图中,编号为 2 和 3 的块是不提供任何其他内核调度程序进程负载均衡的隔离 CPU。

您可以使用 no_balance_cores=cpu-list 选项在 /etc/tuned/cpu-partitioning-variables.conf 文件中配置 cpu-partitioning 配置集,它列出了不使用内核调度程序负载平衡的 CPU。

指定 no_balance_cores 选项是可选的,但此列表中的任何 CPU 都必须是 isolated_cores 列表中所列 CPU 的子集。

使用这些 CPU 的应用程序线程需要单独固定到每个 CPU。

日常 CPU
cpu-partitioning-variables.conf 文件中没有隔离的 CPU 会自动被视为内务 CPU。在内务 CPU 上,允许执行所有服务、守护进程、用户进程、可移动内核线程、中断处理程序和内核计时器。

其他资源

  • tuned-profiles-cpu-partitioning(7) man page

18.10. 使用 TuneD cpu-partitioning 配置集进行低延迟调整

这个步骤描述了如何使用 TuneD 的 cpu-partitioning 配置集为低延迟调整系统。它使用了低延迟应用的示例,它可以使用 cpu-partitioning 和 CPU 布局,如 cpu-partitioning 图中所述。

本例中的应用程序使用了:

  • 从网络读取数据的专用的 reader 线程将固定到 CPU 2。
  • 处理此网络数据的大量线程将固定到 CPU 4-23。
  • 将处理的数据写入网络的专用写入器线程将固定到 CPU 3。

先决条件

  • 您已以 root 用户身份,使用 dnf install tuned-profiles-cpu-partitioning 命令安装 cpu-partitioning TuneD 配置集。

步骤

  1. 编辑 /etc/tuned/cpu-partitioning-variables.conf 文件并添加以下信息:

    # Isolated CPUs with the kernel’s scheduler load balancing:
    isolated_cores=2-23
    # Isolated CPUs without the kernel’s scheduler load balancing:
    no_balance_cores=2,3
  2. 设置 cpu-partitioning TuneD 配置集:

    # tuned-adm profile cpu-partitioning
  3. 重启

    重新引导后,将根据 cpu-partitioning 图中的隔离,为低延迟调优。该应用可以使用 taskset 将读取器和写入器线程固定到 CPU 2 和 3,以及 CPU 4-23 上剩余的应用程序线程。

其他资源

  • tuned-profiles-cpu-partitioning(7) man page

18.11. 自定义 cpu-partitioning TuneD 配置集

您可以扩展 TuneD 配置集,以进行额外的性能优化更改。

例如,cpu-partitioning 配置集将 CPU 设置为使用 cstate=1。要使用 cpu-partitioning 配置集,但额外将 CPU cstate 从 cstate1 更改为 cstate0,以下流程描述了一个新的 TuneD 配置集,名称为 my_profile,它继承 cpu-partitioning 配置集,然后设置 C state-0。

步骤

  1. 创建 /etc/tuned/my_profile 目录:

    # mkdir /etc/tuned/my_profile
  2. 在此目录中创建 tuned.conf 文件并添加以下内容:

    # vi /etc/tuned/my_profile/tuned.conf
    [main]
    summary=Customized tuning on top of cpu-partitioning
    include=cpu-partitioning
    [cpu]
    force_latency=cstate.id:0|1
  3. 使用新配置集:

    # tuned-adm profile my_profile
注意

在共享示例中,不需要重新启动。但是,如果 my_profile 配置集中的更改需要重新引导才能生效,则重新启动计算机。

其他资源

  • tuned-profiles-cpu-partitioning(7) man page

第 19 章 使用 systemd 管理应用程序使用的资源

RHEL 9 通过将 cgroup 层次结构的系统与 systemd 单元树绑定,将资源管理设置从进程级别移到应用程序级别。因此,您可以使用 systemctl 命令或通过修改 systemd 单元文件来管理系统资源。

要做到这一点,systemd 从单元文件或者直接通过 systemctl 命令获取各种配置选项。然后,systemd 通过使用 Linux 内核系统调用和 cgroupnamespaces 等功能将这些选项应用到特定的进程组。

注意

您可以在以下手册页中查看 systemd 的完整配置选项:

  • systemd.resource-control(5)
  • systemd.exec(5)

19.1. 使用 systemd 分配系统资源

要修改系统资源的发布,您可以应用一个或多个以下分发模型:

Weights(权重)

您可以通过增加所有子组的权重并为每个子组群分配资源,使其与总和总的比例匹配。

例如,如果您有 10 个 cgroups,则每个权重值为 100,sum 为 1000。每个 cgroup 会收到十分之一的资源。

权重通常用于分发无状态资源。例如, CPUWeight= 选项是此资源分布模型的实现。

Limits

cgroup 可以最多消耗配置的资源量。子组限值总和不能超过父 cgroup 的限值。因此,可以过量使用此模型中的资源。

例如, MemoryMax= 选项是此资源分发模型的实现。

Protections(保护)

您可以为 cgroup 设置受保护的资源量。如果资源使用量低于保护边界,内核将尝试不以竞争同一资源的 cgroup 替代其他 cgroup。可以过量使用。

例如,MemoryLow= 选项是此资源分发模型的实现。

Allocations(分配)
独占分配有限资源的绝对数量。不能过量使用。Linux 中这种资源类型的一个示例就是实时预算。
单元文件选项

资源控制配置的设置。

例如,您可以使用 CPUAccounting=CPUQuota= 等选项配置 CPU 资源。同样,您可以使用 AllowedMemoryNodes=IOAccounting= 等选项配置内存或 I/O 资源。

流程

要更改服务的单元文件选项所需的值,您可以调整单元文件中的值,或使用 systemctl 命令:

  1. 检查您选择的服务的分配值。

    # systemctl show --property <unit file option> <service name>
  2. 设置 CPU 时间分配策略选项的必要值:

    # systemctl set-property <service name> <unit file option>=<value>

验证步骤

  • 检查您选择的服务新分配的值。

    # systemctl show --property <unit file option> <service name>

其他资源

  • systemd.resource-control(5), systemd.exec(5) manual pages

19.2. 资源管理中的 systemd 角色

systemd 的核心功能是服务管理和监管。systemd 系统和服务管理器确保管理服务在正确时间启动,并在启动过程中以正确顺序启动。该服务必须平稳运行,才能以最佳方式使用底层硬件平台。因此,systemd 还提供用于定义资源管理策略的功能,以及调整各种选项,这可以提高服务的性能。

重要

通常,红帽建议您使用 systemd 来控制系统资源的使用。您应该只在特殊情况下手动配置 cgroups 虚拟文件系统。例如,当您需要使用在 cgroup-v2 层次结构中没有对应的 cgroup-v1 控制器时。

19.3. cgroups 的 systemd 层次结构概述

在后端,systemd 系统和服务管理器利用 slicescopeservice 单元来整理和整理控制组中的进程。您可以通过创建自定义单元文件或使用 systemctl 命令来进一步修改此层次结构。另外,systemd 会在 /sys/fs/cgroup/ 目录中自动挂载重要内核资源控制器的层次结构。

三种 systemd 单元类型用于资源控制:

  • Service - systemd 根据单元配置文件启动的进程或一组进程。服务封装指定的进程,以便它们可以作为一个集启动和停止。服务使用以下方法命名:

    <name>.service
  • Scope - 外部创建的进程组。范围封装通过 fork() 函数由任意进程启动和停止的进程,然后在运行时由 systemd 注册。例如,用户会话、容器和虚拟机被视为范围。范围命名如下:

    <name>.scope
  • slice - 一组分级组织单元。片段组织了一个分级,其中放置范围和服务。实际的进程包含在范围或服务中。slice 单元的每个名称对应层次结构中的位置的路径。短划线 ("-") 字符充当了分隔符的作用,它把路径组件从 -.slice root slice 中分隔。在以下示例中:

    <parent-name>.slice

    parent-name.sliceparent.slice 的子分片,它是 -.slice root 片段的子分片。parent-name.slice 可以有自己的子slice 名为 parent-name-name2.slice,以此类推。

servicescopeslice 单元直接映射到控制组层次结构中的对象。激活这些单元后,它们直接映射到从单元名称构建的控制组路径。

以下是控制组群分级的缩写示例:

Control group /:
-.slice
├─user.slice
│ ├─user-42.slice
│ │ ├─session-c1.scope
│ │ │ ├─ 967 gdm-session-worker [pam/gdm-launch-environment]
│ │ │ ├─1035 /usr/libexec/gdm-x-session gnome-session --autostart /usr/share/gdm/greeter/autostart
│ │ │ ├─1054 /usr/libexec/Xorg vt1 -displayfd 3 -auth /run/user/42/gdm/Xauthority -background none -noreset -keeptty -verbose 3
│ │ │ ├─1212 /usr/libexec/gnome-session-binary --autostart /usr/share/gdm/greeter/autostart
│ │ │ ├─1369 /usr/bin/gnome-shell
│ │ │ ├─1732 ibus-daemon --xim --panel disable
│ │ │ ├─1752 /usr/libexec/ibus-dconf
│ │ │ ├─1762 /usr/libexec/ibus-x11 --kill-daemon
│ │ │ ├─1912 /usr/libexec/gsd-xsettings
│ │ │ ├─1917 /usr/libexec/gsd-a11y-settings
│ │ │ ├─1920 /usr/libexec/gsd-clipboard
…​
├─init.scope
│ └─1 /usr/lib/systemd/systemd --switched-root --system --deserialize 18
└─system.slice
  ├─rngd.service
  │ └─800 /sbin/rngd -f
  ├─systemd-udevd.service
  │ └─659 /usr/lib/systemd/systemd-udevd
  ├─chronyd.service
  │ └─823 /usr/sbin/chronyd
  ├─auditd.service
  │ ├─761 /sbin/auditd
  │ └─763 /usr/sbin/sedispatch
  ├─accounts-daemon.service
  │ └─876 /usr/libexec/accounts-daemon
  ├─example.service
  │ ├─ 929 /bin/bash /home/jdoe/example.sh
  │ └─4902 sleep 1
  …​

上面的例子显示,服务和范围包含进程,并放置在不含自己进程的片段中。

其他资源

19.4. 列出 systemd 单元

以下流程描述了如何使用 systemd 系统和服务管理器列出其单元。

步骤

  • 要列出系统中的所有活跃单元,执行 # systemctl 命令,终端将返回类似以下示例的输出:

    # systemctl
    UNIT                                                LOAD   ACTIVE SUB       DESCRIPTION
    …​
    init.scope                                          loaded active running   System and Service Manager
    session-2.scope                                     loaded active running   Session 2 of user jdoe
    abrt-ccpp.service                                   loaded active exited    Install ABRT coredump hook
    abrt-oops.service                                   loaded active running   ABRT kernel log watcher
    abrt-vmcore.service                                 loaded active exited    Harvest vmcores for ABRT
    abrt-xorg.service                                   loaded active running   ABRT Xorg log watcher
    …​
    -.slice                                             loaded active active    Root Slice
    machine.slice                                       loaded active active    Virtual Machine and Container Slice system-getty.slice                                                                       loaded active active    system-getty.slice
    system-lvm2\x2dpvscan.slice                         loaded active active    system-lvm2\x2dpvscan.slice
    system-sshd\x2dkeygen.slice                         loaded active active    system-sshd\x2dkeygen.slice
    system-systemd\x2dhibernate\x2dresume.slice         loaded active active    system-systemd\x2dhibernate\x2dresume>
    system-user\x2druntime\x2ddir.slice                 loaded active active    system-user\x2druntime\x2ddir.slice
    system.slice                                        loaded active active    System Slice
    user-1000.slice                                     loaded active active    User Slice of UID 1000
    user-42.slice                                       loaded active active    User Slice of UID 42
    user.slice                                          loaded active active    User and Session Slice
    …​
    • UNIT - 反映控制组群层次结构中的单元位置的单元名称。与资源控制相关的单元是 slicescopeservice
    • LOAD - 指示单元配置文件是否已正确加载。如果单元文件加载失败,该字段包含状态 error 而不是 loaded。其他单元负载状态为: stubmergemasked
    • ACTIVE - 高级单元激活状态,即 SUB 的一般化。
    • SUB - 低级单元激活状态。可能的值的范围取决于单元类型。
    • DESCRIPTION - 单元内容和功能的描述。
  • 要列出不活跃单元,请执行:

    # systemctl --all
  • 要限制输出中的信息量,请执行:

    # systemctl --type service,masked

    --type 选项需要一个以逗号分隔的单元类型列表,如 serviceslice,或者单元载入状态,如 loadedmasked

其他资源

19.5. 查看 systemd 控制组群层次结构

以下流程描述了如何显示控制组 (cgroup) 层次结构和在特定 cgroup 中运行的进程。

步骤

  • 要在系统中显示整个 cgroups 层次结构,请执行 # systemd-cgls

    # systemd-cgls
    Control group /:
    -.slice
    ├─user.slice
    │ ├─user-42.slice
    │ │ ├─session-c1.scope
    │ │ │ ├─ 965 gdm-session-worker [pam/gdm-launch-environment]
    │ │ │ ├─1040 /usr/libexec/gdm-x-session gnome-session --autostart /usr/share/gdm/greeter/autostart
    …​
    ├─init.scope
    │ └─1 /usr/lib/systemd/systemd --switched-root --system --deserialize 18
    └─system.slice
      …​
      ├─example.service
      │ ├─6882 /bin/bash /home/jdoe/example.sh
      │ └─6902 sleep 1
      ├─systemd-journald.service
        └─629 /usr/lib/systemd/systemd-journald
      …​

    示例输出返回整个 cgroups 层次结构,其中最高级别由 slices 组成。

  • 要显示根据资源控制器过滤的 cgroups 层次结构,执行 # systemd-cgls <resource_controller>

    # systemd-cgls memory
    Controller memory; Control group /:
    ├─1 /usr/lib/systemd/systemd --switched-root --system --deserialize 18
    ├─user.slice
    │ ├─user-42.slice
    │ │ ├─session-c1.scope
    │ │ │ ├─ 965 gdm-session-worker [pam/gdm-launch-environment]
    …​
    └─system.slice
      |
      …​
      ├─chronyd.service
      │ └─844 /usr/sbin/chronyd
      ├─example.service
      │ ├─8914 /bin/bash /home/jdoe/example.sh
      │ └─8916 sleep 1
      …​

    以上命令的输出示例列出了与所选控制器交互的服务。

  • 要显示特定单元及其 cgroups 层次结构部分的详细信息,请执行 # systemctl status <system_unit>

    # systemctl status example.service
    ● example.service - My example service
       Loaded: loaded (/usr/lib/systemd/system/example.service; enabled; vendor preset: disabled)
       Active: active (running) since Tue 2019-04-16 12:12:39 CEST; 3s ago
     Main PID: 17737 (bash)
        Tasks: 2 (limit: 11522)
       Memory: 496.0K (limit: 1.5M)
       CGroup: /system.slice/example.service
               ├─17737 /bin/bash /home/jdoe/example.sh
               └─17743 sleep 1
    Apr 16 12:12:39 redhat systemd[1]: Started My example service.
    Apr 16 12:12:39 redhat bash[17737]: The current time is Tue Apr 16 12:12:39 CEST 2019
    Apr 16 12:12:40 redhat bash[17737]: The current time is Tue Apr 16 12:12:40 CEST 2019

其他资源

19.6. 查看进程的 cgroup

以下流程描述了如何了解进程所属的 控制组 (cgroup)。然后,您可以检查 cgroup,以了解它所使用的控制器和特定于控制器的配置。

流程

  1. 要查看某个进程所属的 cgroup,请运行 # cat proc/<PID>/cgroup 命令:

    # cat /proc/2467/cgroup
    0::/system.slice/example.service

    输出示例与关注进程相关。在这种情况下,它是由 PID 2467 来标识的进程,它属于 example.service 单元。您可以确定该过程是否放置在 systemd 单元文件规格定义的正确控制组中。

  2. 要显示 cgroup 使用哪些控制器以及相应的配置文件,请检查 cgroup 目录:

    # cat /sys/fs/cgroup/system.slice/example.service/cgroup.controllers
    memory pids
    
    # ls /sys/fs/cgroup/system.slice/example.service/
    cgroup.controllers
    cgroup.events
    …​
    cpu.pressure
    cpu.stat
    io.pressure
    memory.current
    memory.events
    …​
    pids.current
    pids.events
    pids.max
注意

cgroup 版本 1 层次结构使用每个控制器模型。因此,/proc/PID/cgroup 文件中的输出显示,PID 所属的每个控制器下的 cgroups。您可以在控制器目录(/sys/fs/cgroup/<controller_name>/)中查找相应的 cgroup

其他资源

  • cgroups(7) 手册页
  • 什么是内核资源控制器
  • /usr/share/doc/kernel-doc-<kernel_version>/Documentation/admin-guide/cgroup-v2.rst 文件的文档(安装 kernel-doc 软件包)

19.7. 监控资源消耗

以下流程描述了如何实时查看当前正在运行的控制组 (cgroup) 列表及其资源消耗情况。

步骤

  1. 要查看当前运行的 cgroup 的动态帐户,请执行 # systemd-cgtop 命令:

    # systemd-cgtop
    Control Group                            Tasks   %CPU   Memory  Input/s Output/s
    /                                          607   29.8     1.5G        -        -
    /system.slice                              125      -   428.7M        -        -
    /system.slice/ModemManager.service           3      -     8.6M        -        -
    /system.slice/NetworkManager.service         3      -    12.8M        -        -
    /system.slice/accounts-daemon.service        3      -     1.8M        -        -
    /system.slice/boot.mount                     -      -    48.0K        -        -
    /system.slice/chronyd.service                1      -     2.0M        -        -
    /system.slice/cockpit.socket                 -      -     1.3M        -        -
    /system.slice/colord.service                 3      -     3.5M        -        -
    /system.slice/crond.service                  1      -     1.8M        -        -
    /system.slice/cups.service                   1      -     3.1M        -        -
    /system.slice/dev-hugepages.mount            -      -   244.0K        -        -
    /system.slice/dev-mapper-rhel\x2dswap.swap   -      -   912.0K        -        -
    /system.slice/dev-mqueue.mount               -      -    48.0K        -        -
    /system.slice/example.service                2      -     2.0M        -        -
    /system.slice/firewalld.service              2      -    28.8M        -        -
    ...

    示例输出显示当前运行的 cgroups,按照资源使用量排序(CPU、内存、磁盘 I/O 负载)。这个列表默认每 1 秒刷新一次。因此,它提供了一个动态洞察每个控制组的实际资源使用情况。

其他资源

  • systemd-cgtop(1) manual page

19.8. 使用 systemd 单元文件为应用程序设置限制

每个现有的或运行单元都由 systemd 监管,这也会为它们创建控制组。该单元在 /usr/lib/systemd/system/ 目录中有配置文件。您可以手动修改单元文件,为进程组设置限制、优先级或控制对硬件资源的访问。

先决条件

  • root 权限。

流程

  1. 修改 /usr/lib/systemd/system/example.service 文件,以限制服务的内存用量:

    …
    [Service]
    MemoryMax=1500K
    …

    以上配置会放置最大内存限值,控制组中的进程不能超过这个值。example.service 服务是此类控制组群的一部分,它有一定的限制。使用后缀 K、M、G 或 T 将 Kilobyte、Megabyte、Gigabyte 或 Terabyte 作为一个测量单位。

  2. 重新载入所有单元配置文件:

    # systemctl daemon-reload
  3. 重启服务:

    # systemctl restart example.service
注意

您可以在以下手册页中查看 systemd 的完整配置选项:

  • systemd.resource-control(5)
  • systemd.exec(5)

验证

  1. 检查更改是否生效:

    # cat /sys/fs/cgroup/system.slice/example.service/memory.max
    1536000

    示例输出显示,内存消耗会限制在大约 1,500 KB。

其他资源

19.9. 使用 systemctl 命令将限制设置为应用程序

CPU 关联性设置可帮助您将特定进程的访问限制到某些 CPU。实际上,CPU 调度程序永远不会将进程调度到不在进程的关联性掩码中的 CPU 上运行。

默认 CPU 关联性掩码应用到 systemd 管理的所有服务。

要为特定 systemd 服务配置 CPU 关联性掩码,systemd 提供 CPUAffinity= 作为单元文件选项,以及 /etc/systemd/system.conf 文件中的管理器配置选项。

CPUAffinity= 单元文件选项 设置 CPU 或 CPU 范围列表,这些范围合并并用作关联性掩码。

为特定 systemd 服务配置 CPU 关联性掩码后,您必须重启该服务以应用更改。

流程

使用 CPUAffinity 单元文件选项为特定 systemd 服务设置 CPU 关联性掩码:

  1. 在您选择的服务中检查 CPUAffinity 单元文件选项的值:

    $ systemctl show --property <CPU affinity configuration option> <service name>
  2. 作为 root 用户,为用作关联性掩码的 CPU 范围设置 CPUAffinity 单元文件选项的所需值:

    # systemctl set-property <service name> CPUAffinity=<value>
  3. 重新启动服务以应用更改。

    # systemctl restart <service name>
注意

您可以在以下手册页中查看 systemd 的完整配置选项:

  • systemd.resource-control(5)
  • systemd.exec(5)

19.10. 通过管理器配置设置全局默认 CPU 关联性

/etc/systemd/system.conf 文件中的 CPUAffinity 选项 为进程识别号 (PID)1 和从 PID1 分叉的所有进程定义关联性掩码。然后,您可以基于每个服务覆盖 CPUAffinity

使用管理器配置选项为所有 systemd 服务设置默认 CPU 关联性掩码:

  1. /etc/systemd/system.conf 文件中设置 CPUAffinity= 选项的 CPU 编号。
  2. 保存编辑的文件并重新载入 systemd 服务:

    # systemctl daemon-reload
  3. 重启服务器以应用更改。
注意

您可以在以下手册页中查看 systemd 的完整配置选项:

  • systemd.resource-control(5)
  • systemd.exec(5)

19.11. 使用 systemd 配置 NUMA 策略

非统一内存访问 (NUMA) 是一种计算机内存子系统设计,其中内存访问时间取决于处理器的物理内存位置。

接近 CPU 的内存的延迟(外部内存)比其他 CPU 本地内存低,或者在一组 CPU 间共享。

就 Linux 内核而言,NUMA 策略管理内核为进程分配物理内存页面的位置(例如,在哪些 NUMA 节点上)。

systemd 提供单元文件选项 NUMAPolicyNUMAMask,以控制服务的内存分配策略。

流程

通过 NUMAPolicy 单元文件选项设置 NUMA 内存策略:

  1. 在您选择的服务中检查 NUMAPolicy 单元文件选项的值:

    $ systemctl show --property <NUMA policy configuration option> <service name>
  2. 作为根目录,设置 NUMAPolicy 单元文件选项所需的策略类型:

    # systemctl set-property <service name> NUMAPolicy=<value>
  3. 重新启动服务以应用更改。

    # systemctl restart <service name>

通过 Manager 配置选项设置全局 NUMAPolicy 设置:

  1. /etc/systemd/system.conf 文件中搜索 NUMAPolicy 选项。
  2. 编辑策略类型并保存文件。
  3. 重新载入 systemd 配置:

    # systemd daemon-reload
  4. 重启服务器。
重要

当您配置严格的 NUMA 策略时,例如 bind,请确保也适当地设置 CPUAffinity= 单元文件选项。

其他资源

19.12. systemd 的 NUMA 策略配置选项

systemd 提供以下选项来配置 NUMA 策略:

NUMAPolicy

控制已执行进程的 NUMA 内存策略。可能会有以下策略类型:

  • default
  • preferred
  • bind
  • interleave
  • local
NUMAMask

控制与所选 NUMA 策略关联的 NUMA 节点列表。

请注意,不需要为以下策略指定 NUMAMask 选项:

  • default
  • local

对于首选策略,列表仅指定单个 NUMA 节点。

其他资源

  • systemd.resource-control(5)systemd.exec(5)set_mempolicy(2) 手册页

19.13. 使用 systemd-run 命令创建临时 cgroup

临时 cgroup 设置运行时期间由单元(服务或范围)消耗的资源的限制。

步骤

  • 要创建一个临时控制组群,使用以下格式的 systemd-run 命令:

    # systemd-run --unit=<name> --slice=<name>.slice <command>

    此命令会创建并启动临时服务或范围单元,并在此类单元中运行自定义命令。

    • --unit=<name> 选项为单元取一个名称。如果未指定 --unit,则会自动生成名称。
    • --slice=<name>.slice 选项使您的服务或范围单元成为指定片段的成员。将 <name>.slice 替换为现有片段的名称(如 systemctl -t slice 输出中所示),或通过传递唯一名称来创建新片段。默认情况下,服务和范围作为 system.slice 的成员创建。
    • <command> 替换为您要在服务或范围单元中执行的命令。

      此时会显示以下信息,以确认您已创建并启动了该服务,或者已成功启动范围:

      # Running as unit <name>.service
  • 另外,还可在完成进程后继续运行该单元以收集运行时信息:

    # systemd-run --unit=<name> --slice=<name>.slice --remain-after-exit <command>

    命令可创建并启动一个临时服务单元,并在此类单元中运行自定义命令。--remain-after-exit 选项可确保服务在其进程完成后继续运行。

其他资源

19.14. 删除临时控制组群

如果您不再需要限制、确定或控制对进程组的硬件资源的访问,您可以使用 systemd 系统和服务管理器删除临时控制组 (cgroup)。

一旦服务或范围单元所包含的所有进程完成后,临时 cgroup 将自动释放。

步骤

  • 要使用所有进程停止服务单元,请执行:

    # systemctl stop name.service
  • 要终止一个或多个单元进程,请执行:

    # systemctl kill name.service --kill-who=PID,... --signal=<signal>

    以上命令使用 --kill-who 选项从您要终止的控制组中选择进程。要同时终止多个进程,请传递以逗号分隔的 PID 列表。--signal 决定要发送到指定进程的 POSIX 信号的类型。默认信号是 SIGTERM

其他资源

第 20 章 了解 cgroups

您可以使用 控制组 (cgroup) 内核功能来设置限值、排列优先级或隔离进程的硬件资源。这样,您可以精细地控制应用的资源使用,从而更有效地使用它们。

20.1. 了解控制组群

控制组 是一种 Linux 内核功能,可让您将进程分级组织为分层组 - cgroups。层次结构(控制组树)通过为 cgroup 虚拟文件系统提供结构来定义,该结构默认挂载到 /sys/fs/cgroup/ 目录。systemd 系统和服务管理器利用 cgroups 来组织它管理的所有单元和服务。另外,您可以通过在 /sys/fs/cgroup/ 目录中创建和删除子目录来手动管理 cgroups 层次结构。

资源控制器(内核组件)随后通过限制、排列或分配系统资源(如 CPU 时间、内存、网络带宽或各种组合)来修改 cgroup 中进程的行为。

cgroups 的增值值是流程聚合,允许在应用程序和用户之间划分硬件资源。因此可以提高总体的效率、稳定性以及用户环境的安全。

控制组群版本 1

控制组版本 1 (cgroups-v1) 提供按资源控制器层次结构。这意味着,每个资源(如 CPU、内存、I/O 等)都有自己的控制组层次结构。可以组合不同的控制组层次结构,从而使一个控制器可以在管理各自资源时相互协调。但是,这两个控制器可能属于不同的进程层次结构,不允许它们进行适当的协调。

cgroups-v1 控制器在很长的时间跨度开发,因此其控制文件的行为和命名不一致。

控制组群版本 2

源自层次结构灵活性的控制器协调问题导致了控制组版本 2 的开发。

控制组版本 2 (cgroups-v2)提供单一控制组层次结构,用于挂载所有资源控制器。

控制文件行为和命名在不同控制器之间保持一致。

重要

默认情况下,RHEL 9 挂载并使用 cgroups-v2

这个子部分基于 Devconf.cz 2019 演示。[2]

其他资源

20.2. 什么是内核资源控制器

控制组群的功能由内核资源控制器启用。RHEL 9 支持适用于控制组版本 1 (cgroups-v1) and 控制组版本 2 (cgroups-v2) 的不同控制器。

资源控制器也称为控制组子系统,是一个代表单一资源的内核子系统,如 CPU 时间、内存、网络带宽或磁盘 I/O。Linux 内核提供由 systemd 系统和服务管理器自动挂载的一系列资源控制器。在 /proc/cgroups 文件中查找当前挂载的资源控制器的列表。

cgroups-v1 有以下控制器可用:

  • blkio - 可以设置块设备对输入/输出访问的限制。
  • CPU - 调整完全公平调度程序 (CFS) 调度程序的参数,以用于控制组的任务。它与 cpuacct 控制器一起挂载在同一挂载上。
  • cpuacct - 创建控制组中任务使用的 CPU 资源自动报告。它与 cpu 控制器一起挂载在同一挂载上。
  • cpuset - 可用于将控制组任务限制为仅在指定 CPU 子集上运行,并指示任务仅在指定内存节点上使用内存。
  • devices - 可以为控制组中的任务控制对设备的访问。
  • freezer - 可用于暂停或恢复控制组中的任务。
  • memory - 可用于设置控制组中任务的内存使用限值,并对这些任务使用的内存资源生成自动报告。
  • net_cls - 使用类标识符 (classid) 标记网络数据包,使 Linux 流量控制器( tc 命令)能够识别源自特定控制组任务的数据包。net_cls 子系统 net_filter (iptables) 也可使用此标签对此类数据包执行操作。net_filter 使用防火墙标识符 (fwid) 标记网络套接字,允许 Linux 防火墙(通过 iptables 命令)识别源自特定控制组任务的数据包。
  • net_prio - 设置网络流量的优先级.
  • pids - 可以为控制组中的多个进程及其子进程设置限值.
  • perf_event - 可以通过 perf 性能监控和报告实用程序对任务进行分组,以进行监控。
  • rdma - 可以在控制组中设置远程直接内存访问/InfiniBand 特定资源的限值。
  • hugetlb - 可用于根据控制组群中的任务限制大量虚拟内存页面的使用。

以下控制器可用于 cgroups-v2

  • io - cgroups-v1blkio 的后续。
  • memory - cgroups-v1memory 的后续.
  • pids - 与 cgroups-v1 中的 pids 相同。
  • rdma - cgroups-v1 中的 相同.
  • cpu - cgroups-v1cpucpuacct 的后续。
  • cpuset - 仅支持带有新分区功能的核心功能 (cpus{,.effective}, mems{,.effective}),带有一个新的分区特性。
  • perf_event - 支持是继承的,没有显式控制文件。您可以将 v2 cgroup 指定为 perf 命令的参数,以分析该 cgroup 中的所有任务。
重要

资源控制器可以在 cgroups-v1 层次结构或 cgroups-v2 层次结构中使用,不能同时在两者中使用。

其他资源

  • cgroups(7) 手册页
  • /usr/share/doc/kernel-doc-<kernel_version>/Documentation/cgroups-v1/ 目录(安装 kernel-doc 包后)的文档。

20.3. 什么是命名空间

命名空间是整理和识别软件对象的最重要的方法之一。

命名空间将全局系统资源(如挂载点、网络设备或主机名)嵌套在抽象中,从而使它出现在命名空间内具有自己隔离的全局资源实例中的进程。使用命名空间的最常用的技术是容器。

对特定全局资源的更改仅对该命名空间中的进程可见,不影响系统或其他命名空间的其余部分。

要检查进程所属的命名空间,您可以在 /proc/<PID>/ns/ 目录中检查符号链接。

下表显示了它们隔离支持的命名空间和资源:

命名空间Isolates

Mount

挂载点

UTS

主机名和 NIS 域名

IPC

系统 V IPC, POSIX 消息队列

PID

进程 ID

Network

网络设备、堆栈、端口等

User

用户和组群 ID

Control groups

控制组群根目录

其他资源



[2] Linux Control Group v2 - An Introduction, Devconf.cz 2019 presentation by Waiman Long

第 21 章 使用 zswap 提高系统性能

您可以通过启用 zswap 内核功能来提高系统性能。

21.1. 什么是 zswap

本节介绍 zswap 是什么以及如何提高系统性能。

zswap 是一个内核功能,它为交换页面提供压缩的 RAM 缓存。这个机制的工作方式如下:zswap 使用正在交换过程中的页面,并尝试将它们压缩到基于内存的动态分配内存池中。当池变满或 RAM 耗尽时,zswap 在 LRU 基础上(最近使用早期使用)从压缩缓存驱除页面。在页面解压缩到交换缓存中后,zswap 可以释放池中的压缩版本。

zswap 的优点
  • 显著减少了 I/O
  • 显著改进工作负载性能

在 Red Hat Enterprise Linux 9 中,zswap 被默认启用。

其他资源

21.2. 在运行时启用 zswap

您可以使用 sysfs 接口在系统运行时启用 zswap 功能。

先决条件

  • 有 root 权限。

流程

  • 启用 zswap

    # echo 1 > /sys/module/zswap/parameters/enabled

验证步骤

  • 验证 zswap 是否已启用:

    # grep -r . /sys/kernel/debug/zswap
    
    duplicate_entry:0
    pool_limit_hit:13422200
    pool_total_size:6184960 (pool size in total in pages)
    reject_alloc_fail:5
    reject_compress_poor:0
    reject_kmemcache_fail:0
    reject_reclaim_fail:13422200
    stored_pages:4251 (pool size after compression)
    written_back_pages:0

21.3. 永久启用 zswap

您可以通过提供 zswap.enabled=1 内核命令行参数来永久启用 zswap 功能。

先决条件

  • 有 root 权限。
  • 在您的系统中安装了 grubbyzipl 工具。

流程

  1. 永久启用 zswap

    # grubby --update-kernel=/boot/vmlinuz-$(uname -r) --args="zswap.enabled=1"
  2. 重启系统以使更改生效。

验证步骤

  • 验证 zswap 是否已启用:

    # cat /proc/cmdline
    
    BOOT_IMAGE=(hd0,msdos1)/vmlinuz-5.14.0-70.5.1.el9_0.x86_64
    root=/dev/mapper/rhel-root ro crashkernel=1G-4G:192M,4G-64G:256M,64G-:512M
    resume=/dev/mapper/rhel-swap rd.lvm.lv=rhel/root
    rd.lvm.lv=rhel/swap rhgb quiet
    zswap.enabled=1

第 22 章 使用 cgroupfs 手动管理 cgroup

您可以通过在 cgroupfs 虚拟文件系统中创建目录来管理系统上的 cgroup 层次结构。文件系统默认挂载到 /sys/fs/cgroup/ 目录中,您可以在专用控制文件中指定所需的配置。

重要

通常,红帽建议您使用 systemd 来控制系统资源的使用。您应该只在特殊情况下手动配置 cgroups 虚拟文件系统。例如,当您需要使用在 cgroup-v2 层次结构中没有对应的 cgroup-v1 控制器时。

22.1. 在 cgroups-v2 文件系统中创建 cgroup 和启用控制器

您可以通过创建和删除目录,并通过写入 cgroup 虚拟文件系统中文件来管理 控制组 ( cgroups )。文件系统默认挂载到 /sys/fs/cgroup/ 目录中。要使用 cgroups 控制器中的设置,您还需要为子 cgroup 启用所需的控制器。在默认情况下,root cgroup 会为其子 cgroups 启用 memorypids。因此,红帽建议在 /sys/fs/cgroup/ root cgroup 中创建至少两个级别的子 cgroup。这样,您可以选择从子 cgroup 中删除 memorypids 控制器,并更好地组织 cgroup 文件。

先决条件

  • 有 root 权限。

流程

  1. 创建 /sys/fs/cgroup/Example/ 目录:

    # mkdir /sys/fs/cgroup/Example/

    /sys/fs/cgroup/Example/ 目录定义一个子组。当您创建 /sys/fs/cgroup/Example/ 目录时,目录中会自动创建一些 cgroups-v2 接口文件。/sys/fs/cgroup/Example/ 目录还包含针对 内存pids 控制器的特定于控制器的文件。

  2. (可选)检查新创建的子组:

    # ll /sys/fs/cgroup/Example/
    -r—​r—​r--. 1 root root 0 Jun  1 10:33 cgroup.controllers
    -r—​r—​r--. 1 root root 0 Jun  1 10:33 cgroup.events
    -rw-r—​r--. 1 root root 0 Jun  1 10:33 cgroup.freeze
    -rw-r—r--. 1 root root 0 Jun  1 10:33 cgroup.procs
    …​
    -rw-r—​r--. 1 root root 0 Jun  1 10:33 cgroup.subtree_control
    -r—​r—​r--. 1 root root 0 Jun  1 10:33 memory.events.local
    -rw-r—​r--. 1 root root 0 Jun  1 10:33 memory.high
    -rw-r—​r--. 1 root root 0 Jun  1 10:33 memory.low
    …​
    -r—​r—​r--. 1 root root 0 Jun  1 10:33 pids.current
    -r—​r—​r--. 1 root root 0 Jun  1 10:33 pids.events
    -rw-r—​r--. 1 root root 0 Jun  1 10:33 pids.max

    示例输出显示常规 cgroup 控制接口文件,如 cgroup.procscgroup.controllers。无论启用控制器是什么,这些文件都是所有控制组通用的。

    memory.highpids.max 等文件与 memorypids 控制器有关,它们是 root 控制组(/sys/fs/cgroup/),默认情况下会被 systemd 启用。

    默认情况下,新创建的子组从父 cgroup 继承所有设置。在这种情况下,来自 root cgroup 没有限制。

  3. 验证 /sys/fs/cgroup/cgroup.controllers 文件中是否有所需的控制器:

    # cat /sys/fs/cgroup/cgroup.controllers
    cpuset cpu io memory hugetlb pids rdma
  4. 启用所需的控制器。在本例中是 cpucpuset 控制器:

    # echo "+cpu" >> /sys/fs/cgroup/cgroup.subtree_control
    # echo "+cpuset" >> /sys/fs/cgroup/cgroup.subtree_control

    这些命令为 /sys/fs/cgroup/ root 控制组的直接子组启用 cpucpuset 控制器。包含新创建的 Example 控制组。子组 是可以指定进程,并根据标准对每个进程应用控制检查的位置。

    用户可以在任何级别上读取 cgroup.subtree_control 文件的内容,以了解哪些控制器将在直接子组中启用。

    注意

    默认情况下,root 控制组群中的 /sys/fs/cgroup/cgroup.subtree_control 文件包含 内存pids 控制器。

  5. Example 控制组群的子 cgroup 启用所需的控制器:

    # echo "+cpu +cpuset" >> /sys/fs/cgroup/Example/cgroup.subtree_control

    这些命令可确保,直接的子组具有与 CPU 时间分发相关的控制器,而不是 memorypids 控制器。

  6. 创建 /sys/fs/cgroup/Example/tasks/ 目录:

    # mkdir /sys/fs/cgroup/Example/tasks/

    /sys/fs/cgroup/Example/tasks/ 目录定义了一个子组,它带有只与 cpucpuset 控制器相关的文件。现在,您可以将进程分配到此控制组,并将 cpucpuset 控制器选项用于您的进程。

  7. (可选)检查子控制组群:

    # ll /sys/fs/cgroup/Example/tasks
    -r—​r—​r--. 1 root root 0 Jun  1 11:45 cgroup.controllers
    -r—​r—​r--. 1 root root 0 Jun  1 11:45 cgroup.events
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cgroup.freeze
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cgroup.max.depth
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cgroup.max.descendants
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cgroup.procs
    -r—​r—​r--. 1 root root 0 Jun  1 11:45 cgroup.stat
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cgroup.subtree_control
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cgroup.threads
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cgroup.type
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cpu.max
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cpu.pressure
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cpuset.cpus
    -r—​r—​r--. 1 root root 0 Jun  1 11:45 cpuset.cpus.effective
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cpuset.cpus.partition
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cpuset.mems
    -r—​r—​r--. 1 root root 0 Jun  1 11:45 cpuset.mems.effective
    -r—​r—​r--. 1 root root 0 Jun  1 11:45 cpu.stat
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cpu.weight
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 cpu.weight.nice
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 io.pressure
    -rw-r—​r--. 1 root root 0 Jun  1 11:45 memory.pressure
重要

只有相关的子组至少有 2 个进程在单个 CPU 上竞争时,才会激活 cpu 控制器。

验证步骤

  • 可选:确认您已创建了一个新 cgroup,且只有所需控制器活跃:

    # cat /sys/fs/cgroup/Example/tasks/cgroup.controllers
    cpuset cpu

其他资源

22.2. 通过调整 CPU 权重来控制应用程序的 CPU 时间

您需要为 cpu 控制器的相关文件分配值,以规范特定 cgroup 树下的应用程序分布 CPU 时间。

先决条件

  • 有 root 权限。
  • 您有要控制 CPU 时间分布的应用程序。
  • 您在 /sys/fs/cgroup/ root 控制组群中创建两个级别的子控制组群,如下例所示:

    …​
      ├── Example
      │   ├── g1
      │   ├── g2
      │   └── g3
    …​
  • 您已在父控制组和子控制组中启用 cpu 控制器,类似于在 cgroups-v2 文件系统中创建 cgroups 并启用控制器

流程

  1. 配置所需的 CPU 权重以便在控制组群内实施资源限制:

    # echo "150" > /sys/fs/cgroup/Example/g1/cpu.weight
    # echo "100" > /sys/fs/cgroup/Example/g2/cpu.weight
    # echo "50" > /sys/fs/cgroup/Example/g3/cpu.weight
  2. 将应用程序的 PID 添加到 g1g2g3 子组中:

    # echo "33373" > /sys/fs/cgroup/Example/g1/cgroup.procs
    # echo "33374" > /sys/fs/cgroup/Example/g2/cgroup.procs
    # echo "33377" > /sys/fs/cgroup/Example/g3/cgroup.procs

    示例命令可确保所需的应用程序成为 Example/g*/ 子 cgroup 的成员,并获取按照这些 cgroup 配置分发的 CPU 时间。

    已在运行的子 cgroups (g1, g2, g3) 的权重在父 cgroup (Example) 一级计算其总和。然后,CPU 资源会根据对应的权重按比例分发。

    因此,当所有进程都同时运行时,内核会根据相应 cgroup 的 cpu.weight 文件为每个进程分配相应比例的 CPU 时间:

    子 cgroupcpu.weight 文件CPU 时间分配

    g1

    150

    ~50% (150/300)

    g2

    100

    ~33% (100/300)

    g3

    50

    ~16% (50/300)

    cpu.weight 控制器文件的值不是一个百分比。

    如果一个进程停止运行,造成 cgroup g2 中没有运行的进程,则计算将省略 cgroup g2,仅根据 cgroup g1g3 进行计算:

    子 cgroupcpu.weight 文件CPU 时间分配

    g1

    150

    ~75% (150/200)

    g3

    50

    ~25% (50/200)

    重要

    如果子 cgroup 有多个正在运行的进程,分配给相应 cgroup 的 CPU 时间将平均分配到该 cgroup 的成员进程。

验证

  1. 验证应用程序是否在指定的控制组群中运行:

    # cat /proc/33373/cgroup /proc/33374/cgroup /proc/33377/cgroup
    0::/Example/g1
    0::/Example/g2
    0::/Example/g3

    命令输出显示了在 Example/g*/ 子 cgroups 中运行的特定应用程序的进程。

  2. 检查节流应用程序的当前 CPU 消耗:

    # top
    top - 05:17:18 up 1 day, 18:25,  1 user,  load average: 3.03, 3.03, 3.00
    Tasks:  95 total,   4 running,  91 sleeping,   0 stopped,   0 zombie
    %Cpu(s): 18.1 us, 81.6 sy,  0.0 ni,  0.0 id,  0.0 wa,  0.3 hi,  0.0 si,  0.0 st
    MiB Mem :   3737.0 total,   3233.7 free,    132.8 used,    370.5 buff/cache
    MiB Swap:   4060.0 total,   4060.0 free,      0.0 used.   3373.1 avail Mem
    
        PID USER      PR  NI    VIRT    RES    SHR S  %CPU  %MEM     TIME+ COMMAND
      33373 root      20   0   18720   1748   1460 R  49.5   0.0 415:05.87 sha1sum
      33374 root      20   0   18720   1756   1464 R  32.9   0.0 412:58.33 sha1sum
      33377 root      20   0   18720   1860   1568 R  16.3   0.0 411:03.12 sha1sum
        760 root      20   0  416620  28540  15296 S   0.3   0.7   0:10.23 tuned
          1 root      20   0  186328  14108   9484 S   0.0   0.4   0:02.00 systemd
          2 root      20   0       0      0      0 S   0.0   0.0   0:00.01 kthread
    ...
    注意

    为了明确演示,我们强制所有示例进程在单个 CPU 上运行。在多个 CPU 中使用时,CPU 权重也会应用同样的原则。

    请注意,PID 33373PID 33374PID 33377 的 CPU 资源根据权重 150、100、50 分配的。权重对应于每个应用程序的 50%、33% 和 16% 的 CPU 时间。

22.3. 挂载 cgroups-v1

在引导过程中,RHEL 9 默认挂载 cgroup-v2 虚拟文件系统。要在限制应用程序的资源中使用 cgroup-v1 功能,请手动配置系统。

注意

内核中完全启用了 cgroup-v1cgroup-v2。从内核的角度来看,没有默认的控制组版本,并且由 systemd 决定在启动时挂载。

先决条件

  • 有 root 权限。

流程

  1. 将系统配置为,在系统引导过程中,默认由 systemd 系统和服务管理器挂载 cgroups-v1

    # grubby --update-kernel=/boot/vmlinuz-$(uname -r) --args="systemd.unified_cgroup_hierarchy=0 systemd.legacy_systemd_cgroup_controller"

    这会在当前引导条目中添加所需的内核命令行参数。

    在所有内核引导条目中添加相同的参数:

    # grubby --update-kernel=ALL --args="systemd.unified_cgroup_hierarchy=0 systemd.legacy_systemd_cgroup_controller"
  2. 重启系统以使更改生效。

验证

  1. (可选)验证已挂载 cgroups-v1 文件系统:

    # mount -l | grep cgroup
    tmpfs on /sys/fs/cgroup type tmpfs (ro,nosuid,nodev,noexec,seclabel,size=4096k,nr_inodes=1024,mode=755,inode64)
    cgroup on /sys/fs/cgroup/systemd type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,xattr,release_agent=/usr/lib/systemd/systemd-cgroups-agent,name=systemd)
    cgroup on /sys/fs/cgroup/perf_event type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,perf_event)
    cgroup on /sys/fs/cgroup/cpu,cpuacct type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,cpu,cpuacct)
    cgroup on /sys/fs/cgroup/pids type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,pids)
    cgroup on /sys/fs/cgroup/cpuset type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,cpuset)
    cgroup on /sys/fs/cgroup/net_cls,net_prio type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,net_cls,net_prio)
    cgroup on /sys/fs/cgroup/hugetlb type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,hugetlb)
    cgroup on /sys/fs/cgroup/memory type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,memory)
    cgroup on /sys/fs/cgroup/blkio type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,blkio)
    cgroup on /sys/fs/cgroup/devices type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,devices)
    cgroup on /sys/fs/cgroup/misc type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,misc)
    cgroup on /sys/fs/cgroup/freezer type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,freezer)
    cgroup on /sys/fs/cgroup/rdma type cgroup (rw,nosuid,nodev,noexec,relatime,seclabel,rdma)

    与各种 cgroup-v1 控制器对应的 cgroups-v1 文件系统已被成功挂载到 /sys/fs/cgroup/ 目录中。

  2. (可选)检查 /sys/fs/cgroup/ 目录的内容:

    # ll /sys/fs/cgroup/
    dr-xr-xr-x. 10 root root  0 Mar 16 09:34 blkio
    lrwxrwxrwx.  1 root root 11 Mar 16 09:34 cpu → cpu,cpuacct
    lrwxrwxrwx.  1 root root 11 Mar 16 09:34 cpuacct → cpu,cpuacct
    dr-xr-xr-x. 10 root root  0 Mar 16 09:34 cpu,cpuacct
    dr-xr-xr-x.  2 root root  0 Mar 16 09:34 cpuset
    dr-xr-xr-x. 10 root root  0 Mar 16 09:34 devices
    dr-xr-xr-x.  2 root root  0 Mar 16 09:34 freezer
    dr-xr-xr-x.  2 root root  0 Mar 16 09:34 hugetlb
    dr-xr-xr-x. 10 root root  0 Mar 16 09:34 memory
    dr-xr-xr-x.  2 root root  0 Mar 16 09:34 misc
    lrwxrwxrwx.  1 root root 16 Mar 16 09:34 net_cls → net_cls,net_prio
    dr-xr-xr-x.  2 root root  0 Mar 16 09:34 net_cls,net_prio
    lrwxrwxrwx.  1 root root 16 Mar 16 09:34 net_prio → net_cls,net_prio
    dr-xr-xr-x.  2 root root  0 Mar 16 09:34 perf_event
    dr-xr-xr-x. 10 root root  0 Mar 16 09:34 pids
    dr-xr-xr-x.  2 root root  0 Mar 16 09:34 rdma
    dr-xr-xr-x. 11 root root  0 Mar 16 09:34 systemd

    默认情况下,/sys/fs/cgroup/ 目录(也称为 root 控制组 )包含特定于控制器的目录,如 cpuset。另外,还有一些与 systemd 相关的目录。

22.4. 使用 cgroups-v1 为应用程序设置 CPU 限制

有时应用会占用大量 CPU 时间,这可能会对环境的整体健康状况造成负面影响。使用 /sys/fs/ 虚拟文件系统,利用 控制组版本 1 (cgroups-v1) 为应用配置 CPU 限制。

先决条件

  • 有 root 权限。
  • 您有一个要限制其 CPU 消耗的应用程序。
  • 您将系统配置为,在系统引导过程中,默认由 systemd 系统和服务管理器挂载 cgroups-v1

    # grubby --update-kernel=/boot/vmlinuz-$(uname -r) --args="systemd.unified_cgroup_hierarchy=0 systemd.legacy_systemd_cgroup_controller"

    这会在当前引导条目中添加所需的内核命令行参数。

步骤

  1. 在 CPU 消耗中识别您要限制的应用程序的进程 ID (PID):

    # top
    top - 11:34:09 up 11 min,  1 user,  load average: 0.51, 0.27, 0.22
    Tasks: 267 total,   3 running, 264 sleeping,   0 stopped,   0 zombie
    %Cpu(s): 49.0 us,  3.3 sy,  0.0 ni, 47.5 id,  0.0 wa,  0.2 hi,  0.0 si,  0.0 st
    MiB Mem :   1826.8 total,    303.4 free,   1046.8 used,    476.5 buff/cache
    MiB Swap:   1536.0 total,   1396.0 free,    140.0 used.    616.4 avail Mem
    
      PID USER      PR  NI    VIRT    RES    SHR S  %CPU  %MEM     TIME+ COMMAND
     6955 root      20   0  228440   1752   1472 R  99.3   0.1   0:32.71 sha1sum
     5760 jdoe      20   0 3603868 205188  64196 S   3.7  11.0   0:17.19 gnome-shell
     6448 jdoe      20   0  743648  30640  19488 S   0.7   1.6   0:02.73 gnome-terminal-
        1 root      20   0  245300   6568   4116 S   0.3   0.4   0:01.87 systemd
      505 root      20   0       0      0      0 I   0.3   0.0   0:00.75 kworker/u4:4-events_unbound
    ...

    top 程序的输出示例显示 PID 6955 (应用 sha1sum)消耗了大量 CPU 资源。

  2. cpu 资源控制器目录中创建子目录:

    # mkdir /sys/fs/cgroup/cpu/Example/

    上面的目录代表控制组,您可以在其中放置特定进程并将某些 CPU 限制应用到进程。同时,目录中将创建一些 cgroups-v1 接口文件和 cpu 控制器特定的文件。

  3. (可选)检查新创建的控制组群:

    # ll /sys/fs/cgroup/cpu/Example/
    -rw-r—​r--. 1 root root 0 Mar 11 11:42 cgroup.clone_children
    -rw-r—​r--. 1 root root 0 Mar 11 11:42 cgroup.procs
    -r—​r—​r--. 1 root root 0 Mar 11 11:42 cpuacct.stat
    -rw-r—​r--. 1 root root 0 Mar 11 11:42 cpuacct.usage
    -r—​r—​r--. 1 root root 0 Mar 11 11:42 cpuacct.usage_all
    -r—​r—​r--. 1 root root 0 Mar 11 11:42 cpuacct.usage_percpu
    -r—​r—​r--. 1 root root 0 Mar 11 11:42 cpuacct.usage_percpu_sys
    -r—​r—​r--. 1 root root 0 Mar 11 11:42 cpuacct.usage_percpu_user
    -r—​r—​r--. 1 root root 0 Mar 11 11:42 cpuacct.usage_sys
    -r—​r—​r--. 1 root root 0 Mar 11 11:42 cpuacct.usage_user
    -rw-r—​r--. 1 root root 0 Mar 11 11:42 cpu.cfs_period_us
    -rw-r—​r--. 1 root root 0 Mar 11 11:42 cpu.cfs_quota_us
    -rw-r—​r--. 1 root root 0 Mar 11 11:42 cpu.rt_period_us
    -rw-r—​r--. 1 root root 0 Mar 11 11:42 cpu.rt_runtime_us
    -rw-r—​r--. 1 root root 0 Mar 11 11:42 cpu.shares
    -r—​r—​r--. 1 root root 0 Mar 11 11:42 cpu.stat
    -rw-r—​r--. 1 root root 0 Mar 11 11:42 notify_on_release
    -rw-r—​r--. 1 root root 0 Mar 11 11:42 tasks

    示例输出中显示的文件,如 cpuacct.usagecpu.cfs._period_us,它们代表特定配置和/或限制,可以为 Example 控制组中的进程设置。请注意,对应的文件名前缀为它们所属的控制组控制器的名称。

    默认情况下,新创建的控制组继承对系统整个 CPU 资源的访问权限,且无限制。

  4. 为控制组群配置 CPU 限制:

    # echo "1000000" > /sys/fs/cgroup/cpu/Example/cpu.cfs_period_us
    # echo "200000" > /sys/fs/cgroup/cpu/Example/cpu.cfs_quota_us

    cpu.cfs_period_us 文件表示以微秒为单位(这里表示为"us")的时段,用于控制组对 CPU 资源的访问权限应重新分配的频率。上限为 1 秒,下限为 1000 微秒。

    cpu.cfs_quota_us 文件表示以微秒为单位的总时间量,控制组中的所有进程都可以在一个期间(如 cpu.cfs_period_us 定义)。当控制组中的进程在单个期间内使用配额指定的所有时间时,就会在句点的其余部分内进行限流,并且不允许在下一个期间内运行。下限为 1000 微秒。

    上面的示例命令设定 CPU 时间限值,使得 Example 控制组中的所有进程仅能每 1 秒( cpu.cfs_quota_us 定义)每 1 秒(由 cpu.cfs_period_us 定义)运行 0.2 秒。

  5. 另外,还可验证限制:

    # cat /sys/fs/cgroup/cpu/Example/cpu.cfs_period_us /sys/fs/cgroup/cpu/Example/cpu.cfs_quota_us
    1000000
    200000
  6. 将应用程序的 PID 添加到 Example 控制组群中:

    # echo "6955" > /sys/fs/cgroup/cpu/Example/cgroup.procs
    
    or
    
    # echo "6955" > /sys/fs/cgroup/cpu/Example/tasks

    上一命令可确保所需的应用成为 Example 控制组的成员,因此不超过为 Example 控制组配置的 CPU 限值。PID 应该代表系统中的一个已存在的进程。这里的 PID 6955 分配给进程 sha1sum /dev/zero &,用于演示 cpu 控制器的用例。

  7. 验证应用程序是否在指定的控制组群中运行:

    # cat /proc/6955/cgroup
    12:cpuset:/
    11:hugetlb:/
    10:net_cls,net_prio:/
    9:memory:/user.slice/user-1000.slice/user@1000.service
    8:devices:/user.slice
    7:blkio:/
    6:freezer:/
    5:rdma:/
    4:pids:/user.slice/user-1000.slice/user@1000.service
    3:perf_event:/
    2:cpu,cpuacct:/Example
    1:name=systemd:/user.slice/user-1000.slice/user@1000.service/gnome-terminal-server.service

    上面的示例输出显示所需应用的进程在 Example 控制组中运行,它将 CPU 限制应用到应用的进程。

  8. 确定节流应用程序的当前 CPU 消耗:

    # top
    top - 12:28:42 up  1:06,  1 user,  load average: 1.02, 1.02, 1.00
    Tasks: 266 total,   6 running, 260 sleeping,   0 stopped,   0 zombie
    %Cpu(s): 11.0 us,  1.2 sy,  0.0 ni, 87.5 id,  0.0 wa,  0.2 hi,  0.0 si,  0.2 st
    MiB Mem :   1826.8 total,    287.1 free,   1054.4 used,    485.3 buff/cache
    MiB Swap:   1536.0 total,   1396.7 free,    139.2 used.    608.3 avail Mem
    
      PID USER      PR  NI    VIRT    RES    SHR S  %CPU  %MEM     TIME+ COMMAND
     6955 root      20   0  228440   1752   1472 R  20.6   0.1  47:11.43 sha1sum
     5760 jdoe      20   0 3604956 208832  65316 R   2.3  11.2   0:43.50 gnome-shell
     6448 jdoe      20   0  743836  31736  19488 S   0.7   1.7   0:08.25 gnome-terminal-
      505 root      20   0       0      0      0 I   0.3   0.0   0:03.39 kworker/u4:4-events_unbound
     4217 root      20   0   74192   1612   1320 S   0.3   0.1   0:01.19 spice-vdagentd
    ...

    请注意,PID 6955 的 CPU 消耗从 99% 降至 20%。

重要

cpu.cfs_period_uscpu.cfs_quota_uscgroups-v2 的对应部分是 cpu.max 文件。cpu.max 文件可以通过 cpu 控制器获得。

其他资源

第 23 章 使用 BPF Compiler Collection 分析系统性能

作为系统管理员,您可以使用 BPF Compiler Collection (BCC) 库创建用于分析 Linux 操作系统性能和收集信息的工具,这些信息可能难以通过其他接口获得。

23.1. BCC 介绍

BPF Compiler Collection(BCC)是一个库,可帮助创建扩展的 Berkeley Packet Filter(eBPF)程序。eBPF 程序的主要工具是在不需要额外的开销或存在安全问题的情况下,分析操作系统性能和网络性能。

BCC 不再需要用户了解 eBPF 的技术详情,并提供了许多开箱即用的起点,如带有预先创建的 eBPF 程序的 bcc-tools 软件包。

注意

eBPF 程序在事件中触发,如磁盘 I/O、TCP 连接以及进程创建。程序不太可能导致内核崩溃、循环或者变得无响应,因为它们在内核的安全性虚拟机中运行。

23.2. 安装 bcc-tools 软件包

本节论述了如何安装 bcc-tools 软件包,该软件包还会将 BPF Compiler Collection (BCC) 库作为依赖项安装。

流程

  1. 安装 bcc-tools

    # dnf install bcc-tools

    BCC 工具安装在 /usr/share/bcc/tools/ 目录中。

  2. (可选)检查工具:

    # ll /usr/share/bcc/tools/
    ...
    -rwxr-xr-x. 1 root root  4198 Dec 14 17:53 dcsnoop
    -rwxr-xr-x. 1 root root  3931 Dec 14 17:53 dcstat
    -rwxr-xr-x. 1 root root 20040 Dec 14 17:53 deadlock_detector
    -rw-r--r--. 1 root root  7105 Dec 14 17:53 deadlock_detector.c
    drwxr-xr-x. 3 root root  8192 Mar 11 10:28 doc
    -rwxr-xr-x. 1 root root  7588 Dec 14 17:53 execsnoop
    -rwxr-xr-x. 1 root root  6373 Dec 14 17:53 ext4dist
    -rwxr-xr-x. 1 root root 10401 Dec 14 17:53 ext4slower
    ...

    上表中的 doc 目录包含每个工具的文档。

23.3. 使用所选 bcc-tools 进行性能调整

这部分论述了如何使用 BPF Compiler Collection (BCC) 库中某些预先创建的程序来高效且安全地分析每个事件的系统性能。BCC 库中预创建的程序集可作为创建其他程序的示例。

先决条件

使用 execsnoop 检查系统进程

  1. 在一个终端中执行 execsnoop 程序:

    # /usr/share/bcc/tools/execsnoop
  2. 在另一个终端执行中,例如:

    $ ls /usr/share/bcc/tools/doc/

    以上可创建 ls 命令的短时间进程。

  3. 运行 execsnoop 的终端显示类似如下的输出:

    PCOMM	PID    PPID   RET ARGS
    ls   	8382   8287     0 /usr/bin/ls --color=auto /usr/share/bcc/tools/doc/
    ...

    execsnoop 程序打印出每个占用系统资源的新进程的输出行。它甚至会检测很快运行的程序(如 ls )的进程,大多数监控工具也不会进行注册。

    execsnoop 输出显示以下字段:

    • PCOMM - 父进程名称。(ls)
    • PID - 进程 ID。(8382)
    • PPID - 父进程 ID。(8287)
    • RET - exec()系统调用的返回值 (0) ,这会将程序代码加载到新进程中。
    • ARGS - 使用参数启动的程序的位置。

要查看 execsnoop 的详情、示例和选项,请参阅 /usr/share/bcc/tools/doc/execsnoop_example.txt 文件。

有关 exec() 的详情,请查看 exec(3) 手册页。

使用 opensnoop 跟踪命令打开的文件

  1. 在一个终端中执行 opensnoop 程序:

    # /usr/share/bcc/tools/opensnoop -n uname

    以上列出了文件的输出,这些文件仅由 uname 命令的进程打开。

  2. 在另一个终端中执行:

    $ uname

    以上命令会打开某些在下一步中捕获的文件。

  3. 运行 opensnoop 的终端显示类似如下的输出:

    PID    COMM 	FD ERR PATH
    8596   uname 	3  0   /etc/ld.so.cache
    8596   uname 	3  0   /lib64/libc.so.6
    8596   uname 	3  0   /usr/lib/locale/locale-archive
    ...

    opensnoop 程序在整个系统中监视 open() 系统调用,并为 uname 尝试打开的每个文件打印一行输出。

    opensnoop 输出显示以下字段:

    • PID - 进程 ID。(8596)
    • COMM - 进程名称。(uname)
    • FD - 文件描述符 - open() 返回的值以引用打开的文件。(3)
    • ERR - 任何错误。
    • PATH - open() 试图打开的文件位置。

      如果命令尝试读取不存在的文件,则 FD 列返回 -1ERR 列将打印与相关错误对应的值。因此,Opennoop 可以帮助您识别行为不正确的应用程序。

要查看 opensnoop 的更多详细信息、示例和选项,请参阅 /usr/share/bcc/tools/doc/opensnoop_example.txt 文件。

有关 open() 的更多信息,请参阅 open(2) 手册页。

使用技术检查磁盘上的 I/O 操作

  1. 在一个终端中执行 biotop 程序:

    # /usr/share/bcc/tools/biotop 30

    该命令可让您监控在磁盘中执行 I/O 操作的主要进程。参数确保命令生成 30 秒概述。

    注意

    如果未提供任何参数,则默认情况下输出屏幕会每 1 秒刷新一次。

  2. 在另一个终端中执行,例如:

    # dd if=/dev/vda of=/dev/zero

    以上命令从本地硬盘设备读取内容,并将输出写入 /dev/zero 文件。此步骤会生成特定的 I/O 流量来演示 biotop

  3. 运行 biotop 的终端显示类似如下的输出:

    PID    COMM             D MAJ MIN DISK       I/O  Kbytes     AVGms
    9568   dd               R 252 0   vda      16294 14440636.0  3.69
    48     kswapd0          W 252 0   vda       1763 120696.0    1.65
    7571   gnome-shell      R 252 0   vda        834 83612.0     0.33
    1891   gnome-shell      R 252 0   vda       1379 19792.0     0.15
    7515   Xorg             R 252 0   vda        280  9940.0     0.28
    7579   llvmpipe-1       R 252 0   vda        228  6928.0     0.19
    9515   gnome-control-c  R 252 0   vda         62  6444.0     0.43
    8112   gnome-terminal-  R 252 0   vda         67  2572.0     1.54
    7807   gnome-software   R 252 0   vda         31  2336.0     0.73
    9578   awk              R 252 0   vda         17  2228.0     0.66
    7578   llvmpipe-0       R 252 0   vda        156  2204.0     0.07
    9581   pgrep            R 252 0   vda         58  1748.0     0.42
    7531   InputThread      R 252 0   vda         30  1200.0     0.48
    7504   gdbus            R 252 0   vda          3  1164.0     0.30
    1983   llvmpipe-1       R 252 0   vda         39   724.0     0.08
    1982   llvmpipe-0       R 252 0   vda         36   652.0     0.06
    ...

    biotop 输出显示以下字段:

    • PID - 进程 ID。(9568)
    • COMM - 进程名称。(dd)
    • DISK - 执行读取操作的磁盘。(vda)
    • I/O - 执行读取操作的数量。(16294)
    • Kbytes - 读操作达到的 K 字节。(14,440,636)
    • AVGms - 读操作的平均 I/O 时间。(3.69)

要查看 biotop 的详情、示例和选项,请参阅 /usr/share/bcc/tools/doc/biotop_example.txt 文件。

有关 dd 的更多信息,请参阅 dd(1) 手册页。

使用 xfsslower 来公开意料外的慢文件系统操作

  1. 在一个终端中执行 xfsslower 程序:

    # /usr/share/bcc/tools/xfsslower 1

    以上命令测量 XFS 文件系统执行读取、写入、打开或同步 (fsync) 操作的时间。1 参数可确保程序仅显示比 1 ms 较慢的操作。

    注意

    如果未提供任何参数,xfsslower 默认会显示比 10 ms 慢的操作。

  2. 在另一个终端中执行,例如:

    $ vim text

    以上命令在 vim 编辑器中创建了一个文本文件,用于启动与 XFS 文件系统的某些互动。

  3. 运行 xfsslower 的终端显示在保存上一步中的文件时:

    TIME     COMM           PID    T BYTES   OFF_KB   LAT(ms) FILENAME
    13:07:14 b'bash'        4754   R 256     0           7.11 b'vim'
    13:07:14 b'vim'         4754   R 832     0           4.03 b'libgpm.so.2.1.0'
    13:07:14 b'vim'         4754   R 32      20          1.04 b'libgpm.so.2.1.0'
    13:07:14 b'vim'         4754   R 1982    0           2.30 b'vimrc'
    13:07:14 b'vim'         4754   R 1393    0           2.52 b'getscriptPlugin.vim'
    13:07:45 b'vim'         4754   S 0       0           6.71 b'text'
    13:07:45 b'pool'        2588   R 16      0           5.58 b'text'
    ...

    上面的每一行代表文件系统中的一个操作,其用时超过特定阈值。xfsslower 非常适合公开可能的文件系统问题,这可能会导致意外的慢速操作。

    xfsslower 输出显示以下字段:

    • COMM - 进程名称。(b'bash')
    • t - 操作类型。(R)

      • Read
      • Write
      • Sync
    • OFF_KB - KB 中的文件偏移。(0)
    • FILENAME - 被读取、写入或者同步的文件。

要查看 xfsslower 的详情、示例和选项,请参阅 /usr/share/bcc/tools/doc/xfsslower_example.txt 文件。

有关 fsync 的详情请参考 fsync(2) 手册页。

第 24 章 配置巨页

物理内存以固定大小的块的形式进行管理,称为页。在 x86_64 架构中,由 Red Hat Enterprise Linux 9 支持,默认的内存页大小为 4 KB。此默认页面大小被证明适用于常规用途的操作系统,如 Red Hat Enterprise Linux,它支持许多不同类型的工作负载。

但是,在某些情况下,特定应用程序可能会从使用更大的页面中受益。例如,在使用 4 KB 页面时,如果应用程序需要处理大量的、相对固定的数据集合时(有几百兆字节甚至数千兆字节数据)可能会遇到性能问题。这种数据集可能需要大量的 4 KB 页面,这可能导致操作系统和 CPU 的大量开销。

这部分提供有关 RHEL 9 中巨页的信息以及如何配置它们。

24.1. 可用的巨页功能

在 Red Hat Enterprise Linux 9 中,您可以使用巨页来处理大数据集的应用程序,并改进此类应用程序的性能。

以下是 RHEL 9 支持的巨页方法:

HugeTLB 页

HugeTLB 页面也称为静态巨页。有两种方法可以保留 HugeTLB 页面:

  • 在引导时:这可以增加成功的几率,因为在引导时内存还没有很大的碎片。但是,在 NUMA 机器上,页面数量会自动在不同的 NUMA 节点间进行分隔。有关在引导时影响 HugeTLB 页面行为的参数的更多信息,请参阅在引导时保留 HugeTLB 页面的参数。有关如何使用这些参数在引导时配置 HugeTLB 页面的信息,请参阅在引导时配置 HugeTLB 页面。
  • 在运行时:它允许您为每个 NUMA 节点保留巨页。如果在引导过程中以早期方式进行运行时保留,则可能会降低内存碎片的可能性。有关在引导时影响 HugeTLB 页面行为的参数的更多信息,请参阅在运行时保留 HugeTLB 页面的参数。有关如何使用这些参数在运行时配置 HugeTLB 页面的信息,请参阅在运行时配置 HugeTLB 页面。
透明巨页(THP)

使用 THP 时,内核会自动将巨页分配给进程,因此不需要手动保留静态巨页。以下是 THP 中的两种操作模式:

  • 系统范围 :内核会在可以分配巨页时尝试为进程分配巨页,进程会使用一个大型连续的虚拟内存区域。
  • 针对每个进程 :内核仅将巨页分配给单个进程的内存区域,您可以使用 madvise() 系统调用来指定。

    注意

    THP 功能只支持 2 MB 页面。

    有关在引导时影响 HugeTLB 页面行为的参数的更多信息,请参阅启用透明巨页禁用透明巨页

24.2. 在引导时保留 HugeTLB 页面的参数

使用以下参数来在引导时影响 HugeTLB 页面行为。

有关如何在引导时使用这些参数配置 HugeTLB 页面的更多信息,请参阅在引导时配置 HugeTLB 页面。

表 24.1. 用于在引导时配置 HugeTLB 页面的参数

参数描述默认值

hugepages

定义在引导时在内核中配置的持久性巨页数量。

在 NUMA 系统中,定义了这个参数的巨页在节点间平均划分。

您可以通过更改 /sys/devices/system/node/node_id/hugepages/hugepages-size/nr_hugepages 文件中的节点值,在运行时为特定节点分配巨页。

默认值为 0

要在引导时更新这个值,在 /proc/sys/vm/nr_hugepages 文件中更改这个参数的值。

hugepagesz

定义在引导时在内核中配置的持久性巨页的大小。

有效值为 2 MB1 GB。默认值为 2 MB

default_hugepagesz

定义在引导时在内核中配置的持久性巨页的默认大小。

有效值为 2 MB1 GB。默认值为 2 MB

24.3. 在引导时配置 HugeTLB

HugeTLB 子系统支持的页大小取决于具体架构。x86_64 架构支持 2 MB 巨页和 1 GB gigantic 节页。

这个步骤描述了如何在引导时保留 1 GB 页面。

流程

  1. 以 root 用户身份将以下行附加到 /etc/default/grub 文件中的内核命令行选项中,为 1 GB 页面创建一个 HugeTLB 池:

    default_hugepagesz=1G hugepagesz=1G
  2. 使用编辑的默认文件重新生成 GRUB2 配置:

    1. 如果您的系统使用 BIOS 固件,请执行以下命令:

      # grub2-mkconfig -o /boot/grub2/grub.cfg
    2. 如果您的系统使用 UEFI 框架,请执行以下命令:

      # grub2-mkconfig -o /boot/efi/EFI/redhat/grub.cfg
  3. /usr/lib/systemd/system/ 目录中创建一个名为 hugetlb-gigantic-pages.service 的新文件,并添加以下内容:

    [Unit]
    Description=HugeTLB Gigantic Pages Reservation
    DefaultDependencies=no
    Before=dev-hugepages.mount
    ConditionPathExists=/sys/devices/system/node
    ConditionKernelCommandLine=hugepagesz=1G
    
    [Service]
    Type=oneshot
    RemainAfterExit=yes
    ExecStart=/usr/lib/systemd/hugetlb-reserve-pages.sh
    
    [Install]
    WantedBy=sysinit.target
  4. /usr/lib/systemd/ 目录中创建一个名为 hugetlb-reserve-pages.sh 的新文件,并添加以下内容:

    在添加以下内容时,使用您要保留的 1GB 页面数替换 number_of_pages,并使用您要保留的节点的名称替换 node

    #!/bin/sh
    
    nodes_path=/sys/devices/system/node/
    if [ ! -d $nodes_path ]; then
        echo "ERROR: $nodes_path does not exist"
        exit 1
    fi
    
    reserve_pages()
    {
        echo $1 > $nodes_path/$2/hugepages/hugepages-1048576kB/nr_hugepages
    }
    
    reserve_pages number_of_pages node

    例如,要在 node0 上保留两个 1 GB 页面,在 node1 上保留 1GB 页面,将 number_of_pages 替换 2(对于 node0)和 1(对于 node1):

    reserve_pages 2 node0
    reserve_pages 1 node1
  5. 创建可执行脚本:

    # chmod +x /usr/lib/systemd/hugetlb-reserve-pages.sh
  6. 启用早期引导保留:

    # systemctl enable hugetlb-gigantic-pages
注意
  • 您可以在运行时尝试保留更多 1GB 页面,方法是写入 nr_hugepages。但是,内存碎片可能会导致此类保留失败。保留 1 GB 页面的最可靠方法是,使用 hugetlb-reserve-pages.sh 脚本(在早期引导时运行)。
  • 保留静态巨页可有效地减少系统可用的内存量,并阻止它正确利用内存容量。虽然正确大小的保留巨页池可能会对使用它的应用程序有用,但保留巨页的过度或未使用的池最终会降低整体系统性能。当设置保留的巨页池时,请确定系统可以正确地利用其完整的内存容量。

其他资源

  • systemd.service(5) 手册页
  • /usr/share/doc/kernel-doc-kernel_version/Documentation/vm/hugetlbpage.txt file

24.4. 在运行时保留 HugeTLB 页面的参数

在运行时使用以下参数来影响 HugeTLB 页面的行为。

有关如何在运行时使用这些参数配置 HugeTLB 页面的更多信息,请参阅在运行时配置 HugeTLB

表 24.2. 在运行时配置 HugeTLB 页面的参数

参数描述文件名

nr_hugepages

定义分配给指定 NUMA 节点的指定大小的巨页数量。

/sys/devices/system/node/node_id/hugepages/hugepages-size/nr_hugepages

nr_overcommit_hugepages

定义系统通过过量使用内存来创建和使用的最大额外巨页数。

在此文件中写入任何非零值表示,如果持久的巨页池耗尽,系统会从内核的正常页面池中获取巨页数量。随着这些多余的巨页变得未使用,它们会被释放并返回到内核的正常页面池。

/proc/sys/vm/nr_overcommit_hugepages

24.5. 在运行时配置 HugeTLB

这个步骤描述了如何在 node2 中添加 202048 kB 巨页。

要根据您的要求保留页面,请替换:

  • 20,使用您要保留的巨页数,
  • 2048kB,使用巨页的大小,
  • node2,使用您要保留页面的节点。

流程

  1. 显示内存统计信息:

    # numastat -cm | egrep 'Node|Huge'
                     Node 0 Node 1 Node 2 Node 3  Total add
    AnonHugePages         0      2      0      8     10
    HugePages_Total       0      0      0      0      0
    HugePages_Free        0      0      0      0      0
    HugePages_Surp        0      0      0      0      0
  2. 将指定大小的巨页数量添加到节点:

    # echo 20 > /sys/devices/system/node/node2/hugepages/hugepages-2048kB/nr_hugepages

验证步骤

  • 确保添加了巨页数量:

    # numastat -cm | egrep 'Node|Huge'
                     Node 0 Node 1 Node 2 Node 3  Total
    AnonHugePages         0      2      0      8     10
    HugePages_Total       0      0     40      0     40
    HugePages_Free        0      0     40      0     40
    HugePages_Surp        0      0      0      0      0

其他资源

  • numastat(8) 手册页

24.6. 启用透明巨页

在 Red Hat Enterprise Linux 9 中默认启用 THP。但是,您可以启用或禁用 THP。

这个步骤描述了如何启用 THP。

流程

  1. 检查 THP 的当前状态:

    # cat /sys/kernel/mm/transparent_hugepage/enabled
  2. 启用 THP:

    # echo always > /sys/kernel/mm/transparent_hugepage/enabled
  3. 要防止应用程序分配了比必要的内存资源更多的内存资源,禁用系统范围的透明巨页,并仅通过 madvise 明确请求来为应用程序启用它们:

    # echo madvise > /sys/kernel/mm/transparent_hugepage/enabled
注意

有时,为短期分配提供低延迟的优先级比立即实现长时间分配的性能要高。在这种情况下,您可以在启用 THP 时禁用直接压缩。

直接压缩是在巨页分配过程中同步的内存压缩。禁用直接压缩功能无法保证保存内存,但可能会降低频繁页面错误期间延迟更高的风险。请注意,如果工作负载从 THP 有很大的好处,则性能会降低。禁用直接压缩:

# echo madvise > /sys/kernel/mm/transparent_hugepage/defrag

其他资源

24.7. 禁用透明巨页

在 Red Hat Enterprise Linux 9 中默认启用 THP。但是,您可以启用或禁用 THP。

这个步骤描述了如何禁用 THP。

流程

  1. 检查 THP 的当前状态:

    # cat /sys/kernel/mm/transparent_hugepage/enabled
  2. 禁用 THP:

    # echo never > /sys/kernel/mm/transparent_hugepage/enabled

24.8. 对翻译的缓冲大小的影响

从页表中读取地址映射非常耗时且需要消耗大量资源,因此 CPU 会对最近使用的地址进行缓存,这称为 Translation Lookaside Buffer(TLB)。但是,默认的 TLB 只能缓存特定数量的地址映射。

如果请求的地址映射不在 TLB 中,称为 TLB miss(TLB未命中),系统仍然需要读取页表以确定到虚拟地址映射的物理。由于应用程序内存要求和用于缓存地址映射的页面大小的关系,具有大内存要求的应用程序可能会比内存要求小的应用程序造成性能下降。因此,务必要尽可能避免 TLB 丢失。

HugeTLB 和 Transparent Huge Page 功能可让应用程序使用大于 4 KB 的页面。这允许存储在 TLB 中的地址引用更多内存,这可以降低 TLB 未命中的情况并改进应用程序性能。

第 25 章 SystemTap 入门

作为系统管理员,您可以使用 SystemTap 来识别正在运行的 Linux 系统上错误或性能问题的根本原因。

作为应用程序开发人员,您可以使用 SystemTap 来监控应用程序在 Linux 系统中的行为。

25.1. SystemTap 的目的

SystemTap 是跟踪和探测工具,可用于详细研究和监视操作系统(特别是内核)的活动。SystemTap 提供与 netstatpstopiostat 等工具输出相似的信息。但是,SystemTap 提供了更多用于收集的信息的过滤和分析选项。在 SystemTap 脚本中,您可以指定 SystemTap 收集的信息。

SystemTap 旨在通过为用户提供基础架构来跟踪内核活动并将此功能与两个属性相结合来补充现有 Linux 监控工具套件:

灵活性
SystemTap 框架允许您开发简单的脚本,以调查和监控内核空间中的各种内核功能、系统调用和其他事件。因此,SystemTap 并不是一个工具,它是一个系统,您可以自行开发特定于内核的知识和监控工具。
易用性
SystemTap 可让您监控内核的活动,而无需重新编译内核或重启系统。

25.2. 安装 SystemTap

要开始使用 SystemTap,请安装所需的软件包。要在安装多个内核的内核上使用 SystemTap,为每个内核版本安装对应的内核软件包。

先决条件

流程

  1. 安装所需的 SystemTap 软件包:

    # dnf install systemtap
  2. 安装所需的内核软件包:

    1. 使用 stap-prep

      # stap-prep
    2. 如果 stap-prep 无法正常工作,请手动安装所需的内核软件包:

      # dnf install kernel-debuginfo-$(uname -r) kernel-debuginfo-common-$(uname -i)-$(uname -r) kernel-devel-$(uname -r)

      $(uname -i) 会自动替换为您系统的硬件平台,$(uname -r) 会自动替换为正在运行的内核的版本。

验证步骤

  • 如果当前使用 SystemTap 探测内核,请检查您的安装是否成功:

    # stap -v -e 'probe kernel.function("vfs_read") {printf("read performed\n"); exit()}'

    成功 SystemTap 部署会生成类似如下的输出:

    Pass 1: parsed user script and 45 library script(s) in 340usr/0sys/358real ms.
    Pass 2: analyzed script: 1 probe(s), 1 function(s), 0 embed(s), 0 global(s) in 290usr/260sys/568real ms.
    Pass 3: translated to C into "/tmp/stapiArgLX/stap_e5886fa50499994e6a87aacdc43cd392_399.c" in 490usr/430sys/938real ms.
    Pass 4: compiled C into "stap_e5886fa50499994e6a87aacdc43cd392_399.ko" in 3310usr/430sys/3714real ms.
    Pass 5: starting run. 1
    read performed 2
    Pass 5: run completed in 10usr/40sys/73real ms. 3

    输出的最后三行(以 Pass 5 开始)代表:

    1
    SystemTap 已成功创建了检测机制,以探测内核并运行检测程序。
    2
    SystemTap 检测到指定的事件(本例中为 VFS 读取)。
    3
    SystemTap 执行有效的处理程序(打印的文本,然后关闭它且无错误)。

25.3. 运行 SystemTap 的权限

运行 SystemTap 脚本需要提升系统特权,但在某些实例上,非特权用户可能需要在其计算机上运行 SystemTap 检测。

要允许用户在无需 root 访问权限的情况下运行 SystemTap,向这两个用户组添加用户:

stapdev

此组的成员可以使用 stap 运行 SystemTap 脚本或 staprun 来运行 SystemTap 检测模块。

运行 stap 涉及将 SystemTap 脚本编译到内核模块中,并将其加载到内核中。这要求系统升级的特权,这被授予 stapdev 成员。不幸的是,此类特权还会向 stapdev 成员授予有效的 root 访问权限。因此,仅向可信任的用户授予 stapdev 组成员资格。

stapusr
这个组的成员只能使用 staprun 来运行 SystemTap 检测模块。另外,它们只能从 /lib/modules/kernel_version/systemtap/ 目录中运行这些模块。该目录必须仅归 root 用户所有,并且只能由 root 用户写入。

25.4. 运行 SystemTap 脚本

您可以从标准输入或从文件运行 SystemTap 脚本。

SystemTap 安装附带的样本脚本可在 /usr/share/systemtap/examples 目录中找到。

先决条件

  1. SystemTap 和关联的内核软件包已安装,如安装 Systemtap 所述。
  2. 要以普通用户身份运行 SystemTap 脚本,请将该用户添加到 SystemTap 组:

    # usermod --append --groups
    stapdev,stapusr user-name

流程

  • 运行 SystemTap 脚本:

    • 从标准输入中:

      # echo "probe timer.s(1) {exit()}" | stap -

      此命令指示 stap 运行通过 echo 传递给标准输入的脚本。要添加 stap 选项,请在 - 字符前面插入它们。例如,要使这个命令的结果更加详细,该命令是:

      # echo "probe timer.s(1) {exit()}" | stap -v -
    • 从文件中:

      # stap file_name

第 26 章 SystemTap 交叉检测

SystemTap 的交叉检测是从一个系统中的 SystemTap 脚本创建 SystemTap 检测模块,以在未完全部署 SystemTap 的其他系统上使用。

26.1. SystemTap 交叉检测

运行 SystemTap 脚本时,将从该脚本构建内核模块。然后,SystemTap 会将模块加载到内核中。

通常,SystemTap 脚本只能在部署了 SystemTap 的系统中运行。要在 10 个系统上运行 SystemTap,需要将 SystemTap 部署到所有这些系统上。在某些情况下,这可能并不可行。例如,企业策略可能会禁止您在特定机器上安装提供编译器或调试信息的软件包,这将无法部署 SystemTap。

要临时解决这个问题,请使用 交叉检测。交叉检测(Cross-instrumentation)是从系统中的 SystemTap 脚本生成 SystemTap 检测模块以在另一个系统上生成 SystemTap 检测模块的过程。这个过程具有以下优点:

  • 可以在单一主机上安装各种机器的内核信息软件包。

    重要

    内核打包错误可能会阻止安装。在这种情况下,host systemtarget systemkernel-debuginfokernel-devel 软件包必须匹配。如果发生错误,请向 https://bugzilla.redhat.com/ 报告这个错误。

  • 每个目标机器都需要一个软件包才能使用生成的 SystemTap 检测模块: systemtap-runtime

    重要

    主机系统必须与目标系统具有相同的构架,并运行相同的 Linux 发行版本,检测模块才能正常工作。

术语
检测模块
SystemTap 脚本构建的内核模块; SystemTap 模块在主机系统上构建,并将在目标系统目标内核中载入。
主机系统
编译检测模块(来自 SystemTap 脚本)的系统,以便在目标系统上加载。
目标系统
正在构建检测模块的系统(来自 SystemTap 脚本)。
目标内核
目标系统的内核。这是载入并运行检测模块的内核。

26.2. 初始化 SystemTap 的交叉检测

初始化 SystemTap 的交叉检测,以从一个系统上的 SystemTap 脚本构建 SystemTap 检测模块,并在另一个系统上使用未完全部署 SystemTap 的系统上构建 SystemTap 检测模块。

先决条件

  • 主机系统上安装 SystemTap,如安装 Systemtap 所述。
  • systemtap-runtime 软件包安装在每个 目标系统中 :

    # dnf install systemtap-runtime
  • 主机系统目标系统都是相同的架构。
  • 主机系统目标系统都使用相同的 Red Hat Enterprise Linux 主版本(如 Red Hat Enterprise Linux 9)。
重要

内核打包错误可能会阻止在一个系统中安装多个 kernel-debuginfokernel-devel 软件包。在这种情况下,主机系统目标系统的次版本必须匹配。如果发生错误,将其报告为 https://bugzilla.redhat.com/

流程

  1. 确定在每个目标系统中运行的内核:

    $ uname -r

    为每个目标系统重复此步骤。

  2. 主机系统中,根据安装Systemtap 中描述的方法,为每个目标系统安装目标内核和相关的软件包。
  3. 主机系统中构建检测模块,将这个模块复制到目标系统中并在其中运行:

    1. 使用远程实现:

      # stap --remote target_system script

      这个命令在目标系统中远程实施指定的脚本。您必须确保能够通过 SSH 从主机系统连接到目标系统

    2. 手动:

      1. 主机系统中构建检测模块:

        # stap -r kernel_version script -m module_name -p 4

        此处 kernel_version 是指在第 1 步中确定的目标内核版本,script 是要转换为检测模块的脚本,module_name检测模块的名称。p4 选项告知 SystemTap 不要加载并运行已编译的模块。

      2. 编译检测模块后,将其复制到目标系统并使用以下命令载入它:

        # staprun module_name.ko

第 27 章 使用 SystemTap 监控网络活动

在安装 systemtap-testsuite 软件包时,您可以使用 /usr/share/systemtap/testsuite/systemtap.examples/ 目录中提供的实用示例 SystemTap 脚本来监控和调查您系统的网络活动。

27.1. 使用 SystemTap 分析网络活动

您可以使用 nettop.stp 示例 SystemTap 脚本来对网络活动进行性能分析。脚本会跟踪系统中生成网络流量的进程,并提供有关每个进程的以下信息:

PID
列出进程的 ID。
UID
用户 ID。用户 ID 0 代表 root 用户。
DEV
进程用于发送或接收数据的以太网设备(如 eth0、eth1)。
XMIT_PK
进程传输的数据包数。
RECV_PK
进程接收的数据包数。
XMIT_KB
进程发送的数据量(以 KB 为单位)。
RECV_KB
服务接收的数据量(以 KB 为单位)。

先决条件

流程

  • 运行 nettop.stp 脚本:

    # stap  --example nettop.stp

    nettop.stp 脚本每 5 秒提供网络配置集抽样。

    nettop.stp 脚本的输出类似如下:

    [...]
      PID   UID DEV     XMIT_PK RECV_PK XMIT_KB RECV_KB COMMAND
        0     0 eth0          0       5       0       0 swapper
    11178     0 eth0          2       0       0       0 synergyc
      PID   UID DEV     XMIT_PK RECV_PK XMIT_KB RECV_KB COMMAND
     2886     4 eth0         79       0       5       0 cups-polld
    11362     0 eth0          0      61       0       5 firefox
        0     0 eth0          3      32       0       3 swapper
     2886     4 lo            4       4       0       0 cups-polld
    11178     0 eth0          3       0       0       0 synergyc
      PID   UID DEV     XMIT_PK RECV_PK XMIT_KB RECV_KB COMMAND
        0     0 eth0          0       6       0       0 swapper
     2886     4 lo            2       2       0       0 cups-polld
    11178     0 eth0          3       0       0       0 synergyc
     3611     0 eth0          0       1       0       0 Xorg
      PID   UID DEV     XMIT_PK RECV_PK XMIT_KB RECV_KB COMMAND
        0     0 eth0          3      42       0       2 swapper
    11178     0 eth0         43       1       3       0 synergyc
    11362     0 eth0          0       7       0       0 firefox
     3897     0 eth0          0       1       0       0 multiload-apple

27.2. 使用 SystemTap 在网络套接字代码中追踪调用的功能

您可以使用 socket-trace.stp 示例 SystemTap 脚本跟踪从内核的 net/socket.c 文件中调用的功能。这有助于您识别、详细地识别每个进程如何与内核级别的网络交互。

先决条件

流程

  • 运行 socket-trace.stp 脚本:

    # stap  --example socket-trace.stp

    socket-trace.stp 脚本输出的 3 秒摘录类似如下:

    [...]
    0 Xorg(3611): -> sock_poll
    3 Xorg(3611): <- sock_poll
    0 Xorg(3611): -> sock_poll
    3 Xorg(3611): <- sock_poll
    0 gnome-terminal(11106): -> sock_poll
    5 gnome-terminal(11106): <- sock_poll
    0 scim-bridge(3883): -> sock_poll
    3 scim-bridge(3883): <- sock_poll
    0 scim-bridge(3883): -> sys_socketcall
    4 scim-bridge(3883):  -> sys_recv
    8 scim-bridge(3883):   -> sys_recvfrom
    12 scim-bridge(3883):-> sock_from_file
    16 scim-bridge(3883):<- sock_from_file
    20 scim-bridge(3883):-> sock_recvmsg
    24 scim-bridge(3883):<- sock_recvmsg
    28 scim-bridge(3883):   <- sys_recvfrom
    31 scim-bridge(3883):  <- sys_recv
    35 scim-bridge(3883): <- sys_socketcall
    [...]

27.3. 使用 SystemTap 监控网络数据包丢弃

Linux 中的网络堆栈可以丢弃由于各种原因的数据包。有些 Linux 内核包括一个跟踪点(tracepoint), kernel.trace("kfree_skb")',用于跟踪数据包被丢弃的位置。

dropwatch.stp SystemTap 脚本使用 kernel.trace("kfree_skb") 来跟踪数据包丢弃;脚本总结了每 5 秒间隔丢弃数据包的位置。

先决条件

流程

  • 运行 dropwatch.stp 脚本:

    # stap  --example dropwatch.stp

    运行 dropwatch.stp 脚本 15 秒的结果类似如下:

    Monitoring for dropped packets
    51 packets dropped at location 0xffffffff8024cd0f
    2 packets dropped at location 0xffffffff8044b472
    51 packets dropped at location 0xffffffff8024cd0f
    1 packets dropped at location 0xffffffff8044b472
    97 packets dropped at location 0xffffffff8024cd0f
    1 packets dropped at location 0xffffffff8044b472
    Stopping dropped packet monitor
    注意

    要使数据包的位置更有意义,请参阅 /boot/System.map-$(uname -r) 文件。此文件列出了每个功能的起始地址,允许您将 dropwatch.stp 脚本输出中的地址映射到特定功能名称。以下的 /boot/System.map-$(uname -r) 文件的代码片段中,地址 0xffffffff8024cd0f 映射到功能 unix_stream_recvmsg,地址 0xffffffff8044b472 映射到功能 arp_rcv

    [...]
    ffffffff8024c5cd T unlock_new_inode
    ffffffff8024c5da t unix_stream_sendmsg
    ffffffff8024c920 t unix_stream_recvmsg
    ffffffff8024cea1 t udp_v4_lookup_longway
    [...]
    ffffffff8044addc t arp_process
    ffffffff8044b360 t arp_rcv
    ffffffff8044b487 t parp_redo
    ffffffff8044b48c t arp_solicit
    [...]

第 28 章 使用 SystemTap 分析内核活动

以下小节通过监控函数调用展示内核活动的配置集。

28.1. 使用 SystemTap 的计数功能调用

您可以使用 functioncallcount.stp SystemTap 脚本来计算特定的内核功能调用。您还可以使用这个脚本来目标多个内核功能。

先决条件

流程

  • 运行 functioncallcount.stp 脚本:

    # stap --example functioncallcount.stp 'argument'

    此脚本使用目标内核功能作为一个参数。您可以使用参数通配符将多个内核功能作为特定扩展的目标。

    脚本的输出按字母顺序排列,包含调用的功能的名称,以及在抽样期间调用的次数。

    考虑以下示例:

    # stap -w -v --example functioncallcount.stp "*@mm*.c" -c /bin/true

    其中:

  • -w : 压制警告。
  • -v :使启动内核的输出可见。
  • -c 命令 : 告知 Tells SystemTap 在执行命令期间用于计数功能调用,在这个示例中是 /bin/true

    输出应类似于以下内容:

    [...]
    __vma_link 97
    __vma_link_file 66
    __vma_link_list 97
    __vma_link_rb 97
    __xchg 103
    add_page_to_active_list 102
    add_page_to_inactive_list 19
    add_to_page_cache 19
    add_to_page_cache_lru 7
    all_vm_events 6
    alloc_pages_node 4630
    alloc_slabmgmt 67
    anon_vma_alloc 62
    anon_vma_free 62
    anon_vma_lock 66
    anon_vma_prepare 98
    anon_vma_unlink 97
    anon_vma_unlock 66
    arch_get_unmapped_area_topdown 94
    arch_get_unmapped_exec_area 3
    arch_unmap_area_topdown 97
    atomic_add 2
    atomic_add_negative 97
    atomic_dec_and_test 5153
    atomic_inc 470
    atomic_inc_and_test 1
    [...]

28.2. 使用 SystemTap 的追踪功能调用

您可以使用 para-callgraph.stp SystemTap 脚本来跟踪函数调用和函数返回。

先决条件

流程

  • 运行 para-callgraph.stp 脚本。
# stap --example para-callgraph.stp 'argument1' 'argument2'

脚本 para-callgraph.stp 有两个命令行参数:

  1. 您需要跟踪其 entry/exit 的功能名称。
  2. 可选的触发器功能,用于在每个线程上启用或禁用追踪。只要触发器功能还没有退出,每个线程中的追踪将继续。

考虑以下示例:

# stap -wv --example para-callgraph.stp 'kernel.function("*@fs/proc.c*")' 'kernel.function("vfs_read")' -c "cat /proc/sys/vm/* || true"

其中:

  • -w : 压制警告。
  • -v :使启动内核的输出可见。
  • -c 命令 : 告知 Tells SystemTap 在执行命令期间用于计数功能调用,在这个示例中是 /bin/true

输出应类似于以下内容:

[...]
   267 gnome-terminal(2921): <-do_sync_read return=0xfffffffffffffff5
   269 gnome-terminal(2921):<-vfs_read return=0xfffffffffffffff5
     0 gnome-terminal(2921):->fput file=0xffff880111eebbc0
     2 gnome-terminal(2921):<-fput
     0 gnome-terminal(2921):->fget_light fd=0x3 fput_needed=0xffff88010544df54
     3 gnome-terminal(2921):<-fget_light return=0xffff8801116ce980
     0 gnome-terminal(2921):->vfs_read file=0xffff8801116ce980 buf=0xc86504 count=0x1000 pos=0xffff88010544df48
     4 gnome-terminal(2921): ->rw_verify_area read_write=0x0 file=0xffff8801116ce980 ppos=0xffff88010544df48 count=0x1000
     7 gnome-terminal(2921): <-rw_verify_area return=0x1000
    12 gnome-terminal(2921): ->do_sync_read filp=0xffff8801116ce980 buf=0xc86504 len=0x1000 ppos=0xffff88010544df48
    15 gnome-terminal(2921): <-do_sync_read return=0xfffffffffffffff5
    18 gnome-terminal(2921):<-vfs_read return=0xfffffffffffffff5
     0 gnome-terminal(2921):->fput file=0xffff8801116ce980

28.3. 使用 SystemTap 确定内核和用户空间花费的时间

您可以使用 thread-times.stp SystemTap 脚本来确定给定线程在内核或用户空间中的花费的时间长度。

先决条件

流程

  • 运行 thread-times.stp 脚本:

    # stap --example thread-times.stp

    这个脚本会在 5 秒期间显示 CPU 时间的前 20 个进程,以及样本中进行的 CPU 选项总数。这个脚本的输出还记录每个进程使用的 CPU 时间的百分比,以及时间是在内核空间或用户空间中消耗的。

    tid   %user %kernel (of 20002 ticks)
      0   0.00%  87.88%
    32169   5.24%   0.03%
    9815   3.33%   0.36%
    9859   0.95%   0.00%
    3611   0.56%   0.12%
    9861   0.62%   0.01%
    11106   0.37%   0.02%
    32167   0.08%   0.08%
    3897   0.01%   0.08%
    3800   0.03%   0.00%
    2886   0.02%   0.00%
    3243   0.00%   0.01%
    3862   0.01%   0.00%
    3782   0.00%   0.00%
    21767   0.00%   0.00%
    2522   0.00%   0.00%
    3883   0.00%   0.00%
    3775   0.00%   0.00%
    3943   0.00%   0.00%
    3873   0.00%   0.00%

28.4. 使用 SystemTap 监控轮询应用程序

您可以使用 timeout.stp SystemTap 脚本来识别和监控哪些应用正在轮询。这样,您可以跟踪不必要的或过度的轮询,这有助于在 CPU 使用量和节能方面得到改进。

先决条件

流程

  • 运行 timeout.stp 脚本:

    # stap --example timeout.stp

    此脚本将跟踪每个应用程序随着时间的推移使用以下系统调用的次数:

  • poll
  • select
  • epoll
  • itimer
  • futex
  • nanosleep
  • signal

在这个示例输出中,您可以看到使用哪个进程调用哪个进程以及次数。

uid |   poll  select   epoll  itimer   futex nanosle  signal| process
28937 | 148793       0       0    4727   37288       0       0| firefox
22945 |      0   56949       0       1       0       0       0| scim-bridge
  0 |      0       0       0   36414       0       0       0| swapper
4275 |  23140       0       0       1       0       0       0| mixer_applet2
4191 |      0   14405       0       0       0       0       0| scim-launcher
22941 |   7908       1       0      62       0       0       0| gnome-terminal
4261 |      0       0       0       2       0    7622       0| escd
3695 |      0       0       0       0       0    7622       0| gdm-binary
3483 |      0    7206       0       0       0       0       0| dhcdbd
4189 |   6916       0       0       2       0       0       0| scim-panel-gtk
1863 |   5767       0       0       0       0       0       0| iscsid

28.5. 与 SystemTap 跟踪最常用的系统调用

您可以使用 topsys.stp SystemTap 脚本列出系统每 5 秒间隔使用的前 20 个系统调用。它还列出了该期间每个系统调用使用的次数。

先决条件

流程

  • 运行 topsys.stp 脚本:

    # stap --example topsys.stp

    考虑以下示例:

    # stap -v --example topsys.stp

    其中 -v 使启动内核的输出结果可见。

    输出应类似于以下内容:

--------------------------------------------------------------
                  SYSCALL      COUNT
             gettimeofday       1857
                     read       1821
                    ioctl       1568
                     poll       1033
                    close        638
                     open        503
                   select        455
                    write        391
                   writev        335
                    futex        303
                  recvmsg        251
                   socket        137
            clock_gettime        124
           rt_sigprocmask        121
                   sendto        120
                setitimer        106
                     stat         90
                     time         81
                sigreturn         72
                    fstat         66
--------------------------------------------------------------

28.6. 使用 SystemTap 跟踪每个进程的系统调用卷

您可以使用 syscalls_by_proc.stp SystemTap 脚本查看哪些进程正在执行最高系统调用的卷。它显示执行最多系统调用的 20 个进程。

先决条件

流程

  • 运行 syscalls_by_proc.stp 脚本:

    # stap --example syscalls_by_proc.stp

    syscalls_by_proc.stp 脚本的输出类似如下:

    Collecting data... Type Ctrl-C to exit and display results
    #SysCalls  Process Name
    1577       multiload-apple
    692        synergyc
    408        pcscd
    376        mixer_applet2
    299        gnome-terminal
    293        Xorg
    206        scim-panel-gtk
    95         gnome-power-man
    90         artsd
    85         dhcdbd
    84         scim-bridge
    78         gnome-screensav
    66         scim-launcher
    [...]

第 29 章 使用 SystemTap 监控磁盘和 I/O 活动

以下小节展示监控磁盘和 I/O 活动的脚本。

29.1. 使用 SystemTap 总结磁盘读/写流量

您可以使用 disktop.stp SystemTap 脚本来识别执行了哪些进程读取和写入系统。

先决条件

流程

  • 运行 disktop.stp 脚本:

    # stap --example disktop.stp

    脚本显示对磁盘读或写消耗最多的前十个进程。

    输出包括每个列出进程的以下数据:

    UID
    用户 ID。用户 ID 0 代表 root 用户。
    PID
    列出进程的 ID。
    PPID
    列出进程的父进程的进程 ID。
    CMD
    列出进程的名称。
    DEVICE
    列出进程从其中读取或写入的存储设备。
    T
    由列出的进程执行的操作类型,其中 W 代表写入,R 代表读取。
    BYTES
    从磁盘读取或写入的数据量。

disktop.stp 脚本的输出类似如下:

[...]
Mon Sep 29 03:38:28 2008 , Average:  19Kb/sec, Read: 7Kb, Write: 89Kb
UID      PID     PPID                       CMD   DEVICE    T    BYTES
0    26319    26294                   firefox     sda5    W        90229
0     2758     2757           pam_timestamp_c     sda5    R         8064
0     2885        1                     cupsd     sda5    W         1678
Mon Sep 29 03:38:38 2008 , Average:   1Kb/sec, Read: 7Kb, Write: 1Kb
UID      PID     PPID                       CMD   DEVICE    T    BYTES
0     2758     2757           pam_timestamp_c     sda5    R         8064
0     2885        1                     cupsd     sda5    W         1678

29.2. 使用 SystemTap 跟踪每个文件的 I/O 时间

您可以使用 iotime.stp SystemTap 脚本监控每个进程从文件读取或写入到任何文件所需的时间。这有助于您确定系统上载入哪些文件。

先决条件

流程

  • 运行 iotime.stp 脚本:

    # stap --example iotime.stp

    脚本会在每次系统调用打开、关闭、读取以及写入文件时进行跟踪。对于每一个系统调用访问的文件,它会计算出任何读取或写入到完成并跟踪数据量(以字节为单位)的微秒数,以字节为单位,读取或写入文件。

    输出包含:

  • 微秒中的时间戳
  • 进程 ID 和进程名称
  • accessiotime 标志
  • 已访问的文件

    如果某个进程能够读取或写入任何数据,一对 access 和 iotime 行应同时出现。access 行指的是给定进程开始访问文件的时间。访问行的末尾将显示读取或写入的数据量。iotime 行显示进程执行读和写操作所使用的时间,以微秒为单位。

iotime.stp 脚本的输出类似如下:

[...]
825946 3364 (NetworkManager) access /sys/class/net/eth0/carrier read: 8190 write: 0
825955 3364 (NetworkManager) iotime /sys/class/net/eth0/carrier time: 9
[...]
117061 2460 (pcscd) access /dev/bus/usb/003/001 read: 43 write: 0
117065 2460 (pcscd) iotime /dev/bus/usb/003/001 time: 7
[...]
3973737 2886 (sendmail) access /proc/loadavg read: 4096 write: 0
3973744 2886 (sendmail) iotime /proc/loadavg time: 11
[...]

29.3. 使用 SystemTap 跟踪累积的 I/O 信息

您可以使用 traceio.stp SystemTap 脚本来跟踪系统的累积数量。

先决条件

流程

  • 运行 traceio.stp 脚本:

    # stap --example traceio.stp

    该脚本打印一段时间内生成 I/O 流量的前十个可执行文件。它还会跟踪由那些可执行文件执行的 I/O 的读取和写入数量。该信息会被跟踪,并以 1 秒的间隔进行打印,以降序排列。

    traceio.stp 脚本的输出类似如下:

[...]
           Xorg r:   583401 KiB w:        0 KiB
       floaters r:       96 KiB w:     7130 KiB
multiload-apple r:      538 KiB w:      537 KiB
           sshd r:       71 KiB w:       72 KiB
pam_timestamp_c r:      138 KiB w:        0 KiB
        staprun r:       51 KiB w:       51 KiB
          snmpd r:       46 KiB w:        0 KiB
          pcscd r:       28 KiB w:        0 KiB
     irqbalance r:       27 KiB w:        4 KiB
          cupsd r:        4 KiB w:       18 KiB
           Xorg r:   588140 KiB w:        0 KiB
       floaters r:       97 KiB w:     7143 KiB
multiload-apple r:      543 KiB w:      542 KiB
           sshd r:       72 KiB w:       72 KiB
pam_timestamp_c r:      138 KiB w:        0 KiB
        staprun r:       51 KiB w:       51 KiB
          snmpd r:       46 KiB w:        0 KiB
          pcscd r:       28 KiB w:        0 KiB
     irqbalance r:       27 KiB w:        4 KiB
          cupsd r:        4 KiB w:       18 KiB

29.4. 在使用 SystemTap 的特定设备上监控 I/O 活动

您可以使用 traceio2.stp SystemTap 脚本来监控特定设备的 I/O 活动。

先决条件

流程

  • 运行 traceio2.stp 脚本。
# stap --example traceio2.stp 'argument'

该脚本使用整个设备号作为参数。要找到这个数字,您可以使用:

# stat -c "0x%D" directory

其中 directory 位于要监控的设备中。

输出包含以下内容:

  • 执行读取或写入进程的任何进程的名称和 ID
  • 它正在执行的功能(vfs_readvfs_write
  • 内核设备号

请考虑 # stap traceio2.stp 0x805 的输出

[...]
synergyc(3722) vfs_read 0x800005
synergyc(3722) vfs_read 0x800005
cupsd(2889) vfs_write 0x800005
cupsd(2889) vfs_write 0x800005
cupsd(2889) vfs_write 0x800005
[...]

29.5. 监控使用 SystemTap 文件的读取和写入

您可以使用 inodewatch.stp SystemTap 脚本来实时从文件中读取和写入。

先决条件

流程

  • 运行 inodewatch.stp 脚本。
# stap --example inodewatch.stp 'argument1' 'argument2' 'argument3'

脚本 inodewatch.stp 使用三个命令行参数:

  1. 文件的主设备号。
  2. 文件的副设备号。
  3. 文件的 inode 号。

您可以使用以下方法获取这些信息:

# stat -c '%D %i' filename

其中 filename 是绝对路径。

考虑以下示例:

# stat -c '%D %i' /etc/crontab

输出应类似于如下:

805 1078319

其中:

  • 805 是基于16(十六进制)的设备号。最后两个数字是副设备号码,剩余的数字是主号码。
  • 1078319 是 inode 号。

要启动监控 /etc/crontab,请运行:

# stap inodewatch.stp 0x8 0x05 1078319

在前两个参数中,您必须为具有 16 的编号使用 0x 前缀。

输出包含以下内容:

  • 执行读取或写入进程的任何进程的名称和 ID
  • 它正在执行的功能(vfs_readvfs_write
  • 内核设备号

这个示例的输出应该类似如下:

cat(16437) vfs_read 0x800005/1078319
cat(16437) vfs_read 0x800005/1078319