背景
内核开发比用户空间开发更难的一个因素就是内核调试艰难。内核错误往往会导致系统宕机，很难保留出错时的现场。调试内核的关键在于你的对内核的深刻理解，同时需要掌握一些内核调试的基本手段。
printk
pr_debug
dump_stack
devmem
/dev/mem是linux下的一个字符设备, 源文件是kernel/drivers/char/mem.c, 这个设备文件是专门用来读写物理地址用的。里面的内容是所有物理内存的地址以及内容信息。通常只有root用户对其有读写权限。
利用mmap和/dev/mem建立起直接读写系统物理内存的渠道。利用/dev/mem和mmap导出系统物理地址，免去了用户虚拟地址到内核逻辑地址的繁琐拷贝，提升效率。
#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
#include <string.h>
#include <errno.h>
#include <signal.h>
#include <fcntl.h>
#include <ctype.h>
#include <termios.h>
#include <sys/types.h>
#include <sys/mman.h>
#define FATAL do { fprintf(stderr, "Error at line %d, file %s (%d) [%s]\n", \
__LINE__, __FILE__, errno, strerror(errno)); exit(1); } while(0)
#define MAP_SIZE 4096UL //映射的内存区大小（一般为一个叶框大小）
#define MAP_MASK (MAP_SIZE - 1) //MAP_MASK = 0XFFF
int main(int argc, char **argv) {
int fd;
void *map_base, *virt_addr;
unsigned long read_result, writeval;
off_t target;
int access_type = 'w';
if(argc < 2) {//若参数个数少于两个则打印此工具的使用方法
fprintf(stderr, "\nUsage:\t%s { address } [ type [ data ] ]\n"
"\taddress : memory address to act upon\n"
"\ttype : access operation type : [b]yte, [h]alfword, [w]ord\n"
"\tdata : data to be written\n\n",
argv[0]);
exit(1);
}
target = strtoul(argv[1], 0, 0); //读取第一个参数，并转换成无符号长整型
if(argc > 2)
access_type = tolower(argv[2][0]); //如果存在第二参数，则读取第二个参数的第一字符
if((fd = open("/dev/mem", O_RDWR | O_SYNC)) == -1) FATAL; //打开文件（/dev/mem）
printf("/dev/mem opened.\n");
fflush(stdout);
/* Map one page */ //利用字符设备文件dev/mem的mmap方法将内核空间映射到用户空间
map_base = mmap(0, MAP_SIZE, PROT_READ | PROT_WRITE, MAP_SHARED, fd, target & ~MAP_MASK);
if(map_base == (void *) -1) FATAL;
printf("Memory mapped at address %p.\n", map_base);
fflush(stdout);
virt_addr = map_base + (target & MAP_MASK);
//针对不同的参数获取不同类型内存数据
switch(access_type) {
case 'b':
read_result = *((unsigned char *) virt_addr);
break;
case 'h':
read_result = *((unsigned short *) virt_addr);
break;
case 'w':
read_result = *((unsigned long *) virt_addr);
break;
default:
fprintf(stderr, "Illegal data type '%c'.\n", access_type);
exit(2);
}
printf("Value at address 0x%X (%p): 0x%X\n", target, virt_addr, read_result);
fflush(stdout);
//若参数大于3个，则说明为写入操作，针对不同参数写入不同类型的数据
if(argc > 3) {
writeval = strtoul(argv[3], 0, 0);
switch(access_type) {
case 'b':
*((unsigned char *) virt_addr) = writeval;
read_result = *((unsigned char *) virt_addr);
break;
case 'h':
*((unsigned short *) virt_addr) = writeval;
read_result = *((unsigned short *) virt_addr);
break;
case 'w':
*((unsigned long *) virt_addr) = writeval;
read_result = *((unsigned long *) virt_addr);
break;
}
printf("Written 0x%X; readback 0x%X\n", writeval, read_result);
fflush(stdout);
}
if(munmap(map_base, MAP_SIZE) == -1) FATAL;
close(fd);
return 0;
}
Oops
当我们遇到内核崩溃，比如空指针异常、内存访问越界。这时我们只能靠崩溃之后打印出来异常调用栈信息来定位Oops的位置和原因。
举个例子：
- 文本描述错误类型：Unable to handle kernel NULL … 空指针赋值
- 出错的模块名称
- CPU号 进程号
- 出错时CPU寄存器
- 栈信息和栈回溯信息
- 出错的机器码
errno
错误代码由内核或用户空间应用程序（通过error变量）解释。错误处理在软件开发中非常重要，而不仅仅是在内核开发中。幸运的是，内核提供的几种错误，几乎涵盖了可能遇到的所有错误，有时需要把它们打印出来以帮助进行调试。
相应文件的路径：
include/uapi/asm-generic/errno-base.h
include/uapi/sm-generic/error.h
strace
strace命令是一个集诊断、调试、统计于一体的工具，我们可以用它来监控用户空间进程和内核的交互。比如对应用程序的系统调用、信号传递与进程状态变更等进行追踪与分析，以达到解决问题的目的。
strace常用来追踪进程执行时的系统调用和接收的信号。 在Linux中，进程不能直接访问硬件设备，当进程需要访问硬件设备(比如，读取磁盘文件，接收网络数据等等)时，必须由用户态模式切换至内核态模式，通过系统调用访问硬件设备。strace可以追踪到一个进程产生的系统调用，包括参数，返回值，执行消耗的时间。
strace -h
usage: strace [-CdffhiqrtttTvVwxxy] [-I n] [-e expr]...
[-a column] [-o file] [-s strsize] [-P path]...
-p pid... / [-D] [-E var=val]... [-u username] PROG [ARGS]
or: strace -c[dfw] [-I n] [-e expr]... [-O overhead] [-S sortby]
-p pid... / [-D] [-E var=val]... [-u username] PROG [ARGS]
-c 统计每一系统调用的所执行的时间,次数和出错的次数等.
-d 输出strace关于标准错误的调试信息.
-f 追踪由fork调用所产生的子进程.
-ff 如果提供-o filename,则所有进程的追踪结果输出到相应的filename.pid中,pid是各进程的进程号.
-F 尝试追踪vfork调用.在-f时,vfork不被追踪.
-h 输出简要的帮助信息.
-i 输出系统调用的入口指针.
-q 禁止输出关于脱离的消息.
-r 打印出相对时间关于,,每一个系统调用.
-t 在输出中的每一行前加上时间信息.
-tt 在输出中的每一行前加上时间信息,微秒级.
-ttt 微秒级输出,以秒了表示时间.
-T 显示每一调用所耗的时间.
-v 输出所有的系统调用.一些调用关于环境变量,状态,输入输出等调用由于使用频繁,默认不输出.
-V 输出strace的版本信息.
-x 以十六进制形式输出非标准字符串
-xx 所有字符串以十六进制形式输出.
-a column
设置返回值的输出位置.默认 为40.
-e expr
指定一个表达式,用来控制如何追踪.格式如下:
[qualifier=][!]value1[,value2]...
qualifier只能是 trace,abbrev,verbose,raw,signal,read,write其中之一.value是用来限定的符号或数字.默认的 qualifier是 trace.感叹号是否定符号.例如:
-eopen等价于 -e trace=open,表示只追踪open调用.而-etrace!=open表示追踪除了open以外的其他调用.有两个特殊的符号 all 和 none.
注意有些shell使用!来执行历史记录里的命令,所以要使用\\.
-e trace=set
只追踪指定的系统 调用.例如:-e trace=open,close,rean,write表示只追踪这四个系统调用.默认的为set=all.
-e trace=file
只追踪有关文件操作的系统调用.
-e trace=process
只追踪有关进程控制的系统调用.
-e trace=network
追踪与网络有关的所有系统调用.
-e strace=signal
追踪所有与系统信号有关的 系统调用
-e trace=ipc
追踪所有与进程通讯有关的系统调用
-e abbrev=set
设定 strace输出的系统调用的结果集.-v 等与 abbrev=none.默认为abbrev=all.
-e raw=set
将指 定的系统调用的参数以十六进制显示.
-e signal=set
指定追踪的系统信号.默认为all.如 signal=!SIGIO(或者signal=!io),表示不追踪SIGIO信号.
-e read=set
输出从指定文件中读出 的数据.例如:
-e read=3,5
-e write=set
输出写入到指定文件中的数据.
-o filename
将strace的输出写入文件filename
-p pid
追踪指定的进程pid.
-s strsize
指定输出的字符串的最大长度.默认为32.文件名一直全部输出.
-u username
以username 的UID和GID执行被追踪的命令
（1） 查看程序系统调用
该 read系统调用有三个参数：
3,表示文件描述符，与读取的文件相关联。"\177ELF\2\1\1\0\0\0\0\0\0\0\0\0\3\0>\0\1\0\0\0\20b\0\0\0\0\0\0"...，表示应读取文件的缓冲区。- 512，表示应读取的字节数。
（2）追踪已经执行的程序
（3）输出保存到文件
strace -p 13075 -o strace_output
（4）摘要
strace -p 792 -c
(5) 追踪系统调用异常
写一个测试程序如下。我们尝试以只读模式打开一个不存在的文件。
#include <stdio.h>
#include <unistd.h>
int main()
{
char str[30];
FILE *fp = fopen("any.txt", "r");
fgets(str, 5, fp);
fclose(fp);
return 0;
}
编译运行后，正如我们所料，出现了core dumped。
./test
Segmentation fault (core dumped)
尝试使用strace追踪下test文件，看下到底发生了什么。strace文件的输出如下所示，根据输出内容可以分析定位问题所在。
strace ./test
execve("./test", ["./test"], 0x7ffecbee7d60 /* 51 vars */) = 0
brk(NULL) = 0x5621c36a4000
........省略若干行.............
openat(AT_FDCWD, "any.txt", O_RDONLY) = -1 ENOENT (No such file or directory)
--- SIGSEGV {si_signo=SIGSEGV, si_code=SEGV_MAPERR, si_addr=NULL} ---
+++ killed by SIGSEGV (core dumped) +++
Segmentation fault (core dumped)
在执行test文件时，进行了很多系统调用。然而，我们只需要关注最后四行即可。
从日志信息可以看出，程序是被SIGSEGV终止的，并且产生了段错误 segmentation fault 。
ENOENT全称为：Error NO EnTry。openat函数返回值为新的文件描述符，出错时，返回-1。而且，在最后也提醒了，No such file or directory。因此，结合源代码，可以判断是操作了不存在的文件。
ftrace
(1) 配置
编译内核时需配置以下选项：
cat /boot/config-2.6.36 | grep FTRACE
CONFIG_HAVE_FTRACE_NMI_ENTER=y
CONFIG_HAVE_DYNAMIC_FTRACE=y
CONFIG_HAVE_FTRACE_MCOUNT_RECORD=y
CONFIG_FTRACE_NMI_ENTER=y
CONFIG_FTRACE=y #FTRACE打开后，编译内核时会打开-pg选项。
CONFIG_FTRACE_SYSCALLS=y
CONFIG_DYNAMIC_FTRACE=y
CONFIG_FTRACE_MCOUNT_RECORD=y
也可以用make menuconfig图形化界面来配置：
Kernel hacking —> —> Tracers —> —> 可勾选所有。
将debugfs编译进内核：
设置CONFIG_DEBUG_FS=y 或 Kernel hacking —> —> Debug Filesystem。
说明：ftrace通过debugfs向用户态提供访问接口。配置内核时激活debugfs后会创建目录/sys/kernel/debug，debug文件系统就是挂载到该目录。
挂载方式：在init脚本下加入mount -t debugfs nodev /sys/kernel/debug。启动后会创建目录/sys/kernel/debug/tracing，改目录下包含ftrace的控制和输出文件。
/sys/kernel/debug/tracing # ls
README set_event_pid
available_events set_ftrace_filter
available_filter_functions set_ftrace_notrace
available_tracers set_ftrace_pid
buffer_size_kb set_graph_function
buffer_total_size_kb set_graph_notrace
current_tracer snapshot
dyn_ftrace_total_info stack_max_size
enabled_functions stack_trace
events stack_trace_filter
free_buffer trace
function_profile_enabled trace_clock
instances trace_marker
kprobe_events trace_options
kprobe_profile trace_pipe
max_graph_depth trace_stat
options tracing_cpumask
per_cpu tracing_max_latency
printk_formats tracing_on
saved_cmdlines tracing_thresh
saved_cmdlines_size uprobe_events
set_event uprobe_profile
(2) ftrace数据文件
/sys/kernel/debug/trace目录下数据文件的操作，通常使用 echo 命令来修改其值，也可以在程序中通过文件读写相关的函数来操作这些文件的值。
主要文件用途如下：
current_tracer：用于设置或显示当前使用的追踪器；使用 echo 将追踪器名字写入该文件可以切换到不同的追踪器。系统启动后，其缺省值为 nop ，即不做任何追踪操作。在执行完一段追踪任务后，可以通过向该文件写入 nop 来重置追踪器。
available_tracers：记录了当前编译进内核的追踪器的列表，可以通过 cat 查看其内容；其包含的追踪器与图 3 中所激活的选项是对应的。写 current_tracer 文件时用到的追踪器名字必须在该文件列出的追踪器名字列表中。
trace：文件提供了查看获取到的追踪信息的接口。可以通过 cat 等命令查看该文件以查看追踪到的内核活动记录，也可以将其内容保存为记录文件以备后续查看。
tracing_enabled：用于控制 current_tracer 中的追踪器是否可以追踪内核函数的调用情况。写入 0 会关闭追踪活动，写入 1 则激活追踪功能；其缺省值为 1 。
set_graph_function：设置要清晰显示调用关系的函数，显示的信息结构类似于 C 语言代码，这样在分析内核运作流程时会更加直观一些。在使用 function_graph 追踪器时使用；缺省为对所有函数都生成调用关系序列，可以通过写该文件来指定需要特别关注的函数。
buffer_size_kb：用于设置单个 CPU 所使用的追踪缓存的大小。追踪器会将追踪到的信息写入缓存，每个 CPU 的追踪缓存是一样大的。追踪缓存实现为环形缓冲区的形式，如果追踪到的信息太多，则旧的信息会被新的追踪信息覆盖掉。注意，要更改该文件的值需要先将 current_tracer 设置为 nop 才可以。
tracing_on：用于控制追踪的暂停。有时候在观察到某些事件时想暂时关闭追踪，可以将 0 写入该文件以停止追踪，这样追踪缓冲区中比较新的部分是与所关注的事件相关的；写入 1 可以继续追踪。
available_filter_functions：记录了当前可以追踪的内核函数。对于不在该文件中列出的函数，无法追踪其活动。
set_ftrace_filter和 set_ftrace_notrace：在编译内核时配置了动态 ftrace （选中 CONFIG_DYNAMIC_FTRACE 选项）后使用。前者用于显示指定要追踪的函数，后者则作用相反，用于指定不追踪的函数。如果一个函数名同时出现在这两个文件中，则这个函数的执行状况不会被追踪。这些文件还支持简单形式的含有通配符的表达式，这样可以用一个表达式一次指定多个目标函数；具体使用在后续文章中会有描述。注意，要写入这两个文件的函数名必须可以在文件 available_filter_functions 中看到。缺省为可以追踪所有内核函数，文件 set_ftrace_notrace 的值则为空。
（3）ftrace追踪器类型
可通过cat available_tracers查看可用的追踪器类型。可追踪的信息如进程调度、中断关闭等。
nop追踪器不会追踪任何内核活动，将 nop 写入 current_tracer 文件可以删除之前所使用的追踪器，并清空之前收集到的追踪信息，即刷新 trace 文件。
function追踪器可以追踪内核函数的执行情况；可以通过文件 set_ftrace_filter 显示指定要追踪的函数。
function_graph追踪器可以显示类似 C 源码的函数调用关系图，这样查看起来比较直观一些；可以通过文件 set_grapch_function 显示指定要生成调用流程图的函数。
sched_switch追踪器可以对内核中的进程调度活动进行追踪。
irqsoff追踪器和 preemptoff追踪器分别追踪关闭中断的代码和禁止进程抢占的代码，并记录关闭的最大时长，preemptirqsoff追踪器则可以看做它们的组合。
（4）使用
$ cd /sys/kernel/debug/tracing/——切换到目录
$ cat available_tracers ——获取可用追踪器
$ echo 1 > /proc/sys/kernel/ftrace_enabled——激活ftrace
将所选择的追踪器的名字写入文件 current_tracer。
将要追踪的函数写入文件 set_ftrace_filter ，将不希望追踪的函数写入文件 set_ftrace_notrace。
$ echo 1 > /proc/sys/kernel/tracing_on——控制追踪器的暂停
查看文件 trace 获取追踪信息，对内核的运行进行分析调试
function追踪器
/sys/kernel/debug/tracing # echo 0 > tracing_on
/sys/kernel/debug/tracing # echo function > current_tracer
/sys/kernel/debug/tracing # echo 1 > tracing_on #运行一个程序
/sys/kernel/debug/tracing # echo 0 > tracing_on
/sys/kernel/debug/tracing # cat trace | heap -20
#
# _-----=> irqs-off
# / _----=> need-resched
# | / _---=> hardirq/softirq
# || / _--=> preempt-depth
# ||| / delay
# TASK-PID CPU# |||| TIMESTAMP FUNCTION
# | | | |||| | |
reverse_shell-128 [000] .... 5024.031776: eth_type_trans <-loopback_xmit
reverse_shell-128 [000] .... 5024.031778: netif_rx <-loopback_xmit
reverse_shell-128 [000] .... 5024.031779: netif_rx_internal <-netif_rx
reverse_shell-128 [000] .... 5024.031780: enqueue_to_backlog <-netif_rx_internal
reverse_shell-128 [000] d... 5024.031781: _raw_spin_lock <-enqueue_to_backlog
reverse_shell-128 [000] d... 5024.031782: __raise_softirq_irqoff <-enqueue_to_backlog
reverse_shell-128 [000] d... 5024.031783: _raw_spin_unlock <-enqueue_to_backlog
reverse_shell-128 [000] .... 5024.031785: __local_bh_enable_ip <-__dev_queue_xmit
reverse_shell-128 [000] .... 5024.031786: __local_bh_enable_ip <-ip_finish_output2
function_graph追踪器
/sys/kernel/debug/tracing # echo 0 > /proc/sys/kernel/ftrace_enabled
/sys/kernel/debug/tracing # echo 0 > tracing_on
/sys/kernel/debug/tracing # echo function_graph > current_tracer
/sys/kernel/debug/tracing # echo __do_fault > set_graph_function
/sys/kernel/debug/tracing # echo 1 > /proc/sys/kernel/ftrace_enabled
/sys/kernel/debug/tracing # echo 1 > tracing_on
/sys/kernel/debug/tracing # echo 0 > tracing_on
/sys/kernel/debug/tracing # cat trace | head -20
# tracer: function_graph
#
# CPU DURATION FUNCTION CALLS
# | | | | | | |
0) 0.471 us | } /* __compute_runnable_contrib */
0) 0.929 us | account_entity_enqueue();
0) 1.501 us | update_cfs_shares();
0) 0.499 us | place_entity();
0) 0.539 us | __enqueue_entity();
0) + 26.142 us | } /* enqueue_entity */
0) | enqueue_entity() {
0) | update_curr() {
0) 0.754 us | update_min_vruntime();
0) 0.889 us | cpuacct_charge();
0) 8.973 us | }
0) 0.398 us | __compute_runnable_contrib();
0) 0.478 us | account_entity_enqueue();
0) 0.580 us | update_cfs_shares();
0) 0.412 us | place_entity();
0) 0.411 us | __enqueue_entity();
/sys/kernel/debug/tracing # echo > set_graph_function
CPU 字段给出了执行函数的 CPU 号，本例中都为 0 号 CPU。DURATION 字段给出了函数执行的时间长度，以 us 为单位。FUNCTION CALLS 则给出了调用的函数，并显示了调用流程。注意，对于不调用其它函数的函数，其对应行以“;”结尾，而且对应的 DURATION 字段给出其运行时长；对于调用其它函数的函数，则在其“}”对应行给出了运行时长，该时间是一个累加值，包括了其内部调用的函数的执行时长。DURATION 字段给出的时长并不是精确的，它还包含了执行 ftrace 自身的代码所耗费的时间，所以示例中将内部函数时长累加得到的结果会与对应的外围调用函数的执行时长并不一致；不过通过该字段还是可以大致了解函数在时间上的运行开销的。最后通过 echo 命令重置了文件 set_graph_function 。
sched_switch 追踪器
[root@linux tracing]# echo 1 > /proc/sys/kernel/ftrace_enabled
[root@linux tracing]# echo 0 > tracing_on
[root@linux tracing]# echo sched_switch > current_tracer
[root@linux tracing]# echo 1 > tracing_on
# 运行一段时间，使ftrace收集一些追踪信息。
[root@linux tracing]# echo 0 > tracing_on
[root@linux tracing]# cat trace | head -10
# tracer: sched_switch
#
# TASK-PID CPU# TIMESTAMP FUNCTION
# | | | | |
bash-1408 [000] 26208.816058: 1408:120:S + [000] 1408:120:S bash
bash-1408 [000] 26208.816070: 1408:120:S + [000] 1408:120:S bash
bash-1408 [000] 26208.816921: 1408:120:R + [000] 9:120:R events/0
bash-1408 [000] 26208.816939: 1408:120:R ==> [000] 9:120:R events/0
events/0-9 [000] 26208.817081: 9:120:R + [000] 1377:120:R gnome-terminal
events/0-9 [000] 26208.817088: 9:120:S ==> [000] 1377:120:R gnome-terminal
进程间的唤醒操作和调度切换信息，可以通过符号‘ + ’和‘ ==> ’区分。描述进程状态的格式为“Task-PID:Priority:Task-State”。以示例追踪信息中的第一条追踪记录为例，可以看到进程 bash 的 PID 为 1408 ，其对应的内核态优先级为 120 ，当前状态为 S（可中断睡眠状态），当前 bash 并没有唤醒其它进程；从第 3 条记录可以看到，进程 bash 将进程 events/0 唤醒，而在第 4 条记录中发生了进程调度，进程 bash 切换到进程 events/0 执行。
在 Linux 内核中，进程的状态在内核头文件 include/linux/sched.h 中定义，包括可运行状态 TASK_RUNNING（对应追踪信息中的符号‘ R ’）、可中断阻塞状态 TASK_INTERRUPTIBLE（对应追踪信息中的符号‘ S ’）等。同时该头文件也定义了用户态进程所使用的优先级的范围，最小值为 MAX_USER_RT_PRIO（值为 100 ），最大值为 MAX_PRIO - 1（对应值为 139 ），缺省为 DEFAULT_PRIO（值为 120 ）；在本例中，进程优先级都是缺省值 120 。
irqsoff 追踪器
详细说明
irqsoff 追踪器可以对中断被关闭的状况进行追踪，有助于发现导致较大延迟的代码；当出现最大延迟时，追踪器会记录导致延迟的追踪信息，文件 tracing_max_latency 则记录中断被关闭的最大延时。
[root@linux tracing]# echo irqsoff > current_tracer
追踪自己写的代码
trace_printk——打印追踪信息
简介：使用方式与 printk() 类似，用于向 ftrace 追踪缓冲区输出追踪信息。配置CONFIG_TRACING选项后就会定义trace_printk()宏（见include/linux/kernel.h）。
理解：就是在内核代码中嵌入trace_printk()语句，这样在用ftrace的function_graph追踪器对内核进行监控时就能在trace文件中看到trace_printk()输出的信息。
例如示例模块ftrace_demo：
#include <linux/init.h>
#include <linux/module.h>
#include <linux/kernel.h>
MODULE_LICENSE("GPL");
static int ftrace_demo_init(void)
{
trace_printk("Can not see this in trace unless loaded for the second time\n");
return 0;
}
static void ftrace_demo_exit(void)
{
trace_printk("Module unloading\n");
}
module_init(ftrace_demo_init);
module_exit(ftrace_demo_exit);
对模块 ftrace_demo进行 追踪 ：
[root@linux tracing]# echo 1 > /proc/sys/kernel/ftrace_enabled
[root@linux tracing]# echo function_graph > current_tracer
# 事先加载模块 ftrace_demo (加载后才能在写文件 set_ftrace_filter 时找到该模块)
[root@linux tracing]# echo ':mod:ftrace_demo' > set_ftrace_filter
[root@linux tracing]# cat set_ftrace_filter
ftrace_demo_init
ftrace_demo_exit
# 将模块 ftrace_demo 卸载
[root@linux tracing]# echo 1 > tracing_enabled
# 重新进行模块 ftrace_demo 的加载与卸载操作
[root@linux tracing]# cat trace
# tracer: function_graph
#
# CPU DURATION FUNCTION CALLS
# | | | | | | |
1) | /* Can not see this in trace unless loaded for the second time */
0) | /* Module unloading */
tracing_on/tracing_off —— 控制追踪信息的记录
代码中，可以利用tracing_on() 和 tracing_off()来继续和暂停追踪，类似于对 /sys/kernel/debug/tracing 下的文件 tracing_on 分别执行写 1 和 写 0 的操作（前者节省上下文切换、系统调度控制等的时间）
使用 tracing_off 的模块 ftrace_demo：
#include <linux/init.h>
#include <linux/module.h>
#include <linux/kernel.h>
MODULE_LICENSE("GPL");
static int ftrace_demo_init(void)
{
trace_printk("ftrace_demo_init called\n");
tracing_off();
return 0;
}
static void ftrace_demo_exit(void)
{
trace_printk("ftrace_demo_exit called\n");
tracing_off();
}
module_init(ftrace_demo_init);
module_exit(ftrace_demo_exit);
追踪：
[root@linux tracing]# echo 1 > /proc/sys/kernel/ftrace_enabled
[root@linux tracing]# echo 1 > tracing_on
[root@linux tracing]# echo function > current_tracer
[root@linux tracing]# echo 1 > tracing_enabled
加载模块 ftrace_demo，模块初始化函数 ftrace_demo_init 被调用
[root@linux tracing]# cat tracing_on
0
[root@linux tracing]# cat trace | wc -l
120210
[root@linux tracing]# cat trace | grep -n ftrace_demo_init
120187: insmod-2897 [000] 2610.504611: ftrace_demo_init <-do_one_initcall
120193: insmod-2897 [000] 2610.504667: ftrace_demo_init: ftrace_demo_init called
[root@linux tracing]# echo 1 > tracing_on # 继续追踪信息的记录
卸载模块 ftrace_demo，模块函数 ftrace_demo_exit 被调用
[root@linux tracing]# cat tracing_on
0
[root@linux tracing]# wc -l trace
120106 trace
[root@linux tracing]# grep -n ftrace_demo_exit trace
120106: rmmod-2992 [001] 3016.884449: : ftrace_demo_exit called
优点：在代码中使用 tracing_off() 可以控制将感兴趣的信息保存在追踪缓冲区的末端位置，不会很快被新的信息所覆盖，便于及时查看。还可以通过特定条件（比如检测到某种异常状况，等等）来控制追踪信息的记录，如下所示。实践中，可以通过宏来控制是否将对这些函数的调用编译进内核模块，这样可以在调试时将其开启，在最终发布时将其关闭。用户态的应用程序可以通过直接读写文件 tracing_on 来控制记录追踪信息的暂停状态，以便了解应用程序运行期间内核中发生的活动。
if (condition)
tracing_on() or tracing_off()
总结：ftrace能有效监测内核活动、函数调用，但是无法获取调用参数、调用上下文、甚至修改上下文。不过可以利用该机制往源码插入代码（如trace_printfk，输出调用参数），然后动态监测。
kprobe
1.编写kprobe探测模块
（1）struct kprobe结构体
// kprobe结构表示一个探测点
struct kprobe {
struct hlist_node hlist;// 被用于kprobe全局hash，索引值为被探测点的地址。
struct list_head list; // 用于链接同一被探测点的不同探测kprobe。
/*count the number of times this probe was temporarily disarmed */
unsigned long nmissed;
kprobe_opcode_t *addr; // 被探测点的地址。
const char *symbol_name;// 被探测函数的名称。
unsigned int offset; // 被探测点在函数内部的偏移，用于探测函数内核的指令，如果该值为0表示函数的入口。
kprobe_pre_handler_t pre_handler; // 被探测点指令执行之前调用的回调函数。
kprobe_post_handler_t post_handler; // 被探测点指令执行之后调用的回调函数。
kprobe_fault_handler_t fault_handler;// 在执行pre_handler、post_handler或单步执行被探测指令时出现内存异常则会调用该回调函数。
kprobe_break_handler_t break_handler;// 在执行某一kprobe过程中触发了断点指令后会调用该函数，用于实现jprobe。
kprobe_opcode_t opcode; // 保存的被探测点原始指令。
struct arch_specific_insn ainsn; // 被复制的被探测点的原始指令，用于单步执行，架构强相关。
u32 flags; // 状态标记。
};
#include <linux/kernel.h>
#include <linux/module.h>
#include <linux/kprobes.h>
#define MAX_SYMBOL_LEN 64
static char symbol[MAX_SYMBOL_LEN] = "_do_fork";
module_param_string(symbol, symbol, sizeof(symbol), 0644);
/* For each probe you need to allocate a kprobe structure */
static struct kprobe kp = { //定义一个实例kp并初始化symbol_name为"_do_fork"，将探测_do_fork函数。
.symbol_name = symbol,
};
/* kprobe pre_handler: called just before the probed instruction is executed */
static int handler_pre(struct kprobe *p, struct pt_regs *regs)
{
#ifdef CONFIG_X86
pr_info("<%s> pre_handler: p->addr = %pF, ip = %lx, flags = 0x%lx\n",
p->symbol_name, p->addr, regs->ip, regs->flags);
#endif
#ifdef CONFIG_ARM64
pr_info("<%s> pre_handler: p->addr = %pF, pc = 0x%lx,"
" pstate = 0x%lx\n",
p->symbol_name, p->addr, (long)regs->pc, (long)regs->pstate);
#endif
/* A dump_stack() here will give a stack backtrace */
return 0;
}
/* kprobe post_handler: called after the probed instruction is executed */
static void handler_post(struct kprobe *p, struct pt_regs *regs,
unsigned long flags)
{
#ifdef CONFIG_X86
pr_info("<%s> post_handler: p->addr = %pF, flags = 0x%lx\n",
p->symbol_name, p->addr, regs->flags);
#endif
#ifdef CONFIG_ARM64
pr_info("<%s> post_handler: p->addr = %pF, pstate = 0x%lx\n",
p->symbol_name, p->addr, (long)regs->pstate);
#endif
}
/*
* fault_handler: this is called if an exception is generated for any
* instruction within the pre- or post-handler, or when Kprobes
* single-steps the probed instruction.
*/
static int handler_fault(struct kprobe *p, struct pt_regs *regs, int trapnr)
{
pr_info("fault_handler: p->addr = %pF, trap #%dn", p->addr, trapnr);
/* Return 0 because we don't handle the fault. */
return 0;
}
static int __init kprobe_init(void)
{
int ret;
kp.pre_handler = handler_pre;// 初始化kp的三个回调函数。
kp.post_handler = handler_post;
kp.fault_handler = handler_fault;
ret = register_kprobe(&kp);// 注册kp探测点到内核。
if (ret < 0) {
pr_err("register_kprobe failed, returned %d\n", ret);
return ret;
}
pr_info("Planted kprobe at %pF\n", kp.addr);
return 0;
}
static void __exit kprobe_exit(void)
{
unregister_kprobe(&kp);
pr_info("kprobe at %pF unregistered\n", kp.addr);
}
module_init(kprobe_init)
module_exit(kprobe_exit)
MODULE_LICENSE("GPL");
insmod加载，等待后rmmod卸载，执行结果如下：
$ dmesg
[ 13.365009] Planted kprobe at _do_fork+0x0/0x360
[ 20.849401] <_do_fork> pre_handler: p->addr = _do_fork+0x0/0x360, ip = ffffffff81083471, flags = 0x246
[ 20.849458] <_do_fork> post_handler: p->addr = _do_fork+0x0/0x360, flags = 0x246
[ 52.741703] <_do_fork> pre_handler: p->addr = _do_fork+0x0/0x360, ip = ffffffff81083471, flags = 0x246
[ 52.741747] <_do_fork> post_handler: p->addr = _do_fork+0x0/0x360, flags = 0x246
[ 73.833422] <_do_fork> pre_handler: p->addr = _do_fork+0x0/0x360, ip = ffffffff81083471, flags = 0x246
[ 73.833465] <_do_fork> post_handler: p->addr = _do_fork+0x0/0x360, flags = 0x246
[ 73.866238] kprobe at _do_fork+0x0/0x360 unregistered
$ cat /proc/kallsyms | grep _do_fork
ffffffff81083470 T _do_fork
验证后发现地址和符号是对应的
（2）kprobe API函数
int register_kprobe(struct kprobe *p); // 注册kprobe探测点
void unregister_kprobe(struct kprobe *p); // 卸载kprobe探测点
int register_kprobes(struct kprobe **kps, int num); // 注册多个kprobe探测点
void unregister_kprobes(struct kprobe **kps, int num);// 卸载多个kprobe探测点
int disable_kprobe(struct kprobe *kp); // 暂停指定kprobe探测点
int enable_kprobe(struct kprobe *kp); // 恢复指定kprobe探测点
void dump_kprobe(struct kprobe *kp); // 打印指定kprobe探测点的名称、地址、偏移
73.833465] <_do_fork> post_handler: p->addr = _do_fork+0x0/0x360, flags = 0x246
[ 73.866238] kprobe at _do_fork+0x0/0x360 unregistered
$ cat /proc/kallsyms | grep _do_fork
ffffffff81083470 T _do_fork
验证后发现地址和符号是对应的
（2）kprobe API函数
int register_kprobe(struct kprobe *p); // 注册kprobe探测点
void unregister_kprobe(struct kprobe *p); // 卸载kprobe探测点
int register_kprobes(struct kprobe **kps, int num); // 注册多个kprobe探测点
void unregister_kprobes(struct kprobe **kps, int num);// 卸载多个kprobe探测点
int disable_kprobe(struct kprobe *kp); // 暂停指定kprobe探测点
int enable_kprobe(struct kprobe *kp); // 恢复指定kprobe探测点
void dump_kprobe(struct kprobe *kp); // 打印指定kprobe探测点的名称、地址、偏移
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
