Linuxカーネルのビルドの一部最適化を無効化する

関連記事

概要
はじめに
現状の問題点
- ファイル単位で最適化を無効化する
- 関数単位で最適化を無効化する
おわりに
変更履歴
参考
補足
- マシン命令に変換してレジスタを表示する

概要

最近のLinux カーネルでは、デフォルトで最適化オプションが付与されている。

そのため、kgdbやその他のデバッグツールを利用する際に、不都合が生じることがあり、デバッグの間だけが無効化したいことがある。

そこで、本記事では、Makefileを書き換える方法と関数にattributeを付与する方法により最適化を無効化して、kgdbで変数の値を確認する方法をまとめた。

はじめに

前回、VirtualBoxの仮想マシン同士でkgdbでデバッグできるようにした。

leavatail.hatenablog.com

kgdbを使えば、指定した関数内の変数を参照したり、ステップ実行でコードフローを追っていくことができるのでソースコードを読むときにも役立つ。

しかし、Linux カーネルはビルド時にデフォルトで最適化オプションを付与しているので、kgdbでソースコードリーディングをするにはいくつかの問題点がある。そこで、kgdbでも比較的簡単にソースコードリーディングができるようにいくつかの施策をする。

現状の問題点

gdbを使用した人ならわかるが、最適化オプションを付与したオブジェクトファイルをgdbにかけると、以下の問題がある。

一部の変数がと表示され参照できなくなる
ステップ実行とソースコードが対応しなくなる

そこで、ソースコードリーディングをしている間はカーネルのビルド時に最適化オプションを無効にしたい(-O0)のだが、どうやらLinux カーネルは-O0でコンパイルできないらしい。

The kernel will not run with -O0, sorry, just live with the build optimization levels that is currently used and you should be fine.

Yes, it doesn't work :) How to compile Linux kernel with -O0 flag

そのため、別の方法で変数などを確認する必要がある。

ファイル単位で最適化を無効化する

ファイル単位で無効化する場合は、該当するMakefileに下記の内容を追記することでできる。

CFLAGS_(オブジェクトファイル名) = コンパイルオプション

例えば、fs/fat/dir.cの最適化のみ無効にする場合、fs/fat/Makefileを下記のように修正する。

# SPDX-License-Identifier: GPL-2.0
#
# Makefile for the Linux fat filesystem support.
#

obj-$(CONFIG_FAT_FS) += fat.o
obj-$(CONFIG_VFAT_FS) += vfat.o
obj-$(CONFIG_MSDOS_FS) += msdos.o

CFALGS_dir.o = -O0   # 最適化を無効化するために追加した行

fat-y := cache.o dir.o fatent.o file.o inode.o misc.o nfs.o
vfat-y := namei_vfat.o
msdos-y := namei_msdos.o

Makefileを修正後、再ビルドをして対象マシンに再インストールする。

関数単位で最適化を無効化する

関数単位で無効化する場合は、該当するソースコードを修正する必要がある。最適化を無効にしたい関数に対して、下記の修正をすればよい。

型  __attribute__((optimize("コンパイルオプション"))) 関数名(引数)

例えば、ext4_readpages()の最適化のみ無効にする場合、下記のように記述する。

// 3365:
static int __attribute__((optimize("O0")))
ext4_readpages(struct file *file, struct address_space *mapping,
        struct list_head *pages, unsigned nr_pages)