Hexdump 如何工作
Hexdump 是個用十六進位、十進位、八進位數或 ASCII 碼顯示二進位文件內容的工具。它是個用於檢查的工具,也可用於數據恢復、逆向工程和編程。
學習基本用法
Hexdump 讓你毫不費力地得到輸出結果,依你所查看文件的尺寸,輸出結果可能會非常多。本文中我們會創建一個 1x1 像素的 PNG 文件。你可以用圖像處理應用如 GIMP 或 Mtpaint 來創建該文件,或者也可以在終端內用 ImageMagick 創建。
用 ImagiMagick 生成 1x1 像素 PNG 文件的命令如下:
$ convert -size 1x1 canvas:black pixel.png
你可以用 file
命令確認此文件是 PNG 格式:
$ file pixel.png
pixel.png: PNG image data, 1 x 1, 1-bit grayscale, non-interlaced
你可能好奇 file
命令是如何判斷文件是什麼類型。巧的是,那正是 hexdump
將要揭示的原理。眼下你可以用你常用的圖像查看軟體來看看你的單一像素圖片(它看上去就像這樣:.
),或者你可以用 hexdump
查看文件內部:
$ hexdump pixel.png
0000000 5089 474e 0a0d 0a1a 0000 0d00 4849 5244
0000010 0000 0100 0000 0100 0001 0000 3700 f96e
0000020 0024 0000 6704 4d41 0041 b100 0b8f 61fc
0000030 0005 0000 6320 5248 004d 7a00 0026 8000
0000040 0084 fa00 0000 8000 00e8 7500 0030 ea00
0000050 0060 3a00 0098 1700 9c70 51ba 003c 0000
0000060 6202 474b 0044 dd01 138a 00a4 0000 7407
0000070 4d49 0745 07e3 081a 3539 a487 46b0 0000
0000080 0a00 4449 5441 d708 6063 0000 0200 0100
0000090 21e2 33bc 0000 2500 4574 7458 6164 6574
00000a0 633a 6572 7461 0065 3032 3931 302d 2d37
00000b0 3532 3254 3a30 3735 353a 2b33 3231 303a
00000c0 ac30 5dcd 00c1 0000 7425 5845 6474 7461
00000d0 3a65 6f6d 6964 7966 3200 3130 2d39 3730
00000e0 322d 5435 3032 353a 3a37 3335 312b 3a32
00000f0 3030 90dd 7de5 0000 0000 4549 444e 42ae
0000100 8260
0000102
透過一個你以前可能從未用過的視角,你所見的是該示例 PNG 文件的內容。它和你在圖像查看軟體中看到的是完全一樣的數據,只是用一種你或許不熟悉的方式編碼。
提取熟悉的字元串
儘管默認的數據輸出結果看上去毫無意義,那並不意味著其中沒有有價值的信息。你可以用 --canonical
選項將輸出結果,或至少是其中可翻譯的部分,翻譯成更加熟悉的字符集:
$ hexdump --canonical foo.png
00000000 89 50 4e 47 0d 0a 1a 0a 00 00 00 0d 49 48 44 52 |.PNG........IHDR|
00000010 00 00 00 01 00 00 00 01 01 00 00 00 00 37 6e f9 |.............7n.|
00000020 24 00 00 00 04 67 41 4d 41 00 00 b1 8f 0b fc 61 |$....gAMA......a|
00000030 05 00 00 00 20 63 48 52 4d 00 00 7a 26 00 00 80 |.... cHRM..z&...|
00000040 84 00 00 fa 00 00 00 80 e8 00 00 75 30 00 00 ea |...........u0...|
00000050 60 00 00 3a 98 00 00 17 70 9c ba 51 3c 00 00 00 |`..:....p..Q<...|
00000060 02 62 4b 47 44 00 01 dd 8a 13 a4 00 00 00 07 74 |.bKGD..........t|
00000070 49 4d 45 07 e3 07 1a 08 39 35 87 a4 b0 46 00 00 |IME.....95...F..|
00000080 00 0a 49 44 41 54 08 d7 63 60 00 00 00 02 00 01 |..IDAT..c`......|
00000090 e2 21 bc 33 00 00 00 25 74 45 58 74 64 61 74 65 |.!.3...%tEXtdate|
000000a0 3a 63 72 65 61 74 65 00 32 30 31 39 2d 30 37 2d |:create.2019-07-|
000000b0 32 35 54 32 30 3a 35 37 3a 35 33 2b 31 32 3a 30 |25T20:57:53+12:0|
000000c0 30 ac cd 5d c1 00 00 00 25 74 45 58 74 64 61 74 |0..]....%tEXtdat|
000000d0 65 3a 6d 6f 64 69 66 79 00 32 30 31 39 2d 30 37 |e:modify.2019-07|
000000e0 2d 32 35 54 32 30 3a 35 37 3a 35 33 2b 31 32 3a |-25T20:57:53+12:|
000000f0 30 30 dd 90 e5 7d 00 00 00 00 49 45 4e 44 ae 42 |00...}....IEND.B|
00000100 60 82 |`.|
00000102
在右側的列中,你看到的是和左側一樣的數據,但是以 ASCII 碼展現的。如果你仔細看,你可以從中挑選出一些有用的信息,如文件格式(PNG)以及文件創建、修改日期和時間(向文件底部尋找一下)。
file
命令通過頭 8 個位元組獲取文件類型。程序員會參考 libpng 規範 來知曉需要查看什麼。具體而言,那就是你能在該圖像文件的頭 8 個位元組中看到的字元串 PNG
。這個事實顯而易見,因為它揭示了 file
命令是如何知道要報告的文件類型。
你也可以控制 hexdump
顯示多少位元組,這在處理大於一個像素的文件時很實用:
$ hexdump --length 8 pixel.png
0000000 5089 474e 0a0d 0a1a
0000008
hexdump
不只限於查看 PNG 或圖像文件。你也可以用 hexdump
查看你日常使用的二進位文件,如 ls、rsync,或你想檢查的任何二進位文件。
用 hexdump 實現 cat 命令
閱讀 PNG 規範的時候你可能會注意到頭 8 個位元組中的數據與 hexdump
提供的結果看上去不一樣。實際上,那是一樣的數據,但以一種不同的轉換方式展現出來。所以 hexdump
的輸出是正確的,但取決於你在尋找的信息,其輸出結果對你而言不總是直接了當的。出於這個原因,hexdump
有一些選項可供用於定義格式和轉化其轉儲的原始數據。
轉換選項可以很複雜,所以用無關緊要的東西練習會比較實用。下面這個簡易的介紹,通過重新實現 cat 命令來演示如何格式化 hexdump
的輸出。首先,對一個文本文件運行 hexdump
來查看其原始數據。通常你可以在硬碟上某處找到 GNU 通用許可證 (GPL)的一份拷貝,也可以用你手頭的任何文本文件。你的輸出結果可能不同,但下面是如何在你的系統中找到一份 GPL(或至少其部分)的拷貝:
$ find /usr/share/doc/ -type f -name "COPYING" | tail -1
/usr/share/doc/libblkid-devel/COPYING
對其運行 hexdump
:
$ hexdump /usr/share/doc/libblkid-devel/COPYING
0000000 6854 7369 6c20 6269 6172 7972 6920 2073
0000010 7266 6565 7320 666f 7774 7261 3b65 7920
0000020 756f 6320 6e61 7220 6465 7369 7274 6269
0000030 7475 2065 7469 6120 646e 6f2f 0a72 6f6d
0000040 6964 7966 6920 2074 6e75 6564 2072 6874
0000050 2065 6574 6d72 2073 666f 7420 6568 4720
0000060 554e 4c20 7365 6573 2072 6547 656e 6172
0000070 206c 7550 6c62 6369 4c0a 6369 6e65 6573
0000080 6120 2073 7570 6c62 7369 6568 2064 7962
[...]
如果該文件輸出結果很長,用 --length
(或短選項 -n
)來控制輸出長度使其易於管理。
原始數據對你而言可能沒什麼意義,但你已經知道如何將其轉換為 ASCII 碼:
hexdump --canonical /usr/share/doc/libblkid-devel/COPYING
00000000 54 68 69 73 20 6c 69 62 72 61 72 79 20 69 73 20 |This library is |
00000010 66 72 65 65 20 73 6f 66 74 77 61 72 65 3b 20 79 |free software; y|
00000020 6f 75 20 63 61 6e 20 72 65 64 69 73 74 72 69 62 |ou can redistrib|
00000030 75 74 65 20 69 74 20 61 6e 64 2f 6f 72 0a 6d 6f |ute it and/or.mo|
00000040 64 69 66 79 20 69 74 20 75 6e 64 65 72 20 74 68 |dify it under th|
00000050 65 20 74 65 72 6d 73 20 6f 66 20 74 68 65 20 47 |e terms of the G|
00000060 4e 55 20 4c 65 73 73 65 72 20 47 65 6e 65 72 61 |NU Lesser Genera|
00000070 6c 20 50 75 62 6c 69 63 0a 4c 69 63 65 6e 73 65 |l Public.License|
[...]
這個輸出結果有幫助但太累贅且難於閱讀。要將 hexdump
的輸出結果轉換為其選項不支持的其他格式,可組合使用 --format
(或 -e
)和專門的格式代碼。用來自定義格式的代碼和 printf
命令使用的類似,所以如果你熟悉 printf
語句,你可能會覺得 hexdump
自定義格式不難學會。
在 hexdump
中,字元串 %_p
告訴 hexdump
用你系統的默認字符集輸出字元。--format
選項的所有格式符號必須以單引號包括起來:
$ hexdump -e'"%_p"' /usr/share/doc/libblkid-devel/COPYING
This library is fre*
software; you can redistribute it and/or.modify it under the terms of the GNU Les*
er General Public.License as published by the Fre*
Software Foundation; either.version 2.1 of the License, or (at your option) any later.version..*
The complete text of the license is available in the..*
/Documentation/licenses/COPYING.LGPL-2.1-or-later file..
這次的輸出好些了,但依然不方便閱讀。傳統上 UNIX 文本文件假定 80 個字元的輸出寬度(因為很久以前顯示器一行只能顯示 80 個字元)。
儘管這個輸出結果未被自定義格式限制輸出寬度,你可以用附加選項強制 hexdump
一次處理 80 位元組。具體而言,通過 80 除以 1 這種形式,你可以告訴 hexdump
將 80 位元組作為一個單元對待:
$ hexdump -e'80/1 "%_p"' /usr/share/doc/libblkid-devel/COPYING
This library is free software; you can redistribute it and/or.modify it under the terms of the GNU Lesser General Public.License as published by the Free Software Foundation; either.version 2.1 of the License, or (at your option) any later.version...The complete text of the license is available in the.../Documentation/licenses/COPYING.LGPL-2.1-or-later file..
現在該文件被分割成 80 位元組的塊處理,但沒有任何換行。你可以用 n
字元自行添加換行,在 UNIX 中它代表換行:
$ hexdump -e'80/1 "%_p""n"'
This library is free software; you can redistribute it and/or.modify it under th
e terms of the GNU Lesser General Public.License as published by the Free Softwa
re Foundation; either.version 2.1 of the License, or (at your option) any later.
version...The complete text of the license is available in the.../Documentation/
licenses/COPYING.LGPL-2.1-or-later file..
現在你已經(大致上)用 hexdump
自定義格式實現了 cat
命令。
控制輸出結果
實際上自定義格式是讓 hexdump
變得有用的方法。現在你已經(至少是原則上)熟悉 hexdump
自定義格式,你可以讓 hexdump -n 8
的輸出結果跟 libpng
官方規範中描述的 PNG 文件頭相匹配了。
首先,你知道你希望 hexdump
以 8 位元組的塊來處理 PNG 文件。此外,你可能通過識別這些整數從而知道 PNG 格式規範是以十進位數表述的,根據 hexdump
文檔,十進位用 %d
來表示:
$ hexdump -n8 -e'8/1 "%d""n"' pixel.png
13780787113102610
你可以在每個整數後面加個空格使輸出結果變得完美:
$ hexdump -n8 -e'8/1 "%d ""n"' pixel.png
137 80 78 71 13 10 26 10
現在輸出結果跟 PNG 規範完美匹配了。
好玩又有用
Hexdump 是個迷人的工具,不僅讓你更多地領會計算機如何處理和轉換信息,而且讓你了解文件格式和編譯的二進位文件如何工作。日常工作時你可以隨機地試著對不同文件運行 hexdump
。你永遠不知道你會發現什麼樣的信息,或是什麼時候具有這種洞察力會很實用。
via: https://opensource.com/article/19/8/dig-binary-files-hexdump
作者:Seth Kenlon 選題:lujun9972 譯者:0x996 校對:wxy
本文轉載來自 Linux 中國: https://github.com/Linux-CN/archive