Linux中國

Linux 日誌管理指南

484 views0
By
Share

集中管理日誌的好處

如果你有很多伺服器，查看某個日誌文件可能會很麻煩。現代的網站和服務經常包括許多伺服器層級、分散式的負載均衡器，等等。找到正確的日誌將花費很長時間，甚至要花更長時間在登錄伺服器的相關問題上。沒什麼比發現你找的信息沒有被保存下來更沮喪的了，或者本該保留的日誌文件正好在重啟後丟失了。

集中你的日誌使它們查找更快速，可以幫助你更快速的解決產品問題。你不用猜測那個伺服器存在問題，因為所有的日誌在同一個地方。此外，你可以使用更強大的工具去分析它們，包括日誌管理解決方案。一些解決方案能轉換純文本日誌為一些欄位，更容易查找和分析。

集中你的日誌也可以使它們更易於管理：

  • 它們更安全，當它們備份歸檔到一個單獨區域時會有意無意地丟失。如果你的伺服器宕機或者無響應，你可以使用集中的日誌去調試問題。
  • 你不用擔心ssh或者低效的grep命令在陷入困境的系統上需要更多的資源。
  • 你不用擔心磁碟佔滿，這個能讓你的伺服器死機。
  • 你能保持你的產品伺服器的安全性，只是為了查看日誌無需給你所有團隊登錄許可權。給你的團隊從日誌集中區域訪問日誌許可權更安全。

隨著集中日誌管理，你仍需處理由於網路聯通性不好或者耗盡大量網路帶寬從而導致不能傳輸日誌到中心區域的風險。在下面的章節我們將要討論如何聰明的解決這些問題。

流行的日誌歸集工具

在 Linux 上最常見的日誌歸集是通過使用 syslog 守護進程或者日誌代理。syslog 守護進程支持本地日誌的採集，然後通過syslog 協議傳輸日誌到中心伺服器。你可以使用很多流行的守護進程來歸集你的日誌文件：

  • rsyslog 是一個輕量後台程序，在大多數 Linux 分支上已經安裝。
  • syslog-ng 是第二流行的 Linux 系統日誌後台程序。
  • logstash 是一個重量級的代理，它可以做更多高級加工和分析。
  • fluentd 是另一個具有高級處理能力的代理。

Rsyslog 是集中日誌數據最流行的後台程序，因為它在大多數 Linux 分支上是被默認安裝的。你不用下載或安裝它，並且它是輕量的，所以不需要佔用你太多的系統資源。

如果你需要更多先進的過濾或者自定義分析功能，如果你不在乎額外的系統負載，Logstash 是另一個最流行的選擇。

配置 rsyslog.conf

既然 rsyslog 是最廣泛使用的系統日誌程序，我們將展示如何配置它為日誌中心。它的全局配置文件位於 /etc/rsyslog.conf。它載入模塊，設置全局指令，和包含位於目錄 /etc/rsyslog.d 中的應用的特有的配置。目錄中包含的 /etc/rsyslog.d/50-default.conf 指示 rsyslog 將系統日誌寫到文件。在 rsyslog 文檔中你可以閱讀更多相關配置。

rsyslog 配置語言是是RainerScript。你可以給日誌指定輸入，就像將它們輸出到另外一個位置一樣。rsyslog 已經配置標準輸入默認是 syslog ，所以你通常只需增加一個輸出到你的日誌伺服器。這裡有一個 rsyslog 輸出到一個外部伺服器的配置例子。在本例中，BEBOP 是一個伺服器的主機名，所以你應該替換為你的自己的伺服器名。

action(type="omfwd" protocol="tcp" target="BEBOP" port="514")

你可以發送你的日誌到一個有足夠的存儲容量的日誌伺服器來存儲，提供查詢，備份和分析。如果你存儲日誌到文件系統，那麼你應該建立日誌輪轉來防止你的磁碟爆滿。

作為一種選擇，你可以發送這些日誌到一個日誌管理方案。如果你的解決方案是安裝在本地你可以發送到系統文檔中指定的本地主機和埠。如果你使用基於雲提供商，你將發送它們到你的提供商特定的主機名和埠。

日誌目錄

你可以歸集一個目錄或者匹配一個通配符模式的所有文件。nxlog 和 syslog-ng 程序支持目錄和通配符(*)。

常見的 rsyslog 不能直接監控目錄。作為一種解決辦法，你可以設置一個定時任務去監控這個目錄的新文件，然後配置 rsyslog 來發送這些文件到目的地，比如你的日誌管理系統。舉個例子，日誌管理提供商 Loggly 有一個開源版本的目錄監控腳本。

哪個協議: UDP、TCP 或 RELP?

當你使用網路傳輸數據時，有三個主流協議可以選擇。UDP 在你自己的區域網是最常用的，TCP 用在互聯網。如果你不能失去（任何）日誌，就要使用更高級的 RELP 協議。

UDP 發送一個數據包，那只是一個單一的信息包。它是一個只外傳的協議，所以它不會發送給你回執（ACK）。它只嘗試發送包。當網路擁堵時，UDP 通常會巧妙的降級或者丟棄日誌。它通常使用在類似區域網的可靠網路。

TCP 通過多個包和返回確認發送流式信息。TCP 會多次嘗試發送數據包，但是受限於 TCP 緩存的大小。這是在互聯網上發送送日誌最常用的協議。

RELP 是這三個協議中最可靠的，但是它是為 rsyslog 創建的，而且很少有行業採用。它在應用層接收數據，如果有錯誤就會重發。請確認你的日誌接受位置也支持這個協議。

用磁碟輔助隊列可靠的傳送

如果 rsyslog 在存儲日誌時遭遇錯誤，例如一個不可用網路連接，它能將日誌排隊直到連接還原。隊列日誌默認被存儲在內存里。無論如何，內存是有限的並且如果問題仍然存在，日誌會超出內存容量。

警告：如果你只存儲日誌到內存，你可能會失去數據。

rsyslog 能在內存被佔滿時將日誌隊列放到磁碟。磁碟輔助隊列使日誌的傳輸更可靠。這裡有一個例子如何配置rsyslog 的磁碟輔助隊列：

$WorkDirectory /var/spool/rsyslog # 暫存文件（spool）放置位置
$ActionQueueFileName fwdRule1     # 暫存文件的唯一名字前綴
$ActionQueueMaxDiskSpace 1g       # 1gb 空間限制（儘可能大）
$ActionQueueSaveOnShutdown on     # 關機時保存日誌到磁碟
$ActionQueueType LinkedList       # 非同步運行
$ActionResumeRetryCount -1        # 如果主機宕機，不斷重試

使用 TLS 加密日誌

如果你擔心你的數據的安全性和隱私性，你應該考慮加密你的日誌。如果你使用純文本在互聯網傳輸日誌，嗅探器和中間人可以讀到你的日誌。如果日誌包含私人信息、敏感的身份數據或者政府管制數據，你應該加密你的日誌。rsyslog 程序能使用 TLS 協議加密你的日誌保證你的數據更安全。

建立 TLS 加密，你應該做如下任務：

  1. 生成一個證書授權(CA)。在 /contrib/gnutls 有一些證書例子，可以用來測試，但是你需要為產品環境創建自己的證書。如果你正在使用一個日誌管理服務，它會給你一個證書。
  2. 為你的伺服器生成一個數字證書使它能啟用 SSL 操作，或者使用你自己的日誌管理服務提供商的一個數字證書。
  3. 配置你的 rsyslog 程序來發送 TLS 加密數據到你的日誌管理系統。

這有一個 rsyslog 配置 TLS 加密的例子。替換 CERT 和 DOMAIN_NAME 為你自己的伺服器配置。

$DefaultNetstreamDriverCAFile /etc/rsyslog.d/keys/ca.d/CERT.crt
$ActionSendStreamDriver gtls
$ActionSendStreamDriverMode 1
$ActionSendStreamDriverAuthMode x509/name
$ActionSendStreamDriverPermittedPeer *.DOMAIN_NAME.com

應用日誌的最佳管理方法

除 Linux 默認創建的日誌之外，歸集重要的應用日誌也是一個好主意。幾乎所有基於 Linux 的伺服器應用都把它們的狀態信息寫入到獨立、專門的日誌文件中。這包括資料庫產品，像 PostgreSQL 或者 MySQL，網站伺服器，像 Nginx 或者 Apache，防火牆，列印和文件共享服務，目錄和 DNS 服務等等。

管理員安裝一個應用後要做的第一件事是配置它。Linux 應用程序典型的有一個放在 /etc 目錄里 .conf 文件。它也可能在其它地方，但是那是大家找配置文件首先會看的地方。

根據應用程序有多複雜多龐大，可配置參數的數量可能會很少或者上百行。如前所述，大多數應用程序可能會在某種日誌文件寫它們的狀態：配置文件是定義日誌設置和其它東西的地方。

如果你不確定它在哪，你可以使用locate命令去找到它：

[root@localhost ~]# locate postgresql.conf
/usr/pgsql-9.4/share/postgresql.conf.sample
/var/lib/pgsql/9.4/data/postgresql.conf

設置一個日誌文件的標準位置

Linux 系統一般保存它們的日誌文件在 /var/log 目錄下。一般是這樣，但是需要檢查一下應用是否保存它們在 /var/log 下的特定目錄。如果是，很好，如果不是，你也許想在 /var/log 下創建一個專用目錄？為什麼？因為其它程序也在 /var/log 下保存它們的日誌文件，如果你的應用保存超過一個日誌文件 - 也許每天一個或者每次重啟一個 - 在這麼大的目錄也許有點難於搜索找到你想要的文件。

如果在你網路里你有運行多於一個的應用實例，這個方法依然便利。想想這樣的情景，你也許有一打 web 伺服器在你的網路運行。當排查任何一個機器的問題時，你就很容易知道確切的位置。

使用一個標準的文件名

給你的應用最新的日誌使用一個標準的文件名。這使一些事變得容易，因為你可以監控和追蹤一個單獨的文件。很多應用程序在它們的日誌文件上追加一種時間戳。它讓 rsyslog 更難於找到最新的文件和設置文件監控。一個更好的方法是使用日誌輪轉給老的日誌文件增加時間。這樣更易去歸檔和歷史查詢。

追加日誌文件

日誌文件會在每個應用程序重啟後被覆蓋嗎？如果這樣，我們建議關掉它。每次重啟 app 後應該去追加日誌文件。這樣，你就可以追溯重啟前最後的日誌。

日誌文件追加 vs. 輪轉

要是應用程序每次重啟後寫一個新日誌文件，如何保存當前日誌？追加到一個單獨的、巨大的文件？Linux 系統並不以頻繁重啟或者崩潰而出名：應用程序可以運行很長時間甚至不間歇，但是也會使日誌文件非常大。如果你查詢分析上周發生連接錯誤的原因，你可能無疑的要在成千上萬行里搜索。

我們建議你配置應用每天半晚輪轉（rotate）它的日誌文件。

為什麼？首先它將變得可管理。找一個帶有特定日期的文件名比遍歷一個文件中指定日期的條目更容易。文件也小的多：你不用考慮當你打開一個日誌文件時 vi 僵住。第二，如果你正發送日誌到另一個位置 - 也許每晚備份任務拷貝到歸集日誌伺服器 - 這樣不會消耗你的網路帶寬。最後第三點，這樣幫助你做日誌保留。如果你想剔除舊的日誌記錄，這樣刪除超過指定日期的文件比用一個應用解析一個大文件更容易。

日誌文件的保留

你保留你的日誌文件多長時間？這絕對可以歸結為業務需求。你可能被要求保持一個星期的日誌信息，或者管理要求保持一年的數據。無論如何，日誌需要在一個時刻或其它情況下從伺服器刪除。

在我們看來，除非必要，只在線保持最近一個月的日誌文件，並拷貝它們到第二個地方如日誌伺服器。任何比這更舊的日誌可以被轉到一個單獨的介質上。例如，如果你在 AWS 上，你的舊日誌可以被拷貝到 Glacier。

給日誌單獨的磁碟分區

更好的，Linux 通常建議掛載到 /var 目錄到一個單獨的文件系統。這是因為這個目錄的高 I/O。我們推薦掛載 /var/log 目錄到一個單獨的磁碟系統下。這樣可以節省與主要的應用數據的 I/O 競爭。另外，如果一些日誌文件變的太多，或者一個文件變的太大，不會佔滿整個磁碟。

日誌條目

每個日誌條目中應該捕獲什麼信息？

這依賴於你想用日誌來做什麼。你只想用它來排除故障，或者你想捕獲所有發生的事？這是一個捕獲每個用戶在運行什麼或查看什麼的規則條件嗎？

如果你正用日誌做錯誤排查的目的，那麼只保存錯誤，報警或者致命信息。沒有理由去捕獲調試信息，例如，應用也許默認記錄了調試信息或者另一個管理員也許為了故障排查而打開了調試信息，但是你應該關閉它，因為它肯定會很快的填滿空間。在最低限度上，捕獲日期、時間、客戶端應用名、來源 ip 或者客戶端主機名、執行的動作和信息本身。

一個 PostgreSQL 的實例

作為一個例子，讓我們看看 vanilla PostgreSQL 9.4 安裝的主配置文件。它叫做 postgresql.conf，與其它Linux 系統中的配置文件不同，它不保存在 /etc 目錄下。下列的代碼段，我們可以在我們的 Centos 7 伺服器的 /var/lib/pgsql 目錄下找到它：

root@localhost ~]# vi /var/lib/pgsql/9.4/data/postgresql.conf
... 
#---------------------------------------------------------------------------# ERROR REPORTING AND LOGGING
#---------------------------------------------------------------------------# - Where to Log -
log_destination = 'stderr'      
      # Valid values are combinations of
      # stderr, csvlog, syslog, and eventlog,
      # depending on platform. csvlog
      # requires logging_collector to be on.
# This is used when logging to stderr:
logging_collector = on          
      # Enable capturing of stderr and csvlog
      # into log files. Required to be on for
      # csvlogs.
      # (change requires restart)
# These are only used if logging_collector is on:
log_directory = 'pg_log'       
      # directory where log files are written,
      # can be absolute or relative to PGDATA
log_filename = 'postgresql-%a.log'    # log file name pattern,
     # can include strftime() escapes
# log_file_mode = 0600           .
     # creation mode for log files,
     # begin with 0 to use octal notation
log_truncate_on_rotation = on   # If on, an existing log file with the
     # same name as the new log file will be
     # truncated rather than appended to.
     # But such truncation only occurs on
     # time-driven rotation, not on restarts
     # or size-driven rotation. Default is
     # off, meaning append to existing files
     # in all cases.
log_rotation_age = 1d           
     # Automatic rotation of logfiles will happen after that time. 0 disables.
log_rotation_size = 0           # Automatic rotation of logfiles will happen after that much log output. 0 disables.
# These are relevant when logging to syslog:
#syslog_facility = 'LOCAL0'
#syslog_ident = 'postgres'
# This is only relevant when logging to eventlog (win32):
#event_source = 'PostgreSQL'
# - When to Log -
#client_min_messages = notice   # values in order of decreasing detail:
# debug5
# debug4
# debug3
# debug2
# debug1
# log
# notice
# warning
# error
#log_min_messages = warning     # values in order of decreasing detail:
# debug5
# debug4
# debug3
# debug2
# debug1
# info
# notice
# warning
# error
# log
# fatal
# panic
#log_min_error_statement = error    # values in order of decreasing detail:
# debug5
# debug4
# debug3
# debug2
# debug1
# info
# notice
# warning
# error
# log
# fatal
# panic (effectively off)
#log_min_duration_statement = -1     # -1 is disabled, 0 logs all statements
# and their durations, > 0 logs only
# statements running at least this number
# of milliseconds
# - What to Log 
#debug_print_parse = off
#debug_print_rewritten = off
#debug_print_plan = off
#debug_pretty_print = on
#log_checkpoints = off
#log_connections = off
#log_disconnections = off
#log_duration = off
#log_error_verbosity = default    
# terse, default, or verbose messages
#log_hostname = off
log_line_prefix = &apos;< %m >&apos;          # special values:
# %a = application name
# %u = user name
# %d = database name
# %r = remote host and port
# %h = remote host
# %p = process ID
# %t = timestamp without milliseconds
# %m = timestamp with milliseconds
# %i = command tag
# %e = SQL state
# %c = session ID
# %l = session line number
# %s = session start timestamp
# %v = virtual transaction ID
# %x = transaction ID (0 if none)
# %q = stop here in non-session
# processes
# %% = &apos;%&apos;
# e.g. &apos;<%u%%%d> &apos;
#log_lock_waits = off               # log lock waits >= deadlock_timeout
#log_statement = &apos;none&apos;             # none, ddl, mod, all
#log_temp_files = -1                # log temporary files equal or larger
# than the specified size in kilobytes;5# -1 disables, 0 logs all temp files5
log_timezone = &apos;Australia/ACT&apos;

雖然大多數參數被加上了注釋，它們使用了默認值。我們可以看見日誌文件目錄是 pglog（logdirectory 參數，在 /var/lib/pgsql/9.4/data/ 下的子目錄），文件名應該以 postgresql 開頭（logfilename參數），文件每天輪轉一次（logrotationage 參數）然後每行日誌記錄以時間戳開頭（loglineprefix參數）。特別值得說明的是 logline_prefix 參數：全部的信息你都可以包含在這。

看 /var/lib/pgsql/9.4/data/pg_log 目錄下展現給我們這些文件：

[root@localhost ~]# ls -l /var/lib/pgsql/9.4/data/pg_log
total 20
-rw-------. 1 postgres postgres 1212 May 1 20:11 postgresql-Fri.log
-rw-------. 1 postgres postgres 243 Feb 9 21:49 postgresql-Mon.log
-rw-------. 1 postgres postgres 1138 Feb 7 11:08 postgresql-Sat.log
-rw-------. 1 postgres postgres 1203 Feb 26 21:32 postgresql-Thu.log
-rw-------. 1 postgres postgres 326 Feb 10 01:20 postgresql-Tue.log

所以日誌文件名只有星期命名的標籤。我們可以改變它。如何做？在 postgresql.conf 配置 log_filename 參數。

查看一個日誌內容，它的條目僅以日期時間開頭：

[root@localhost ~]# cat /var/lib/pgsql/9.4/data/pg_log/postgresql-Fri.log
...
< 2015-02-27 01:21:27.020 EST >LOG: received fast shutdown request
< 2015-02-27 01:21:27.025 EST >LOG: aborting any active transactions
< 2015-02-27 01:21:27.026 EST >LOG: autovacuum launcher shutting down
< 2015-02-27 01:21:27.036 EST >LOG: shutting down
< 2015-02-27 01:21:27.211 EST >LOG: database system is shut down

歸集應用的日誌

使用 imfile 監控日誌

習慣上，應用通常記錄它們數據在文件里。文件容易在一個機器上尋找，但是多台伺服器上就不是很恰當了。你可以設置日誌文件監控，然後當新的日誌被添加到文件尾部後就發送事件到一個集中伺服器。在 /etc/rsyslog.d/ 里創建一個新的配置文件然後增加一個配置文件，然後輸入如下：

$ModLoad imfile
$InputFilePollInterval 10
$PrivDropToGroup adm

# Input for FILE1
$InputFileName /FILE1
$InputFileTag APPNAME1
$InputFileStateFile stat-APPNAME1 #this must be unique for each file being polled
$InputFileSeverity info
$InputFilePersistStateInterval 20000
$InputRunFileMonitor

替換 FILE1 和 APPNAME1 為你自己的文件名和應用名稱。rsyslog 將發送它到你配置的輸出目標中。

本地套接字日誌與 imuxsock

套接字類似 UNIX 文件句柄，所不同的是套接字內容是由 syslog 守護進程讀取到內存中，然後發送到目的地。不需要寫入文件。作為一個例子，logger 命令發送它的日誌到這個 UNIX 套接字。

如果你的伺服器 I/O 有限或者你不需要本地文件日誌，這個方法可以使系統資源有效利用。這個方法缺點是套接字有隊列大小的限制。如果你的 syslog 守護進程宕掉或者不能保持運行，然後你可能會丟失日誌數據。

rsyslog 程序將默認從 /dev/log 套接字中讀取，但是你需要使用如下命令來讓 imuxsock 輸入模塊 啟用它：

$ModLoad imuxsock

UDP 日誌與 imupd

一些應用程序使用 UDP 格式輸出日誌數據，這是在網路上或者本地傳輸日誌文件的標準 syslog 協議。你的 syslog 守護進程接受這些日誌，然後處理它們或者用不同的格式傳輸它們。備選的，你可以發送日誌到你的日誌伺服器或者到一個日誌管理方案中。

使用如下命令配置 rsyslog 通過 UDP 來接收標準埠 514 的 syslog 數據：

$ModLoad imudp

$UDPServerRun 514

用 logrotate 管理日誌

日誌輪轉是當日誌到達指定的時期時自動歸檔日誌文件的方法。如果不介入，日誌文件一直增長，會用盡磁碟空間。最後它們將破壞你的機器。

logrotate 工具能隨著日誌的日期截取你的日誌，騰出空間。你的新日誌文件保持該文件名。你的舊日誌文件被重命名加上後綴數字。每次 logrotate 工具運行，就會創建一個新文件，然後現存的文件被逐一重命名。你來決定何時舊文件被刪除或歸檔的閾值。

當 logrotate 拷貝一個文件，新的文件會有一個新的 inode，這會妨礙 rsyslog 監控新文件。你可以通過增加copytruncate 參數到你的 logrotate 定時任務來緩解這個問題。這個參數會拷貝現有的日誌文件內容到新文件然後從現有文件截短這些內容。因為日誌文件還是同一個，所以 inode 不會改變；但它的內容是一個新文件。

logrotate 工具使用的主配置文件是 /etc/logrotate.conf，應用特有設置在 /etc/logrotate.d/ 目錄下。DigitalOcean 有一個詳細的 logrotate 教程

管理很多伺服器的配置

當你只有很少的伺服器，你可以登錄上去手動配置。一旦你有幾打或者更多伺服器，你可以利用工具的優勢使這變得更容易和更可擴展。基本上，所有的事情就是拷貝你的 rsyslog 配置到每個伺服器，然後重啟 rsyslog 使更改生效。

pssh

這個工具可以讓你在很多伺服器上並行的運行一個 ssh 命令。使用 pssh 部署僅用於少量伺服器。如果你其中一個伺服器失敗，然後你必須 ssh 到失敗的伺服器，然後手動部署。如果你有很多伺服器失敗，那麼手動部署它們會話費很長時間。

Puppet/Chef

Puppet 和 Chef 是兩個不同的工具，它們能在你的網路按你規定的標準自動的配置所有伺服器。它們的報表工具可以使你了解錯誤情況，然後定期重新同步。Puppet 和 Chef 都有一些狂熱的支持者。如果你不確定那個更適合你的部署配置管理，你可以拜讀一下 InfoWorld 上這兩個工具的對比

一些廠商也提供一些配置 rsyslog 的模塊或者方法。這有一個 Loggly 上 Puppet 模塊的例子。它提供給 rsyslog 一個類，你可以添加一個標識令牌：

node &apos;my_server_node.example.net&apos; {
  # Send syslog events to Loggly
  class { &apos;loggly::rsyslog&apos;:
    customer_token => &apos;de7b5ccd-04de-4dc4-fbc9-501393600000&apos;,
  }
}

Docker

Docker 使用容器去運行應用，不依賴於底層服務。所有東西都運行在內部的容器，你可以把它想像為一個功能單元。ZDNet 有一篇關於在你的數據中心使用 Docker 的深入文章。

這裡有很多方式從 Docker 容器記錄日誌，包括鏈接到一個日誌容器，記錄到一個共享卷，或者直接在容器里添加一個 sysllog 代理。其中最流行的日誌容器叫做 logspout。

供應商的腳本或代理

大多數日誌管理方案提供一些腳本或者代理，可以從一個或更多伺服器相對容易地發送數據。重量級代理會耗盡額外的系統資源。一些供應商像 Loggly 提供配置腳本，來使用現存的 syslog 守護進程更輕鬆。這有一個 Loggly 上的例子腳本，它能運行在任意數量的伺服器上。

via: http://www.loggly.com/ultimate-guide/logging/managing-linux-logs/

作者：Jason Skowronski 作者：Amy Echeverri 作者：Sadequl Hussain 譯者：wyangsun 校對：wxy

本文由 LCTT 原創翻譯，Linux中國 榮譽推出

本文轉載來自 Linux 中國: https://github.com/Linux-CN/archive

對這篇文章感覺如何？

太棒了
0
不錯
0
愛死了
0
不太好
0
感覺很糟
0
雨落清風。心向陽
    Previous
    Next

    You may also like

    Leave a reply

    您的郵箱地址不會被公開。 必填項已用 * 標註

    此站點使用Akismet來減少垃圾評論。了解我們如何處理您的評論數據。

    More in:Linux中國