【AlpineLinux】使用goaccess分析nginx日志

此脚本可以在alpinelinux上直接运行,如果你是其他操作系统,请适当修改后执行。

脚本依次执行如下操作
0、goaccessnginx 变量对照表
1、安装 goaccess 软件包
2、配置 goaccess 参数
3、配置 nginx 日志
4、下载 geoip 数据库
5、启动 goaccess 服务

#!/bin/sh
#
# Author: wang@rehiy.com
# Refer : https://www.rehiy.com/post/291
#
# Nginx Log Conversion table:
#   $time_local         %d:%t %^
#   $host               %v
#   $http_host          %v
#   $remote_addr        %h
#   $request_time       %T
#   $request_method     %m
#   $request_uri        %U
#   $server_protocol    %H
#   $request            %r
#   $status             %s
#   $body_bytes_sent    %b
#   $bytes_sent         %b
#   $http_referer       %R
#   $http_user_agent    %u
#

#################################################

if ! type goaccess >/dev/null; then
  apk add goaccess
fi

##########################################

cat <<EOF >/etc/goaccess/goaccess.conf 
time-format %T
date-format %d/%b/%Y
log_format %h - %e [%d:%t %^] "%r" %s %b "%R" "%u" "%^" %^ %^ %^ %T
geoip-database /usr/share/geoip/GeoIPCity.dat
ws-url wss://goac.example.org:443/report/d
EOF

##########################################

sed -i 's/  access_log off/# access_log off/' /etc/nginx/nginx.conf

cat <<EOF >/etc/nginx/http.d/access-log.conf
log_format access
    '\$remote_addr - \$remote_user [\$time_local] "\$request" '
    '\$status \$body_bytes_sent "\$http_referer" "\$http_user_agent" "\$http_x_forwarded_for" '
    '\$connection \$upstream_addr \$upstream_response_time \$request_time'
;
access_log /var/log/nginx/access.log access;
EOF

##########################################

cd /usr/share/geoip/

wget https://mailfud.org/geoip-legacy/GeoIP.dat.gz
wget https://mailfud.org/geoip-legacy/GeoIPv6.dat.gz
wget https://mailfud.org/geoip-legacy/GeoIPCity.dat.gz
wget https://mailfud.org/geoip-legacy/GeoIPCityv6.dat.gz

gunzip *.gz

cd /tmp

#################################################

odir=/var/www/default/net.jidns.spry/report

mkdir -p $odir $odir/archive

goaccess /var/log/nginx/access.log \
    -o $odir/index.html \
    --real-time-html \
    --daemonize \

实现docker跨主机通信 – 基于Swarm集群的overlay网络

环境配置

节点名 节点IP 节点服务
dnode0 192.168.0.11 安装 Docker,并初始化Swarm集群
dnode1 192.168.0.12 安装 Docker
dnode2 192.168.0.13 安装 Docker

配置三台机器,请注意修改hostname为不同的值,防火墙放行如下端口:

  • TCP port 2376 for secure Docker client communication. This port is required for Docker Machine to work. Docker Machine is used to orchestrate Docker hosts.
  • TCP port 2377 is used for communication between the nodes of a Docker Swarm or cluster. It only needs to be opened on manager nodes.
  • UDP port 4789 for overlay network traffic (container ingress networking).
  • TCP and UDP port 7946 for communication among nodes (container network discovery).

初始化Swarm集群服务

docker swarm init

如果没有记住加入集群的token,以下可以重新获取

docker swarm join-token worker

其他节点分别加入Swarm集群

docker swarm join --token SWMTKN-1-tokenxxxxxxx 192.168.0.11:2377

在节点上创建网络

docker network create --driver overlay --subnet=192.168.2.0/24 --gateway=192.168.2.1 --attachable vnet2

快速创建consul集群

操作环境

  • 三台AlpineLinux主机
    • 主机名分别为host-11/12/13
    • IP地址分别为192.168.0.11/12/13

自动执行脚本

#!/bin/sh
#

###############################################################
# consul-1/2/3

apk add consul
rc-update add consul boot

cat <<EOF >/etc/consul/server.json
{
  "datacenter": "test",
  "data_dir": "/var/consul",
  "server": true,
  "bootstrap_expect": 3,
  "bind_addr": "{{ GetInterfaceIP \"eth0\" }}",
  "client_addr": "0.0.0.0",
  "retry_join": [
    "192.168.0.11",
    "192.168.0.12",
    "192.168.0.13"
  ],
  "ui_config": {
    "enabled": true
  }
}
EOF

rc-service consul start

###############################################################
# consul-cli

consul members

consul operator raft list-peers

快速创建自签名ssl证书

运行环境为Linux,且已安装openssl组件。若为Windows环境,请相应修改前3行代码即可。

mkdir -p ~/myssl
cd ~/myssl

cat <<EOF >self.cnf
[ req ]
distinguished_name = req_distinguished_name
[ req_distinguished_name ]
[ v3_req ]
subjectAltName = @alt_names
[ alt_names ]
DNS.1 = example.org
DNS.2 = *.example.org
EOF

SUBJECT="/C=CN"
SUBJECT="$SUBJECT/ST=Beijing"
SUBJECT="$SUBJECT/L=Beijing"
SUBJECT="$SUBJECT/O=ExampleOrg"
SUBJECT="$SUBJECT/OU=Devops"
SUBJECT="$SUBJECT/CN=example.org"
SUBJECT="$SUBJECT/emailAddress=ops@example.org"

openssl req -newkey rsa:4096 -x509 -nodes -days 3650 -extensions v3_req \
    -config self.cnf -keyout server.key -out server.crt -subj "$SUBJECT"

云服务器安装AlpineLinux系统

各大云厂商提供了种类繁多的系统镜像,但唯独这个小巧可爱的Alpine无人问津。不过也难不倒咱们这些具有折腾精神的极客们。

本教程支持且不限于阿里云、腾讯云、微软云、谷歌云。

1、登录云服务器,写入Alpine安装镜像后重启
(如果无法正常启动,请先下载好ISO文件,随后切换到Debain的维护模式,再执行dd命令)

# 写入镜像
wget http://dl-cdn.alpinelinux.org/alpine/v3.13/releases/x86_64/alpine-virt-3.13.5-x86_64.iso
dd if=alpine-virt-3.13.5-x86_64.iso of=/dev/vda
# 重启
reboot

2、通过vnc连接云服务器,将安装文件复制到内存中

# 备份文件
tar cf /sys.tar /.modloop /media/vda
# 卸载硬盘
/etc/init.d/modloop stop
umount /dev/vda
# 恢复文件
tar xf /sys.tar -C /

3、执行安装脚本,接下来就需要看你自己的啦~

setup-alpine

另一种安装方式:将本地虚拟机克隆到云服务器

  • 虚拟磁盘格式转换
apt install -y qemu-utils
qemu-img convert -f vmdk -O raw disk.vmdk disk.raw
  • 把本地虚拟机克隆到云服务器
wget -qO- http://your-domain/disk.raw.gz | gunzip | dd of=/dev/vda

ZFS文件系统常用命令

zfs的强大毋庸置疑,今天分享下自己常用的zfs相关命令

存储池基本操作命令

  • 创建名为tank的存储池 (type: ”,mirror,raidz,raidz2)
zpool create tank [type] disk1 disk2 disk3
  • 向池中添加更多空间
zpool add tank mirror disk4 disk5
  • 本机导出和导入存储池
zpool export tank
zpool import tank [newtank]
  • 更换服务器后导入存储池
zpool import -f tank
# 指定挂载根路径
zpool import -f -o altroot=/mnt tank
  • 查看存储池当前状态和 I/O 状况
zpool status
zpool iostat
zpool iostat -v

文件系统基础操作命令

  • 创建文件系统,挂载在/export/home
zfs create -o mountpoint=/mnt/home tank/home
  • 修改文件系统名称
zfs rename tank/home tank/newname
  • 修改文件系统挂载点
zfs set mountpoint=/mnt/newdir tank/home
  • 启用压缩属性
zfs set compression=lz4 tank
  • 删除文件系统
zfs destroy -Rf tank/home

文件系统快照操作命令

  • 创建一个快照
zfs snapshot tank/home@tuesday
  • 按日期创建快照
name=`date +"%Y-%m-%d"`
zfs snapshot tank/home@$name
  • 查看所有快照
zfs list -t snapshot tank/home
  • 回滚到前一个快照
zfs rollback tank/home@monday
  • 删除一个快照
zfs destroy -R tank/home@monday

冗余备份/复制数据集

zfs send tank/home@monday | zfs receive arch/home

手工挂载/卸载文件系统

zfs mount -a
zfs unmount -a
zfs unmount tank/home

实现docker跨主机通信 – 基于Consul的overlay网络

环境配置

节点名 节点IP 节点服务
consul 192.168.0.11 安装 Consul
dnode1 192.168.0.12 安装 Docker
dnode2 192.168.0.12 安装 Docker

配置三台机器,请注意修改hostname为不同的值,防火墙放行如下端口:

  • 2376
  • 4789
  • 7946
  • 8300-8302
  • 8500
  • 8600

启动一个单节点的Consul服务

consul agent -ui -server -bootstrap -data-dir /var/lib/consul -bind 192.168.0.11 -client 192.168.0.11

在其他服务器分别启动Docker服务

docker daemon -D -g /var/lib/docker -H unix:// -H tcp://0.0.0.0:2376  --cluster-store=consul://192.168.0.11:8500 --cluster-advertise=eth0:2376
  • --cluster-store 指定了consul服务发现地址
  • --cluster-advertise 指定了本机服务注册地址,其中eth0是自己网卡的名称,也可以用内网地址192.168.0.21代替

等待自动注册服务

可以使用浏览器打开http://192.168.0.11:8500查看

在节点上创建网络

docker network create --driver overlay \
    --subnet=192.168.2.0/24 --gateway=192.168.2.1 vnet2

为方便部署,也可以将CLI参数写入配置文件

cat <<EOF >/etc/consul/server.json
{
  "data_dir": "/var/consul",
  "server": true,
  "bootstrap": true,
  "bind_addr": "{{ GetInterfaceIP \"eth0\" }}",
  "client_addr": "0.0.0.0",
  "ui_config": {
    "enabled": true
  }
}
EOF

cat <<EOF >/etc/docker/daemon.json
{
  "cluster-advertise": "eth0:2376",
  "cluster-store": "consul://192.168.0.11:8500"
}
EOF

Linux 恢复删除的文件

Linux 下的命令可谓繁多,但属rm最让人痛并快乐。今天,我分享下针对rm的后悔良药testdisk

当你在 Linux 系统上删除一个文件时,它不一定(嗯,是不一定~)会永远消失,特别是当你最近才刚刚删除了它的时候。而恢复已删除文件的最佳工具之一testdisk可以帮助你拯救它。

虽然testdisk具有广泛的功能,包括恢复丢失或损坏的分区和使不能启动磁盘可以重新启动,但它也经常被用来恢复被误删的文件。有趣的是,它不仅是一个 Linux 工具,而且还适用于 MacOS、Solaris 和 Windows。文档可在 https://www.cgsecurity.org 中找到。

安装

# debian
apt install testdisk
# centos
yum install testdisk

恢复文件

cd /mnt/recovery
testdisk /dev/sdb2

然后,一路默认选项,直到选择 [ Advanced ] Filesystem Utils

接下来,查看选定的分区,用右箭头选择底部的 [ List ],按回车键。

最后,施展你的细心加耐心,仔细看好软件说明操作。

至此,若海也帮不到你更多了,只能在此祝你心想事成 !

OpenWRT软件包批量升级

翻出来个10年前的路由器,上电连进去,竟然是刷了OpenWRT系统的。

看到几十个需要升级的包,顿时头大。有点懒癌的我,还是命令行升级吧:

for pkg in `opkg list-upgradable | awk '{print $1}'`; do
    opkg upgrade $pkg
done

Linux 查看CPU温度

有点傻眼了,我竟然从来没想过这个问题。话说,托管在IDC机房的服务器需要关注硬件温度么?

安装温度传感器工具

apt install lm-sensors

探测温度传感器

yes | sensors-detect

查看硬件温度

sensors