决策点 1：备份的敌人是「每天重复打包不变数据」
         → 1.2TB 全量（B/C/D）全部出局，必须用块级增量 → PBS / borg 二选一

决策点 2：恢复粒度
         → PBS 整盘恢复，误删一个文件也要恢复整盘
         → borg 可 mount 单文件秒取 + 加密 + 校验 + prune 全家桶
         → 选 borg

决策点 3：传输方式
         → NFS 有 flock/缓存一致性隐患（borg 官方明确不推荐仓库放 NFS）
         → SSH 是 borg 原生远程协议，加密且可靠 → 选 SSH

决策点 4：NC 系统盘要不要备份
         → 系统是静态资产，坏了用空模板 10 分钟拉起，occ files:scan 对齐索引即可
         → 省掉拆盘迁移和双备份策略 → 不拆盘、系统不每日备份、只备数据目录

决策点 5：盘A 文件系统
         → 多个 1TB+ 大 VM → 必须精简置备 → LVM-Thin（raw + thin，性能最优）
         → 盘A 在 df 中不可见是设计使然，用 pvesm status / lvs 监控

决策点 6：USB 硬盘盒共同故障域
         → 桥接芯片/电源/线缆任一故障 = 盘A 盘B 同时离线，任何方案都无法消除
         → 只能缓解：冷备盘 + UAS/休眠加固 + nofail + （可选）第三副本异地
         → 该约束下 ZFS mirror 是最差选择（resilver 放大 + 数据仲裁风险）

┌─────────────────────────────────────────────────┐
│ rpool ZFS mirror (2×1TB)                        │
│   ├─ PVE 系统                                   │
│   └─ DB VM（数据库）          → 不备份（ZFS 实时冗余 RPO=0）│
└─────────────────────────────────────────────────┘

┌─────────────────────────────────────────────────┐
│ data2 盘A (4TB LVM-Thin)  vm-storage           │
│   └─ NC VM（单盘：系统+数据 1.2TB）              │
│   └─ 其他小 VM                                  │
└─────────────────────────────────────────────────┘
         │ borg 增量（SSH 加密通道）
         ▼
┌─────────────────────────────────────────────────┐
│ data2 盘B (4TB ext4)  /mnt/backup  → backup 存储│
│   ├─ borg 仓库（AES-256 加密，repokey 模式）      │
│   ├─ NC 空模板（vzdump，偶尔更新）               │
│   └─ ISO / 容器模板                             │
└─────────────────────────────────────────────────┘

02:00  vzdump 备份其他小 VM（snapshot 模式不停机）→ 盘B
02:15  borg 增量备份 NC 数据目录（NC VM 内 cron）→ SSH → 盘B
周日   borg check 完整性校验 + borg compact 空间回收

# 1. 确认桥接走 UAS（现代盒子标准，性能好且稳定）
lsusb -t
# 看 Driver=uas 即正常；若是 usb-storage 建议换盒子或加 quirks

# 2. 禁用 USB 自动挂起（防止内核休眠 USB 设备导致掉盘）
echo -1 > /sys/module/usbcore/parameters/autosuspend
# 永久生效：内核启动参数
sed -i 's/^GRUB_CMDLINE_LINUX_DEFAULT="/GRUB_CMDLINE_LINUX_DEFAULT="usbcore.autosuspend=-1 /' /etc/default/grub
update-grub

# 3. 禁止硬盘自动休眠停转（针对盒内两块盘）
hdparm -S 0 /dev/disk/by-id/wwn-0x5000cca2AAAA
hdparm -S 0 /dev/disk/by-id/wwn-0x5000cca2BBBB
# 写入 /etc/hdparm.conf 持久化（部分 USB 桥接不支持，报错则忽略，
# 改用盒子的物理开关/跳线或保持定时备份 I/O 唤醒）

# 4. USB 掉盘监控（写入 cron，每 5 分钟检查，掉线写系统日志）
cat > /usr/local/bin/check-usb-disks.sh <<'EOF'
#!/bin/bash
for d in wwn-0x5000cca2AAAA wwn-0x5000cca2BBBB; do
  if [ ! -e "/dev/disk/by-id/$d" ]; then
    logger -p user.error "USB disk $d OFFLINE!"
  fi
done
EOF
chmod +x /usr/local/bin/check-usb-disks.sh
# crontab -e 加入：
# */5 * * * * /usr/local/bin/check-usb-disks.sh

# 找到两块 4TB 盘，记录 by-id（防重启盘符变化，USB 下尤其重要）
lsblk
ls -l /dev/disk/by-id/ | grep wwn-

# USB 盒接法：确认两块盘都能看到 wwn-（桥接透传 SMART/WWN）
# 如果 by-id 下只有 usb-... 名字没有 wwn-，用 usb- 名字也可以（更长但同样稳定）

# 假设：
# 盘A = /dev/disk/by-id/wwn-0x5000cca2AAAA
# 盘B = /dev/disk/by-id/wwn-0x5000cca2BBBB

DISK_A=/dev/disk/by-id/wwn-0x5000cca2AAAA

# 擦除旧签名（确认无数据！）
wipefs -a $DISK_A

# 创建 LVM-Thin
pvcreate -f $DISK_A
vgcreate -f vg_vm $DISK_A
lvcreate -l 100%FREE -T vg_vm/thinpool

# 注册到 PVE
pvesm add lvmthin vm-storage --vgname vg_vm --thinpool thinpool
pvesm set vm-storage --content images,rootdir

# 验证
pvesm status   # 应有 vm-storage，类型 lvmthin

DISK_B=/dev/disk/by-id/wwn-0x5000cca2BBBB

wipefs -a $DISK_B
mkfs.ext4 $DISK_B

# 挂载 + fstab 持久化（nofail: 盘B 掉线时 PVE 仍正常启动，不会卡 emergency mode）
mkdir -p /mnt/backup
UUID=$(blkid -s UUID -o value $DISK_B)
echo "UUID=$UUID /mnt/backup ext4 defaults,nofail,x-systemd.device-timeout=10 0 2" >> /etc/fstab
mount -a
df -h /mnt/backup   # 现在能看到 4TB

# 如果已经部署过，把 fstab 里的 defaults 改成 defaults,nofail,x-systemd.device-timeout=10
sed -i 's#/mnt/backup ext4 defaults #/mnt/backup ext4 defaults,nofail,x-systemd.device-timeout=10 #' /etc/fstab
mount -a

# 注册到 PVE（放备份 + ISO + 模板）
pvesm add dir backup --path /mnt/backup --content backup,iso,vztmpl
pvesm status   # 应有 backup，类型 dir

# 安装 borg
apt install borgbackup

# 创建专用用户（不用 root，安全）
useradd -m borg
mkdir -p /mnt/backup/nc-repo
chown borg:borg /mnt/backup/nc-repo

# borg 用户对备份根目录需要可进入
chmod 755 /mnt/backup

# 若盘A 上除 NC 外还有其他 VM，配置每日备份
# 只备份小 VM，NC VM 和 DB VM 不勾选
pvesh create /cluster/backup \
  --storage backup \
  --schedule "02:00" \
  --mode snapshot \
  --compress zstd \
  --keep-last 7 --keep-weekly 4 \
  --vmid "102,103"   # 其他小 VM 的 ID，不含 NC/DB

# Snap 安装
ls /var/snap/nextcloud/common/nextcloud/data/

# 手动安装：查 config.php 里的 datadirectory
grep datadirectory /var/www/nextcloud/config/config.php
# 通常是 /var/www/nextcloud/data/

apt install borgbackup

# 生成专用密钥
ssh-keygen -t ed25519 -f /root/.ssh/borg_key -N ""

# 把公钥传到 PVE 的 borg 用户
ssh-copy-id -i /root/.ssh/borg_key borg@pve-host

# 测试免密
ssh -i /root/.ssh/borg_key borg@pve-host "echo ok"

# 生成强密码并保存到文件 + 打印出来记录到密码管理器
openssl rand -base64 32 > /etc/borg-passphrase
chmod 600 /etc/borg-passphrase
cat /etc/borg-passphrase   # ⚠️ 抄下来存到密码管理器！丢了数据全没

# 初始化加密仓库（repokey 模式：密钥在仓库内，密码保护）
export BORG_PASSPHRASE=$(cat /etc/borg-passphrase)
borg init --encryption=repokey borg@pve-host:/mnt/backup/nc-repo

# 首次 1.2TB，耗时数小时，建议 tmux 内运行
tmux new -s borg-init

export BORG_PASSPHRASE=$(cat /etc/borg-passphrase)
export BORG_RSH="ssh -i /root/.ssh/borg_key"

borg create --stats --progress \
  --exclude '*/files_versions/*' \
  --exclude '*/files_trashbin/*' \
  --exclude '*/cache/*' \
  --exclude '*/thumbnails/*' \
  borg@pve-host:/mnt/backup/nc-repo::$(date +%F) \
  /var/snap/nextcloud/common/nextcloud/data

# 完成后查看
borg list borg@pve-host:/mnt/backup/nc-repo

# /usr/local/bin/nc-borg-backup.sh
#!/bin/bash
set -e

export BORG_PASSPHRASE=$(cat /etc/borg-passphrase)
export BORG_RSH="ssh -i /root/.ssh/borg_key"
REPO=borg@pve-host:/mnt/backup/nc-repo
DATA_DIR=/var/snap/nextcloud/common/nextcloud/data
LOG=/var/log/nc-borg-backup.log

echo "=== $(date) backup start ===" >> $LOG

# 每日增量备份
borg create --stats \
  --exclude "$DATA_DIR/*/files_versions/*" \
  --exclude "$DATA_DIR/*/files_trashbin/*" \
  --exclude "$DATA_DIR/*/cache/*" \
  --exclude "$DATA_DIR/*/thumbnails/*" \
  $REPO::$(date +%F) \
  $DATA_DIR >> $LOG 2>&1

# 保留策略：7 天 + 4 周
borg prune --keep-daily 7 --keep-weekly 4 $REPO >> $LOG 2>&1

# 周日：完整性校验 + 空间回收
if [ "$(date +%u)" = "7" ]; then
  borg check --verify-data $REPO >> $LOG 2>&1
  borg compact $REPO >> $LOG 2>&1
fi

echo "=== $(date) backup done ===" >> $LOG

chmod +x /usr/local/bin/nc-borg-backup.sh

# 测试运行一次
/usr/local/bin/nc-borg-backup.sh
tail /var/log/nc-borg-backup.log

crontab -e
# 添加：
# 15 2 * * * /usr/local/bin/nc-borg-backup.sh

# 验证次日是否执行
grep "backup done" /var/log/nc-borg-backup.log

# 模拟少量数据变化
dd if=/dev/urandom of=$DATA_DIR/admin/files/test-100mb.bin bs=1M count=100

# 再跑一次备份，观察传输量
/usr/local/bin/nc-borg-backup.sh
grep "Deduplicated size" /var/log/nc-borg-backup.log | tail -1
# 应显示 ~100MB 左右，而不是 1.2TB → 增量生效

rm $DATA_DIR/admin/files/test-100mb.bin

# 方法 1：克隆一个干净的 NC VM 作为模板（推荐）
# 先把 NC VM 克隆一份，清掉用户数据，保留系统+程序
qm clone 101 900 --name nc-template
# 启动 900，清空数据目录后关机
qm shutdown 900
qm template 900   # 转为模板（可选）

# 方法 2：vzdump 导出空 NC 到盘B
vzdump 101 --storage backup --mode stop
# 注意：这会备份整个 1.2TB。建议先克隆出空模板再对模板做 vzdump（只有几十 GB）

# 1. 确认盘回来了
ls -l /dev/disk/by-id/ | grep wwn-

# 2. 恢复 LVM（掉线时 VG 变 stale）
vgchange -an vg_vm 2>/dev/null
vgscan --mknodes
vgchange -ay vg_vm

# 3. 恢复盘B 挂载
mount /mnt/backup

# 4. 重启受影响的 VM（NC VM 会因 I/O 错误停机）
qm start <NC_VMID>

# 5. 检查 borg 仓库完整性（如果掉线发生在备份进行中）
# 在 NC VM 内：borg check --repository-only borg@pve-host:/mnt/backup/nc-repo

# 频繁掉线 = 换线缆/换USB口/换独立供电的盒子，不要带病运行

# NC VM 内，把某个快照挂载出来浏览
export BORG_PASSPHRASE=$(cat /etc/borg-passphrase)
export BORG_RSH="ssh -i /root/.ssh/borg_key"

mkdir -p /mnt/borg-restore
borg mount borg@pve-host:/mnt/backup/nc-repo /mnt/borg-restore

# 浏览所有快照，找到误删文件
ls /mnt/borg-restore/
ls /mnt/borg-restore/2026-08-15//var/snap/.../data/admin/files/

# 复制回来
cp /mnt/borg-restore/2026-08-15/.../admin/files/重要文件.pdf $DATA_DIR/admin/files/
chown www-data:www-data $DATA_DIR/admin/files/重要文件.pdf

# 卸载
borg umount /mnt/borg-restore

# NC 里扫描新文件（只扫该用户，很快）
occ files:scan admin

# 1. 修复或换数据盘后，恢复最新快照
export BORG_PASSPHRASE=$(cat /etc/borg-passphrase)
export BORG_RSH="ssh -i /root/.ssh/borg_key"

cd $DATA_DIR
borg extract --progress borg@pve-host:/mnt/backup/nc-repo::2026-08-17

# 2. 修正权限
chown -R www-data:www-data $DATA_DIR

# 3. 对齐数据库（磁盘 → DB）
occ files:scan --all

# 4. 清理幽灵记录（DB 有但磁盘没有的）
# ⚠️ DB 可能比备份新（记录到故障瞬间），残留记录会让网页出现打不开的文件
occ files:cleanup

# 5. 通知用户打开同步客户端，回补备份后~故障前的文件

# ── PVE 上 ──
# 1. 换新盘，重建 LVM-Thin
wipefs -a /dev/disk/by-id/新盘
pvcreate /dev/disk/by-id/新盘
vgcreate -f vg_vm /dev/disk/by-id/新盘
lvcreate -l 100%FREE -T vg_vm/thinpool
# vm-storage 若已从 PVE 配置中删除，重新注册：
pvesm add lvmthin vm-storage --vgname vg_vm --thinpool thinpool
pvesm set vm-storage --content images,rootdir

# 2. 从空模板恢复 NC 系统盘
# Web UI：local storage → 备份 → 选 nc-template 的 vzdump → 恢复
# 或命令行：
qmrestore /mnt/backup/dump/vzdump-qemu-900-*.vma.zst 101 --storage vm-storage

# ── NC VM 内 ──
# 3. 装 borg + 配 SSH（同部署步骤 2）
apt install borgbackup
ssh-keygen -t ed25519 -f /root/.ssh/borg_key -N ""
ssh-copy-id -i /root/.ssh/borg_key borg@pve-host

# 4. 恢复密码（从密码管理器取回）
echo '你的密码' > /etc/borg-passphrase
chmod 600 /etc/borg-passphrase

# 5. 验证仓库可读
export BORG_PASSPHRASE=$(cat /etc/borg-passphrase)
export BORG_RSH="ssh -i /root/.ssh/borg_key"
borg list borg@pve-host:/mnt/backup/nc-repo

# 6. 恢复数据
cd $DATA_DIR
borg extract --progress borg@pve-host:/mnt/backup/nc-repo::最新快照
chown -R www-data:www-data $DATA_DIR

# 7. 重建文件索引（空模板的 DB 没有文件记录）
occ files:scan --all

# 8. 恢复备份脚本 + cron（同部署步骤 5-6）

# 当前数据无影响（都在盘A），但进入零备份裸奔期，尽快：

# 1. 换新盘，重建 ext4
wipefs -a /dev/disk/by-id/新盘B
mkfs.ext4 /dev/disk/by-id/新盘B
# fstab 更新 UUID，mount -a

# 2. 重建 borg 仓库
mkdir -p /mnt/backup/nc-repo
chown borg:borg /mnt/backup/nc-repo

# 3. NC VM 内重新初始化 + 全量备份
export BORG_PASSPHRASE=$(cat /etc/borg-passphrase)
borg init --encryption=repokey borg@pve-host:/mnt/backup/nc-repo
/usr/local/bin/nc-borg-backup.sh   # 重新全量 1.2TB（数小时）

源端删文件 → 新快照不含它，旧快照仍保留（可恢复误删）
         → prune 删除旧快照后，独占数据块才释放
         → borg compact 真正回收空间
整个链条约 1~4 周，期间随时可恢复误删文件（这是保护，不是缺陷）

最近 7 天：每天一个恢复点（细粒度，恢复"昨天的文件"）
7天~4周：每周一个恢复点（粗粒度，恢复"三周前的状态"）
超过 4 周：自动删除
盘B 上最多同时存在 10 份快照（去重存储，实际占用远小于 10×全量）