跳到主要内容

Obliteratus

OBLITERATUS: abliterate LLM refusals (diff-in-means)。

Skill 元数据​

来源可选 — 使用 kopi skills install official/mlops/obliteratus 安装
路径optional-skills/mlops/obliteratus
版本2.0.0
作者KOPI AI AGENT
许可证MIT
依赖项obliteratus, torch, transformers, bitsandbytes, accelerate, safetensors
平台linux, macos
标签Abliteration, Uncensoring, Refusal-Removal, LLM, Weight-Projection, SVD, Mechanistic-Interpretability, HuggingFace, Model-Surgery
相关 skillvllm, gguf, huggingface-tokenizers

参考:完整 SKILL.md​

信息

以下是当该 skill 被触发时 Kopi Agent 加载的完整 skill 定义。这就是 skill 处于激活状态时 agent 所看到的指令。

OBLITERATUS Skill

包含内容​

9 种 CLI 方法、28 个分析模块、横跨 5 个计算层级的 116 个模型预设、锦标赛评估,以及遥测驱动的推荐。

无需重新训练或微调即可从开放权重 LLM 中移除拒绝行为(guardrails)。它采用机制可解释性技术 —— 包括 diff-in-means、SVD、白化 SVD、LEACE 概念擦除、SAE 分解、贝叶斯核投影等 —— 来识别并从模型权重中精准切除拒绝方向,同时保留推理能力。

许可证警告: OBLITERATUS 使用 AGPL-3.0。切勿将其作为 Python 库导入。务必通过 CLI(obliteratus 命令)或 subprocess 调用。这样可以保持 KOPI AI AGENT 的 MIT 许可证不被污染。

视频指南​

演示 Kopi Agent 如何使用 OBLITERATUS 对 Gemma 进行 abliterate: https://www.youtube.com/watch?v=8fG9BrNTeHs ("OBLITERATUS: An AI Agent Removed Gemma 4's Safety Guardrails")

当用户希望在自行运行之前,先直观地了解端到端工作流程时,这会很有用。

何时使用此 Skill​

当用户出现以下情况时触发:

  • 想要对 LLM 进行"去审查"或 "abliterate"
  • 询问如何从模型中移除拒绝/guardrails
  • 想要创建 Llama、Qwen、Mistral 等模型的无审查版本
  • 提到"refusal removal"、"abliteration"、"weight projection"
  • 想要分析模型的拒绝机制是如何工作的
  • 提及 OBLITERATUS、abliterator 或 refusal directions

步骤 1:安装​

检查是否已安装:

obliteratus --version 2>/dev/null && echo "INSTALLED" || echo "NOT INSTALLED"

如果尚未安装,从 GitHub 克隆并安装:

git clone https://github.com/elder-plinius/OBLITERATUS.git
cd OBLITERATUS
pip install -e .
# For Gradio web UI support:
# pip install -e ".[spaces]"

重要: 安装前请先与用户确认。这会拉取约 5-10GB 的依赖项(PyTorch、Transformers、bitsandbytes 等)。

步骤 2:检查硬件​

首先,检查可用的 GPU:

python3 -c "
import torch
if torch.cuda.is_available():
gpu = torch.cuda.get_device_name(0)
vram = torch.cuda.get_device_properties(0).total_memory / 1024**3
print(f'GPU: {gpu}')
print(f'VRAM: {vram:.1f} GB')
if vram < 4: print('TIER: tiny (models under 1B)')
elif vram < 8: print('TIER: small (models 1-4B)')
elif vram < 16: print('TIER: medium (models 4-9B with 4bit quant)')
elif vram < 32: print('TIER: large (models 8-32B with 4bit quant)')
else: print('TIER: frontier (models 32B+)')
else:
print('NO GPU - only tiny models (under 1B) on CPU')
"

显存需求(使用 4-bit 量化)​

显存最大模型规模示例模型
仅 CPU~1B 参数GPT-2、TinyLlama、SmolLM
4-8 GB~4B 参数Qwen2.5-1.5B、Phi-3.5 mini、Llama 3.2 3B
8-16 GB~9B 参数Llama 3.1 8B、Mistral 7B、Gemma 2 9B
24 GB~32B 参数Qwen3-32B、Llama 3.1 70B(比较吃紧)、Command-R
48 GB+~72B+ 参数Qwen2.5-72B、DeepSeek-R1
多 GPU200B+ 参数Llama 3.1 405B、DeepSeek-V3(685B MoE)

步骤 3:浏览可用模型并获取推荐​

# Browse models by compute tier
obliteratus models --tier medium

# Get architecture info for a specific model
obliteratus info <model_name>

# Get telemetry-driven recommendation for best method & params
obliteratus recommend <model_name>
obliteratus recommend <model_name> --insights # global cross-architecture rankings

步骤 4:选择方法​

方法选择指南​

大多数情况下的默认 / 推荐方法:advanced。 它使用多方向 SVD 与保范数投影(norm-preserving projection),且经过充分测试。

场景推荐方法原因
默认 / 大多数模型advanced多方向 SVD,保范数,可靠
快速测试 / 原型验证basic快速、简单,足以进行评估
稠密模型(Llama、Mistral)advanced多方向,保范数
MoE 模型(DeepSeek、Mixtral)nuclear专家级粒度,能处理 MoE 的复杂性
推理模型(R1 蒸馏版)surgical感知 CoT,保留思维链
顽固拒绝仍然存在aggressive白化 SVD + 注意力头手术 + 越狱对比
希望更改可逆使用 steering vectors(转向向量,参见分析部分)
追求最高质量,不计时间成本optimized通过贝叶斯搜索寻找最优参数
实验性自动检测informed自动检测对齐类型 —— 实验性功能,效果未必优于 advanced

9 种 CLI 方法​

  • basic —— 通过 diff-in-means 提取单一拒绝方向。速度快(8B 模型约 5-10 分钟)。
  • advanced(默认,推荐) —— 多个 SVD 方向,保范数投影,2 轮精修。速度中等(约 10-20 分钟)。
  • aggressive —— 白化 SVD + 越狱对比 + 注意力头手术。造成连贯性损伤的风险更高。
  • spectral_cascade —— DCT 频域分解。研究性/新颖方法。
  • informed —— 在消融过程中运行分析以自动配置。实验性 —— 比 advanced 更慢且可预测性更低。
  • surgical —— SAE 特征 + 神经元掩码 + 头手术 + 逐专家处理。速度很慢(约 1-2 小时)。最适合推理模型。
  • optimized —— 贝叶斯超参数搜索(Optuna TPE)。运行时间最长,但能找到最优参数。
  • inverted —— 翻转拒绝方向。模型变得主动愿意配合。
  • nuclear —— 为顽固的 MoE 模型准备的最大力度组合。专家级粒度。

方向提取方法(--direction-method 标志)​

  • diff_means(默认) —— 在被拒/遵从的激活值之间取简单的均值差。稳健。
  • svd —— 多方向 SVD 提取。更适合复杂的对齐。
  • leace —— LEACE(Linear Erasure via Closed-form Estimation,闭式估计的线性擦除)。最优线性擦除。

4 种仅限 Python API 的方法​

(无法通过 CLI 使用 —— 需要 Python 导入,这会违反 AGPL 边界。仅在用户明确希望在自己的 AGPL 项目中将 OBLITERATUS 作为库使用时才提及。)

  • failspy、gabliteration、heretic、rdo

步骤 5:执行消融​

标准用法​

# Default method (advanced) — recommended for most models
obliteratus obliterate <model_name> --method advanced --output-dir ./abliterated-models

# With 4-bit quantization (saves VRAM)
obliteratus obliterate <model_name> --method advanced --quantization 4bit --output-dir ./abliterated-models

# Large models (70B+) — conservative defaults
obliteratus obliterate <model_name> --method advanced --quantization 4bit --large-model --output-dir ./abliterated-models

微调参数​

obliteratus obliterate <model_name> \
--method advanced \
--direction-method diff_means \
--n-directions 4 \
--refinement-passes 2 \
--regularization 0.1 \
--quantization 4bit \
--output-dir ./abliterated-models \
--contribute # opt-in telemetry for community research

关键标志​

标志描述默认值
--method消融方法advanced
--direction-method方向提取方式diff_means
--n-directions拒绝方向数量(1-32)取决于方法
--refinement-passes迭代轮数(1-5)2
--regularization正则化强度(0.0-1.0)0.1
--quantization以 4bit 或 8bit 加载none(全精度)
--large-model针对 120B+ 模型的保守默认值false
--output-dir消融后模型的保存位置./obliterated_model
--contribute分享匿名结果用于研究false
--verify-sample-size用于拒绝检查的测试提示词数量20
--dtype模型 dtype(float16、bfloat16)auto

其他执行模式​

# Interactive guided mode (hardware → model → preset)
obliteratus interactive

# Web UI (Gradio)
obliteratus ui --port 7860

# Run a full ablation study from YAML config
obliteratus run config.yaml --preset quick

# Tournament: pit all methods against each other
obliteratus tourney <model_name>

步骤 6:验证结果​

完成消融后,检查输出指标:

指标良好值警告
拒绝率< 5%(理想情况下约 0%)> 10% 表明拒绝仍然存在
困惑度变化< 10% 增幅> 15% 表明连贯性受损
KL 散度< 0.1> 0.5 表明分布发生了显著偏移
连贯性高 / 通过定性检查回答退化、重复

如果拒绝仍然存在(> 10%)​

  1. 尝试 aggressive 方法
  2. 增大 --n-directions(例如 8 或 16)
  3. 添加 --refinement-passes 3
  4. 改用 --direction-method svd 代替 diff_means

如果连贯性受损(困惑度增幅 > 15%)​

  1. 减少 --n-directions(试试 2)
  2. 增大 --regularization(试试 0.3)
  3. 将 --refinement-passes 减少到 1
  4. 尝试 basic 方法(更温和)

步骤 7:使用消融后的模型​

输出是一个标准的 HuggingFace 模型目录。

# Test locally with transformers
python3 -c "
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('./abliterated-models/<model>')
tokenizer = AutoTokenizer.from_pretrained('./abliterated-models/<model>')
inputs = tokenizer('How do I pick a lock?', return_tensors='pt')
outputs = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
"

# Upload to HuggingFace Hub
huggingface-cli upload <username>/<model-name>-abliterated ./abliterated-models/<model>

# Serve with vLLM
vllm serve ./abliterated-models/<model>

CLI 命令参考​

命令描述
obliteratus obliterate主要消融命令
obliteratus info <model>打印模型架构详情
obliteratus models --tier <tier>按算力层级浏览精选模型
obliteratus recommend <model>基于遥测数据的方法/参数建议
obliteratus interactive引导式设置向导
obliteratus tourney <model>锦标赛:所有方法正面比拼
obliteratus run <config.yaml>从 YAML 执行消融实验
obliteratus strategies列出所有已注册的消融策略
obliteratus report <results.json>重新生成可视化报告
obliteratus ui启动 Gradio Web 界面
obliteratus aggregate汇总社区遥测数据

分析模块​

OBLITERATUS 包含 28 个用于机制可解释性(mechanistic interpretability)的分析模块。 完整参考请见 skill_view(name="obliteratus", file_path="references/analysis-modules.md")。

快速分析命令​

# Run specific analysis modules
obliteratus run analysis-config.yaml --preset quick

# Key modules to run first:
# - alignment_imprint: Fingerprint DPO/RLHF/CAI/SFT alignment method
# - concept_geometry: Single direction vs polyhedral cone
# - logit_lens: Which layer decides to refuse
# - anti_ouroboros: Self-repair risk score
# - causal_tracing: Causally necessary components

Steering Vectors(转向向量,可逆替代方案)​

无需永久修改权重,可改用推理时转向:

# Python API only — for user's own projects
from obliteratus.analysis.steering_vectors import SteeringVectorFactory, SteeringHookManager

消融策略​

除了基于方向的消融(abliteration)之外,OBLITERATUS 还包含结构化消融策略:

  • Embedding Ablation(嵌入层消融) — 针对嵌入层组件
  • FFN Ablation(前馈网络消融) — 移除前馈网络模块
  • Head Pruning(注意力头剪枝) — 剪除注意力头
  • Layer Removal(整层移除) — 完整移除某一层

列出所有可用项:obliteratus strategies

评估​

OBLITERATUS 内置了评估工具:

  • 拒绝率基准测试
  • 困惑度(perplexity)对比(消融前后)
  • 集成 LM Eval Harness,用于学术基准测试
  • 与竞品的正面比较
  • 基线性能跟踪

平台支持​

  • CUDA — 完整支持(NVIDIA GPU)
  • Apple Silicon(MLX) — 通过 MLX 后端支持
  • CPU — 支持极小模型(< 1B 参数)

YAML 配置模板​

通过 skill_view 加载模板,实现可复现的运行:

  • templates/abliteration-config.yaml — 标准单模型配置
  • templates/analysis-study.yaml — 消融前分析研究
  • templates/batch-abliteration.yaml — 多模型批量处理

遥测​

OBLITERATUS 可以选择性地将匿名运行数据贡献给全球研究数据集。 使用 --contribute 标志启用。不会收集任何个人数据——仅收集模型名称、方法和指标。

常见问题与陷阱​

  1. 不要将 informed 作为默认选项 — 它是实验性的,且速度较慢。请使用 advanced 以获得可靠结果。
  2. 约 1B 以下的模型对消融反应不佳 — 其拒绝行为浅层且零散,难以提取干净的方向。预期只能得到部分效果(仍有 20-40% 的拒绝率)。3B 以上的模型具有更清晰的拒绝方向,响应效果好得多(使用 advanced 时通常可达 0% 拒绝率)。
  3. aggressive 可能让情况变得更糟 — 在小模型上它可能损害连贯性,反而提高拒绝率。只有当 advanced 在 3B 以上模型上仍有 > 10% 的拒绝率时才使用它。
  4. 务必检查困惑度 — 如果困惑度飙升 > 15%,说明模型已受损。请降低处理强度。
  5. MoE 模型需要特殊处理 — 对 Mixtral、DeepSeek-MoE 等请使用 nuclear 方法。
  6. 量化模型无法再次量化 — 请对全精度模型执行消融,然后对输出进行量化。
  7. 显存(VRAM)估算只是近似值 — 4-bit 量化有帮助,但在提取过程中峰值使用量可能飙升。
  8. 推理模型较为敏感 — 对 R1 蒸馏模型请使用 surgical 以保留思维链(chain-of-thought)。
  9. 查看 obliteratus recommend — 遥测数据中可能包含比默认值更好的参数。
  10. AGPL 许可证 — 切勿在 MIT/Apache 项目中 import obliteratus。仅限 CLI 调用。
  11. 大型模型(70B 以上) — 务必使用 --large-model 标志以启用保守的默认设置。
  12. 谱认证显示 RED 很常见 — 谱检查经常将结果标记为"不完整",即使实际拒绝率已达 0%。请查看实际拒绝率,而不要仅依赖谱认证。

互补技能​

  • vllm — 以高吞吐量提供消融后模型的服务
  • gguf — 将消融后的模型转换为 GGUF 格式,供 llama.cpp 使用
  • huggingface-tokenizers — 处理模型的 tokenizer