核心概念
SOVR 是一个专为 Executive AI(执行型AI)设计的责任层系统。本文档介绍 SOVR 的核心概念和设计理念。
设计理念
双重检查困境
当 AI 系统执行任务时,由于"幻觉"(Hallucination)问题,人类往往需要花费大量时间验证 AI 的输出。这形成了一个悖论:
我们使用 AI 来节省时间,但又花费更多时间来检查 AI 的工作。
SOVR 的目标是解决这个困境,通过建立一个可信的责任层,让人类可以"解放双眼",信任代码的执行。
责任层架构
┌─────────────────────────────────────────┐
│ User Intent Layer │
│ (用户意图层) │
└─────────────────┬───────────────────────┘
│
▼
┌─────────────────────────────────────────┐
│ SOVR Responsibility Layer │
│ (SOVR 责任层) │
│ ┌─────────┐ ┌─────────┐ ┌─────────┐ │
│ │ Policy │ │ Eval │ │ Audit │ │
│ │ Gate │ │ Gate │ │ Trail │ │
│ └─────────┘ └─────────┘ └─────────┘ │
└─────────────────┬───────────────────────┘
│
▼
┌─────────────────────────────────────────┐
│ AI Execution Runtime │
│ (AI 执行运行时) │
└─────────────────────────────────────────┘核心组件
Decision(决策)
决策是 SOVR 中最基本的单元,代表 AI 系统执行的一个可追溯操作。
属性:
id: 唯一标识符action: 执行的动作类型context: 执行上下文risk_level: 风险等级(low/medium/high/critical)status: 状态(pending/approved/rejected/executed)requires_approval: 是否需要人工审批
生命周期:
Created → Pending → [Approved/Rejected] → Executed → ArchivedTrust Bundle(信任包)
信任包是证据的集合,用于证明决策的可信度和充分性。
属性:
id: 唯一标识符name: 信任包名称bundle_type: 类型(decision/transaction/policy)sufficiency_score: 充分性评分(0-100)sufficiency_status: 状态(insufficient/partial/sufficient/verified)
证据类型:
| 类型 | 说明 | 权重 |
|---|---|---|
audit_trail | 审计轨迹 | 25 |
approval_record | 审批记录 | 20 |
policy_check | 策略检查 | 20 |
verification_result | 验证结果 | 15 |
external_attestation | 外部证明 | 10 |
context_snapshot | 上下文快照 | 10 |
Policy(策略)
策略定义了 AI 系统可以执行的操作边界。
策略类型:
- Allow Policy: 允许特定操作
- Deny Policy: 禁止特定操作
- Require Approval: 需要审批的操作
示例:
yaml
# policy_v1.0.yaml
allow:
- action: "read_database"
resource: "public_tables"
deny:
- action: "delete_record"
condition: "approval_missing"
require_approval:
- action: "send_payment"
threshold: 1000Audit Log(审计日志)
审计日志记录系统中发生的所有重要事件。
字段:
event_type: 事件类型entity_type: 实体类型entity_id: 实体 IDactor: 执行者action: 动作details: 详细信息created_at: 创建时间
工作流程
1. 决策创建流程
mermaid
sequenceDiagram
participant AI as AI Agent
participant SOVR as SOVR Layer
participant Policy as Policy Gate
participant Human as Human Approver
AI->>SOVR: Create Decision
SOVR->>Policy: Check Policy
Policy-->>SOVR: Policy Result
alt High Risk
SOVR->>Human: Request Approval
Human-->>SOVR: Approve/Reject
end
SOVR-->>AI: Decision Result2. 信任包评估流程
mermaid
sequenceDiagram
participant Client as SDK Client
participant SOVR as SOVR API
participant Eval as Eval Engine
Client->>SOVR: Add Evidence
SOVR->>Eval: Trigger Evaluation
Eval->>Eval: Calculate Score
Eval-->>SOVR: Evaluation Result
SOVR-->>Client: Updated Bundle最佳实践
1. 风险分级
根据操作的影响范围和可逆性进行风险分级:
| 风险等级 | 说明 | 审批要求 |
|---|---|---|
low | 可逆、影响小 | 无需审批 |
medium | 部分可逆 | 可选审批 |
high | 难以逆转 | 必须审批 |
critical | 不可逆、影响大 | 多级审批 |
2. 证据收集
- 在决策执行前后收集证据
- 包含足够的上下文信息
- 使用结构化格式存储
- 及时验证证据的有效性
3. 策略设计
- 遵循最小权限原则
- 明确定义边界条件
- 定期审查和更新策略
- 使用版本控制管理策略变更