Skip to content

核心概念

SOVR 是一个专为 Executive AI(执行型AI)设计的责任层系统。本文档介绍 SOVR 的核心概念和设计理念。

设计理念

双重检查困境

当 AI 系统执行任务时,由于"幻觉"(Hallucination)问题,人类往往需要花费大量时间验证 AI 的输出。这形成了一个悖论:

我们使用 AI 来节省时间,但又花费更多时间来检查 AI 的工作。

SOVR 的目标是解决这个困境,通过建立一个可信的责任层,让人类可以"解放双眼",信任代码的执行。

责任层架构

┌─────────────────────────────────────────┐
│           User Intent Layer             │
│         (用户意图层)                    │
└─────────────────┬───────────────────────┘


┌─────────────────────────────────────────┐
│       SOVR Responsibility Layer         │
│         (SOVR 责任层)                   │
│  ┌─────────┐ ┌─────────┐ ┌─────────┐   │
│  │ Policy  │ │  Eval   │ │ Audit   │   │
│  │ Gate    │ │  Gate   │ │ Trail   │   │
│  └─────────┘ └─────────┘ └─────────┘   │
└─────────────────┬───────────────────────┘


┌─────────────────────────────────────────┐
│        AI Execution Runtime             │
│         (AI 执行运行时)                 │
└─────────────────────────────────────────┘

核心组件

Decision(决策)

决策是 SOVR 中最基本的单元,代表 AI 系统执行的一个可追溯操作。

属性:

  • id: 唯一标识符
  • action: 执行的动作类型
  • context: 执行上下文
  • risk_level: 风险等级(low/medium/high/critical)
  • status: 状态(pending/approved/rejected/executed)
  • requires_approval: 是否需要人工审批

生命周期:

Created → Pending → [Approved/Rejected] → Executed → Archived

Trust Bundle(信任包)

信任包是证据的集合,用于证明决策的可信度和充分性。

属性:

  • id: 唯一标识符
  • name: 信任包名称
  • bundle_type: 类型(decision/transaction/policy)
  • sufficiency_score: 充分性评分(0-100)
  • sufficiency_status: 状态(insufficient/partial/sufficient/verified)

证据类型:

类型说明权重
audit_trail审计轨迹25
approval_record审批记录20
policy_check策略检查20
verification_result验证结果15
external_attestation外部证明10
context_snapshot上下文快照10

Policy(策略)

策略定义了 AI 系统可以执行的操作边界。

策略类型:

  • Allow Policy: 允许特定操作
  • Deny Policy: 禁止特定操作
  • Require Approval: 需要审批的操作

示例:

yaml
# policy_v1.0.yaml
allow:
  - action: "read_database"
    resource: "public_tables"
deny:
  - action: "delete_record"
    condition: "approval_missing"
require_approval:
  - action: "send_payment"
    threshold: 1000

Audit Log(审计日志)

审计日志记录系统中发生的所有重要事件。

字段:

  • event_type: 事件类型
  • entity_type: 实体类型
  • entity_id: 实体 ID
  • actor: 执行者
  • action: 动作
  • details: 详细信息
  • created_at: 创建时间

工作流程

1. 决策创建流程

mermaid
sequenceDiagram
    participant AI as AI Agent
    participant SOVR as SOVR Layer
    participant Policy as Policy Gate
    participant Human as Human Approver
    
    AI->>SOVR: Create Decision
    SOVR->>Policy: Check Policy
    Policy-->>SOVR: Policy Result
    
    alt High Risk
        SOVR->>Human: Request Approval
        Human-->>SOVR: Approve/Reject
    end
    
    SOVR-->>AI: Decision Result

2. 信任包评估流程

mermaid
sequenceDiagram
    participant Client as SDK Client
    participant SOVR as SOVR API
    participant Eval as Eval Engine
    
    Client->>SOVR: Add Evidence
    SOVR->>Eval: Trigger Evaluation
    Eval->>Eval: Calculate Score
    Eval-->>SOVR: Evaluation Result
    SOVR-->>Client: Updated Bundle

最佳实践

1. 风险分级

根据操作的影响范围和可逆性进行风险分级:

风险等级说明审批要求
low可逆、影响小无需审批
medium部分可逆可选审批
high难以逆转必须审批
critical不可逆、影响大多级审批

2. 证据收集

  • 在决策执行前后收集证据
  • 包含足够的上下文信息
  • 使用结构化格式存储
  • 及时验证证据的有效性

3. 策略设计

  • 遵循最小权限原则
  • 明确定义边界条件
  • 定期审查和更新策略
  • 使用版本控制管理策略变更

下一步

Released under the MIT License.