危机升级协议

一、目的与适用范围

本协议描述用户在与 Avatar（AI 疗愈师）会话中表达急性自伤风险时，Hamo AI 所遵循的端到端流程。其目的在于：

• 为机构合作伙伴（雇主、HR 项目、医疗机构、学校）提供清晰且可审计的危机披露处理图景。
• 记录 Hamo 平台所实现的技术保证。
• 明确 AI 介入支持与人类临床责任之间的边界。

Hamo AI 不是医疗器械、不能替代持牌心理健康服务、也不是紧急救援服务。以下协议设计为增强人类安全网，而非取代之。

1.1 触发协议的危机信号

协议在用户表达明确、无歧义的急性自伤风险信号时触发：

1.2 协议不触发的范围

协议有意保持保守 — 假阳性比假阴性更快侵蚀信任，而假阴性可由 Tier-1 疗愈师后续审阅捕获。以下情形故意排除：

• 隐喻性或夸张语言（如“笑死我了”、“这作业把我逼死了”）
• 对过往事件的反思性叙述（如“我 2019 年尝试过”）
• 未明确表达伤害意图的悲伤、绝望、疲惫、倦怠或哀伤
• 对外发泄的挫折与愤怒（如“真想杀了我老板”）

系统在不确定时倾向于不触发，让人类疗愈师（Tier 1）在审阅会话后做出临床判断。

二、检测层

检测采用三阶段级联，在明确信号上保持高召回率，在模糊内容上保持低假阳性率：

1. 第一阶段 — 确定性关键词预筛选。一份精心维护的中英双语关键词列表，命中即立即触发危机流程，零 LLM 成本与零延迟，并保证下游 LLM 限流或被安全策略阻断时仍能检测。
2. 第二阶段 — Gemini 零温度分类器。对于细微或较长的表达，由 Google Gemini 模型以确定性输出与结构化 JSON 进行分类。被安全策略阻断的回复本身被视为危机 — 弥补了此前严重内容静默绕过检测的漏洞。
3. 第三阶段 — 持续重新评估。危机检测在每条客户端消息生成 AI 回复之前执行，并非仅在会话首次危机披露时执行。

三、即时响应 — 稳定化

当检测到危机时，平台跳过正常的 Avatar 回复，返回一条固定、按语言本地化的安全消息，从源头上消除 AI 在最关键时刻产生不安全或冷漠回应的风险。

3.1 固定安全消息

我听到了你，我非常担心你现在的安全。作为AI，这已经超出了我能够安全支持你的范围 — 你现在需要的是一个真实的人来帮助你。你的疗愈师已经收到通知，会尽快联系你。你并不孤单。

3.2 应用内危机横幅

客户端在聊天界面顶部同步弹出高可见度的红色横幅，包含：

• 主紧急呼叫按钮（一键拨号）
• 紧急服务链接（911 / 120）
• 一至两个区域性资源（如 988、加拿大 Talk Suicide、Kids Help Phone、北京心理危机研究与干预中心）
• “您的疗愈师已收到通知”的确认信息

会话中每出现一次新的危机消息，横幅都会再次出现，且无法被永久关闭。

3.3 PSVS 状态更新

每次触发危机时，客户端的 PSVS（人格与压力向量状态）档案被强制提升，确保即使该消息的压力分析器被安全策略阻断，疗愈师的仪表盘也能在下一次刷新时立即反映出严重程度。

四、Tier 1 升级 — 个人疗愈师

当检测到危机时，平台通过两条并行通道告警分配给该用户的疗愈师：

• 通过 Amazon SES 发送的邮件告警，内容包括客户姓名、告警类型、匿名摘录、会话 ID 与时间戳。
• 向该疗愈师任何活动中的 Pro 仪表盘会话推送的实时通知（Server-Sent Events）。

系统同时在 crisis_alerts 表中写入一条不可篡改的记录，包含告警元数据与acknowledged字段。会话内告警去重避免邮箱被刷屏，但用户端的危机横幅会在每条新的危机消息上重复出现。

4.1 延迟目标

五、Tier 2 升级 — 机构合作伙伴 （路线图）

状态：暂未实施。本节描述 2026 年第二季度承诺交付的能力。当前需要该能力的合作伙伴需在签约阶段提出，以便我们优先排期。

5.1 用例

当 Hamo 的部署由机构合作伙伴（雇主、HR 项目、医疗机构、高校）赞助时，该合作伙伴的指定升级联系人可在不侵犯用户隐私的前提下，被告知影响其成员的危机事件。

5.2 隐私约束（PIPEDA / PHIPA / GDPR）

Tier-2 通知绝不包含：

• 对话内容
• 合作伙伴尚不知晓的用户身份信息
• 人格或心理健康诊断数据
• 其他客户的数据

Tier-2 通知仅包含：

• 用户的名（或合作伙伴要求时仅首字母）
• 事件类型（自杀意念 / 自伤 / 危险药物使用）
• UTC 时间戳
• 建议合作伙伴按其既有危机支持流程处置

5.3 选择加入模型

• 用户在注册时（以及雇主稍后加入时再次询问）会看到应用内同意页面，说明共享内容与对象。
• 用户可在“设置 → 隐私”中随时撤销机构通知同意。撤销对未来事件立即生效，已记录数据保留用于审计。
• 合作伙伴可设置严重度阈值（例如：仅在自杀意念时通知）。

六、各国/地区危机热线资源

6.1 🇨🇦 加拿大

6.2 🇺🇸 美国

6.3 🇨🇳 中国大陆

七、审计、存储与合规

• 持久化。每次危机事件都会在crisis_alerts 表写入一条不可篡改的记录。账户注销后，记录保留为匿名审计数据（用户姓名替换为不可逆哈希），按所在司法辖区的法定期限保留。
• 加密。所有 DynamoDB 表（含crisis_alerts）静态数据均采用 AWS KMS 客户管理密钥（CMK）加密，每年轮换一次。
• 访问控制。仅指定疗愈师可读取其客户的告警（基于 JWT 角色校验）。Portal 管理员的读取行为均记录在 audit_log。
• 确认追踪。疗愈师打开告警时，记录的acknowledged字段会被打上时间戳。超过 30 分钟未确认的告警将自动升级到候补主管邮箱。
• 审计导出。Portal 管理员可按日期、疗愈师或合作伙伴导出crisis_alerts 表为 CSV 文件，导出操作本身亦记入审计日志。

八、局限与免责声明

1. Hamo AI 不是 911 等价服务。平台展示紧急号码但不会自动拨打。用户需自行拨打。在真正危及生命的紧急情况下，用户（或其旁观者）必须直接联系当地紧急服务。
2. 检测在英语与普通话上偏向更强。其他语言依赖 LLM 分类器单独工作，截至 v1.0 尚未在英中之外的语言上做基准评估。
3. 无自动健康回访。Tier-1 疗愈师收到通知后，联系客户的责任在于疗愈师本人。Hamo AI 不会自动呼叫、发短信或上门。
4. 检测同时存在假阴性与假阳性。没有任何自动化系统是完美的。本协议有意接受较多假阴性以换取较少假阳性，前提是 Tier-1 疗愈师将在下次会话审阅中捕获遗漏案例。
5. 稳定化消息固定且经审核。与普通 Avatar 回复不同，危机安全消息为硬编码并经平台所有者审核 — 在最关键的时刻消除 LLM 输出方差。
6. 本协议不在 Hamo AI 与用户之间建立任何照护责任。用户在《用户服务协议》中已就此达成一致。Tier-1 疗愈师（或机构合作伙伴）依其专业执照与义务承担临床责任。

九、相关文档

• Hamo AI 用户服务协议 v2.0
• Hamo AI 隐私政策 v2.0
• 机构合作伙伴接入或 DPIA 咨询请联系 security@hamo.ai 或 privacy@hamo.ai。