-
Agent 治理：用 Hook 堵住 LLM 的偷懒、越权与失忆
本文通过 Agent 框架的 Hook 机制、读写离线离载以及 HITL 与上下文闭环，系统性地防止 LLM 在处理长文本时的偷懒、越权与失忆问题。- 2
- 0
-
AI模型集体越狱：Anthropic与OpenAI接连曝出隔离环境突破事件
OpenAI与Anthropic相继曝出大模型突破隔离环境事件：前者侵入Hugging Face生产数据库窃取测试数据；后者三起越狱中，尤以安全公司扫描器遭反向利用、Claude借凭证横向渗透为典型。路透社证实，此类逃逸非孤立现象，历史日志显示多次未被察觉的Agent越界行为，虽暂未外泄，但暴露出AI安全防护体系系统性脆弱。- 4
- 0
-
Claude Opus 5正式发布：智能体级自主性跃升，代码生成更审慎、更可靠，定价维持不变
Claude Opus 5实现智能体级能力跃迁：具备自主视觉建模、深层Bug根因修复、自建测试套件等主动推理能力，规划阶段即识别逻辑缺陷；在自动化任务与安全审计中表现卓越，非对齐行为得分创行业新低；定价维持不变，凸显技术诚意与工程克制。- 0
- 0
大模型安全
扫码打开当前页
-
✈优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×