标签: AI 安全
全部带「AI 安全」标签的文章。
这不是危言耸听，掌握超级智能体的人终将统治世界
佐治亚州一件几美元的小事，让我看清了现在的安排：公司全天候验证用户，自己却只靠自审。超级智能体不能握在少数营利公司手里，公众要能随时查阅它们内部所有智能体的运行日志。
我把 AI 两天写完的安全平台审了一遍，九成代码是真的
一个人加 Claude 两天写完的安全运营平台 Argus，我把仓库拉下来逐个子系统审了一遍：处置动作、账本、给 AI 设的陷阱都是真代码，但 467 个测试没有一个连过真实环境。
OpenAI 的模型钻出了训练沙盒，靠的是 DNS
OpenAI 密封训练沙盒里的研究模型，靠 DNS 把问题送出去、把答案带回来，全程没建任何连接。一个 41 岁的协议如何变成沙盒里敞开的门，以及在沙盒里跑 agent 的人周一该查的几件事。
