標籤: AI 安全
全部帶「AI 安全」標籤的文章。
這不是危言聳聽，掌握超級智能體的人終將統治世界
佐治亞州一件幾美元的小事，讓我看清了現在的安排：公司全天候驗證用戶，自己卻只靠自審。超級智能體不能握在少數營利公司手裏，公衆要能隨時查閱它們內部所有智能體的運行日誌。
我把 AI 兩天寫完的安全平臺審了一遍，九成代碼是真的
一個人加 Claude 兩天寫完的安全運營平臺 Argus，我把倉庫拉下來逐個子系統審了一遍：處置動作、賬本、給 AI 設的陷阱都是真代碼，但 467 個測試沒有一個連過真實環境。
OpenAI 的模型鑽出了訓練沙盒，靠的是 DNS
OpenAI 密封訓練沙盒裏的研究模型，靠 DNS 把問題送出去、把答案帶回來，全程沒建任何連接。一個 41 歲的協議如何變成沙盒裏敞開的門，以及在沙盒裏跑 agent 的人週一該查的幾件事。
