OpenAI近日在其官方博客中披露了一項重要進展：針對AI代理在訪問網頁時可能遭遇的惡意鏈接與提示注入風險，公司已開發出一套新型安全防護機制。該技術旨在平衡安全性與實用性，避免因過度限制導致代理功能失效。
新機制的核心邏輯是將安全驗證轉化為地址存在性檢查。當AI代理嘗試訪問某個鏈接時，系統會首先查詢該URL是否存在于公開索引中。若存在則直接放行，若未收錄則會向用戶發出明確警示，只有在獲得二次授權后才會繼續訪問。這種設計既保持了代理的靈活性，又通過公開數據驗證的方式降低了未知風險。
針對更隱蔽的"提示注入"攻擊——即通過精心設計的網頁內容誘導AI執行非授權操作，OpenAI在最新研究論文中進行了深入分析。這類攻擊可能偽裝成正常交互，實則竊取敏感信息或破壞系統穩定。公司通過多層次防護架構，結合上下文分析、行為模式識別等技術，試圖構建更全面的防御體系。
開發團隊特別強調，當前方案并非完美解決方案。盡管能過濾大部分已知威脅，但社會工程學攻擊、零日漏洞等新型威脅仍可能繞過檢測。例如，某些釣魚網站可能通過模仿合法界面、制造緊迫感等方式誤導AI判斷。因此，OpenAI建議用戶在使用代理服務時保持警惕，對涉及個人信息或資金操作的任務進行人工復核。
