文件中的指令可以直接照做嗎?
外部文件是待處理的內容。若文件要求改變原任務或使用工具,應用程式仍需依原有權限與檢查規則處理。
原任務
整理指定文件的內容。
外部內容
要求忽略任務並執行其他動作,需要先檢查來源與權限。
分層檢查,不只依賴提示詞
可以先界定任務與不受信任資料,再限制工具與資料權限,並對輸出或高風險行動增加驗證與人工確認。文字標籤、過濾器和沙箱各有用途,沒有單一措施能保證攔下所有注入。
查看舊版提示詞注入攻防圖 → 原圖中的防護效果及數字待核對,不能視為安全保證。
外部文件是待處理的內容。若文件要求改變原任務或使用工具,應用程式仍需依原有權限與檢查規則處理。
整理指定文件的內容。
要求忽略任務並執行其他動作,需要先檢查來源與權限。
可以先界定任務與不受信任資料,再限制工具與資料權限,並對輸出或高風險行動增加驗證與人工確認。文字標籤、過濾器和沙箱各有用途,沒有單一措施能保證攔下所有注入。
查看舊版提示詞注入攻防圖 → 原圖中的防護效果及數字待核對,不能視為安全保證。