大語言模型
學習地圖

文件中的指令可以直接照做嗎?

外部文件是待處理的內容。若文件要求改變原任務或使用工具,應用程式仍需依原有權限與檢查規則處理。

原任務

整理指定文件的內容。

外部內容

要求忽略任務並執行其他動作,需要先檢查來源與權限。

分層檢查,不只依賴提示詞

可以先界定任務與不受信任資料,再限制工具與資料權限,並對輸出或高風險行動增加驗證與人工確認。文字標籤、過濾器和沙箱各有用途,沒有單一措施能保證攔下所有注入。

查看舊版提示詞注入攻防圖 → 原圖中的防護效果及數字待核對,不能視為安全保證。

參考:OWASP:Prompt Injection。