CraftCon Taiwan 2026｜全台唯一 AI 資安技術研討會

AI 圈內不能說的秘密 3：失落的智慧之鑰

☆☆☆☆ | CraftCon 首發 | 奧義智慧技術長暨共同創辦人 邱銘彰（Birdman）

語言的邊界，就是世界的邊界。
在大型語言模型快速進化、Agent AI 看似逼近 AGI 的今天，我們逐漸習慣將流暢的回應誤認為真正的理解。然而，LLM 並不是在理解世界，而是在語言的邊界之內，拼湊出一個看似合理、卻未必真實的世界。這意味著，AI 所建構的世界觀，與我們所認知的宇宙之間，仍存在著一道巨大的鴻溝。本場演講接續前兩集的核心觀點，將從物理、複雜系統、哲學、腦神經科學與認知心理學的跨學科視角出發，重新檢視當前 AI 的能力邊界與其根本限制。我們將追問一個更深層的問題：究竟是什麼，使「理解」成為可能？又是什麼，讓人類得以在有限的大腦中，觸及宇宙的智慧？
或許，當我們試圖打造 AGI 時，真正遺落的關鍵，從來不在模型本身，而在於我們尚未真正理解的世界。

修但幾勒！把 Agentic Workflow 安全交給他人前，您該了解的 12 種風險

☆☆ | CraftCon 首發 | 奧義智慧資料科學研發處處長 楊政霖

過去的 AI 安全防護，大多只盯著模型「最後輸出的那句話」安不安全，但在多步執行（multi-step execution）的 Agent 時代，攻擊往往發生在中途的執行軌跡（Execution Traces）裡。如果駭客在 Agent 呼叫工具的過程中注入惡意指令或竊取隱私，傳統的防護網根本無能為力。

市面上眼花撩亂的 AI 護欄 (Guardrails) 產品，真的能防護這種新型態的「執行期」威脅嗎？在這場議程中，我們將為您介紹首個專為 Agent Workflow 設計的安全評測基準，涵蓋 12 類風險、超過 1,000 筆案例，從 prompt injection、隱私外洩，到幻覺（hallucination）與介面不一致。我們實測 20 種防護方案後發現：防護力不一定跟模型大小成正比，能否看懂 JSON、tool call 與流程脈絡，往往才是關鍵。如果你正在評估 AI safety 產品，這 12 種風險就是你不該忽略的檢查清單。

AI 安全的雙面戰場：從評估模型安全到突破架構邊界

☆☆☆ | FIRSTCON 2026 | 奧義智慧資料科學家 廖冠綸 & 奧義智慧資安研究員 黃俊嘉

目前許多企業對 AI 安全的認知多侷限於防範越獄（Jailbreaking）與幻覺（Hallucination），然而這僅是 AI 安全的冰山一角。完整的 AI 安全應視為兩條並行的戰線：一是確保模型層面的安全性與可靠性，防止惡意提示詞（Prompt Injection）的誘導；二是建構穩健的系統實作架構，避免權限控管成為攻擊者的後門。若系統層面的安全邊界設計不周，即便模型本身防禦再嚴密，整體防線仍會因架構漏洞而潰敗。

本次演講將分享我們在開發與執行 AI 紅隊演練服務 XecART 時的實務經驗，首先探討如何透過自動化方式評估模型的安全性與可靠性，檢測對常見的提示詞攻擊與幻覺風險的抵禦能力。隨後，我們將揭露在真實場域中觀察到的結構性問題，剖析系統架構與權限管理的瑕疵如何直接導致 AI 平台上的遠端程式碼執行（RCE）漏洞。透過此案例，我們希望強調一個關鍵洞見：當 AI 應用具備操作與執行權限時，最致命的威脅往往不僅僅在於模型說了什麼內容，而是系統架構允許它執行什麼操作。

AI GRC：曾嘲笑它不會算術的我們，現在該如何治理？

☆☆ | CraftCon 首發 | 奧義智慧資安研究副處長 姜尚德 & 奧義智慧資深軟體工程師 杜衍輝

從三年前還在嘲笑 AI 不會算數，到現在 AI 時代變化日新週異，企業資安人員該如何協助公司在快速發展的同時，有效治理 AI 安全呢？這次的演講將分享我們在治理 AI 過程中的一些心得，並分析其可能帶來的風險。我們不會深入探討技術細節，而是以輕鬆的心路歷程分享，讓大家了解技術變化如此之快，治理人員該如何應對。我們將從務實的經驗出發，帶領大家了解幾種常見的攻擊面及其風險，例如影子 AI 的治理、AI Agent 的安全性（無論是龍蝦還是對外部的 AI Service)，以及如何在組織內建立長期的安全文化，而非頭痛醫頭。讓我們一同討論這場 AI 巨變中，資安人員該如何保持冷靜、從容應對。

Beyond Paper: XecGuard 的設計與落地

☆☆ | NeurIPS 2025 | 奧義智慧資深資料科學家暨技術組長 黃顯堯

本場議程將從我們在 NeurIPS 2025 的論文 Beyond Oracle 出發，分享我們如何把研究中的安全想法延伸成真實產品 XecGuard 的模型設計與功能規劃。從論文走到產品，中間真正困難的往往不是方法本身，而是模型該做什麼判斷、哪些情況該擋或該放、系統怎麼擴充，以及延遲和誤判該怎麼取捨。我們也會分享 XecGuard 在建置過程中踩過的坑與做過的調整，談談一個研究題目進到真實世界後，怎麼被需求和限制一路改造成現在的樣子。

矛盾大對決：全副武裝的 AI Agent 對決極限混淆惡意程式

☆☆☆☆ | Black Hat USA 2025 | 奧義智慧資深資安研究員 趙偉捷

我們從去年開始陸續建構了 LLM 輔助逆向分析的工具鏈，從 Celebi 系統，到以 MCP 串接 IDA Pro 與 x64dbg。但一個殘酷的事實是：光把工具接上去，AI 根本用不順手，AI 面對混淆後的控制流只會撞牆，拿著 debugger 卻不知道何時該下斷點。工具串接只解決了「能不能用」，真正的問題是「會不會用」。本次演講我們將聚焦在逆向工程的 harness engineering，將惡意程式分析師的 domain knowlege 和完整工具鏈系統性地注入 LLM Agent，實際挑戰多種不同的重度混淆樣本。傳統的加殼與混淆是否仍然構成障礙？人機協作的最佳介入時機為何？以及，我們離「全自動惡意程式分析」還有多遠？

對面的 AI 看過來：RAG 工作流中的「注意力偏移」攻擊

☆☆☆☆ | FIRSTCON 2026 | 奧義智慧資料科學家 陳妍姍

在資安自動化浪潮下，我們日益依賴 RAG（檢索增強生成） 處理海量情資，但這也引入了全新的風險。本次分享將揭密一種無需傳統漏洞、僅透過「文字遊戲」就能接管 AI 判斷的攻擊手段。這場攻擊的核心在於兩次精準的「注意力劫持」：首先是檢索投毒 (Retrieval Poisoning)， 透過植入帶有「語義磁鐵」的毒文件，強行讓檢索模型在茫茫資料中優先選中它；接著是生成劫持 (Generation Hijacking)，利用 LLM 的 Attention 機制，以特殊排版引導模型將權重集中在惡意指示上，使其產生「隧道視野」並盲從錯誤邏輯，進而產出偏頗的分析報告，甚至執行惡意指令。透過真實的資安案例，我們將直擊 AI 如何在語義層面被「洗腦」，並探討如何建立防禦機制，確保自動化工具在實戰中依然保有真實性與安全性。

不再有求於人，微調小模型也能立大功

☆☆☆☆ | CraftCon 首發 | 奧義智慧資安研究經理 蘇學翔

Nuclei 是業界推崇、作為網路掃描任務幾乎不可或缺的開源工具，其基於 Template 形式自由擴充掃描功能的開放性得到許多資安人員的讚賞。然而，隨著版本迭代、功能演進等諸多因素，愈來愈複雜的協議參數、DSL 函數如何使用等問題開始讓資安人員難以在第一時間將探測腳本補上，撰寫錯誤而導致的漏報或誤報也時有所聞。

在這場演講中，我們將利用 Recursive Language Models（RLMs），一個允許模型以寫程式分解並遞歸調用自身處理輸入的框架，來實現 IBM 論文「Toward Cybersecurity-Expert Small Language Models」中提出的資料格式化管道，並藉由 RLMs 的特性繞過了上下文窗口的限制，使得我們能夠消化近乎無限的參考文檔並產出超越 IBM 在論文中所呈現的思考鏈基準值。我們將展示透過這個流程微調出來的小模型是如何憑藉著高品質的後訓練輸出格式完美、基於邏輯檢測的 Nuclei Templates，更能夠和現有大模型的產出匹敵，將「閱讀弱點報告」轉變為實質的「漏洞掃描腳本」。

Neuromancer：應對 AI 時代威脅的 DFIR Agent 系統

☆☆ | CraftCon 首發 | 奧義智慧資安研究處長 陳仲寬

在過去一年，人工智慧技術的劇烈演進，從模型本身的安全、Agentic AI 成為新的攻擊面、更快速漏洞挖掘、到 AI 輔助網路威脅，對資安生態系已有根本性的改變。 本議程首先帶大家從回顧過往一年重大的 AI 衍生的資安威脅。並進一步探討企業藍隊未來如何轉變以應對這些威脅。

除了傳統的資安議題以外，AI Agent 將成為企業新的數位資產，其資安管理機制需重新定義。我們將分析從識別、保護、偵測、回應到復原的完整生命週期，探討 Agentic AI 的時代需要的防禦機制。 其中，雖然模型本身的安全性已經漸漸引起大家關注，但在偵測回應階段，如何針對 AI Agent 做 DFIR，是目前就無法企及的議題。本場議程也將分享如何在 Agentic AI 的環境下做 DFIR。 最後，我們也會探討建立 Agent AI 的資安管理機制，並以自身的研究成果，分享如何建造藍隊專屬的 Agent 來應對 Agent 時代的資安威脅。