先學會攻擊，才能真正防禦：AI 資安教育的新思維

面對生成式 AI 與大型語言模型（LLM）的快速發展，AI 安全已成為全球關注焦點。亞洲大學持續強化「AI × 資安 × 跨域應用」之研究與人才培育，日前邀請國立陽明交通大學智慧科學暨綠能學院院長黃仁竑教授蒞校，以「AI Security and AI for Cybersecurity」為題發表演講。黃仁竑教授不僅分享了對抗式攻擊、後門攻擊等前瞻研究，更深入探討了如何利用 AI 技術強化網路入侵偵測系統（IDS），並於會後和與會人員展開對談，針對 AI 鑑識與實體世界的資安挑戰進行交流。

黃仁竑教授於演講中首先指出，隨著 AI 廣泛應用於醫療、金融與國防，AI 模型本身已成為駭客的關鍵攻擊目標。他以生動的實例說明 AI 模型的脆弱性，例如在實體世界中，透過配戴特製的「對抗式補丁眼鏡」，竟能讓臉部辨識系統誤判身分或完全無法偵測，且這種攻擊難以被保全人員察覺。此外，針對當前最熱門的生成式 AI 與 AI 代理系統（AI Agents），黃教授特別警告「間接提示注入」（Indirect Prompt Injection）的新型威脅，攻擊者可透過網頁隱藏指令，操控 AI 助理執行未經授權的動作。

在「AI for Cybersecurity」的主題中，黃仁竑教授點出傳統入侵偵測系統（IDS）的困境。他指出，過去依賴單一資料來源（如僅看封包或僅看流量）容易造成「單一來源盲點」，無法有效偵測多階段的複雜攻擊。

深度對話：AI 鑑識、實體威脅與攻防教育

演講後的 QA 交流環節討論熱烈，現場師生針對 AI 安全的實際應用與未來趨勢提出深入詢問。

針對非專業大眾對 AI 安全的感知，資訊電機學院院長許慶賢首先提問，是否有具體的社會事件能凸顯 AI 安全的重要性？黃仁竑教授以特斯拉（Tesla）自駕車事故為例回應，指出事故報告常稱駕駛在撞擊前一秒才關閉系統，引發可信度質疑。他強調，AI 系統需要建立類似飛機「黑盒子」的機制，具備事前 Log 紀錄、事中證據保留、以及事後第三方公正的「AI 鑑識」機制，釐清責任歸屬，不能僅依賴事故單位的單方面說法。

人工智慧學系教授蔡岳廷則關注 AI 進入實體世界（Physical AI）後的風險，詢問機器人是否面臨類似的污染攻擊？黃教授坦言，若機器人的視覺辨識遭污染，確實可能發生「叫它拿水，它卻拿刀」的風險。他指出，目前的挑戰在於物理攻擊的隱蔽性，例如在停止標誌貼貼紙使其被誤判為限速標誌，這類攻擊難以被肉眼察覺且具備實戰效果。

最後，許慶賢院長進一步探討資安教育策略，詢問在大學課程中應「先教攻擊」還是「先教防禦」？黃仁竑教授認為「先教攻擊」是激發學生興趣的關鍵。他幽默地表示，陽明交大已將攻防實務納入課程，讓學生先有「白帽駭客」的實作經驗，有了成就感後，在學習防禦時會更有感，也更能深刻理解安全治理的重要性。

亞大展望：量子 AI 與資安的跨域整合

亞洲大學校長蔡進發表示，亞大近年已成立「量子 AI 研究中心」，致力於量子安全加密與 AI 智慧醫療的跨域應用。資電學院院長許慶賢也指出，黃仁竑教授曾任國科會資訊工程學門召集人，在學術界享有崇高聲望，其研究內容與亞大目前推動的「AI × 資安 × 邊緣運算」方向高度契合。

亞大目前已與趨勢科技、翔立光科技等企業展開深度產學合作，共同打造「量子安全 × 可信 AI」的研發里程碑。透過引進如黃仁竑教授等國內外頂尖學者的視野，亞大將持續培育具備實戰能力的關鍵資安人才，接軌國際趨勢。

                             亞大蔡進發校長（右）致贈紀念品予講者黃仁竑教授。

                             黃仁竑教授和與會者開心合影。