以AMD GPU架設生成式AI應用環境，讓同學深入學習生成式AI應用

亞洲大學擁有全台首座、由美商超微半導體AMD公司捐贈數百萬元軟硬體設備，成立的「AMD邏輯及運算實驗室」，用來發展生成式AI、機器人等相關研究應用。亞大資電學院日前在程式菁英基地，舉辦「AMD工作坊」，向學生深入介紹由AMD公司捐贈的48G高速記憶體W7900 專業顯示卡，如何用來架設生成式AI應用環境，發展建立LLM大語言模型的專屬私有知識庫。

亞大校長蔡進發於去年1月，帶領AI團隊到美國AMD公司參訪，頒授亞大名譽博士學位給蘇姿丰董事長，雙方並洽談合作研究計畫。接著，AMD捐贈多項研究及教學設備給亞大，設立「AMD邏輯及運算實驗室」，協助培育人工智慧人才和研究計畫。蔡校長也在6月參訪台北國際電腦展（COMPUTEX 2024）美商超微半導體AMD展示中心時，由亞大團隊簡報雙方合作研究進度，及運用實驗室教學現況。

亞大程式設計菁英團隊執行長陳政煥表示，以往亞大程式設計菁英團隊在多位教授的指導下，在校內外AI競賽表現優異、獲獎眾多。面對生成式AI年代，如同蔡校長一再提醒同學，要培養「駕馭AI」的能力，希望同學可以多加利用「AMD邏輯及運算實驗室」，使用AMD先進的設備，深入學習生成式AI的應用。

資工系主任朱學亭指出，亞大重視培養同學的AI實力，無論是no code、low code的AI解決方案，都有助於快速學習，將生成式AI應用在各自的專業領域。也期望有更多同學加入「AMD工作坊」，投入生成式AI的學習。

工作坊中，另由生醫系李育全同學介紹如何在AMD GPU上架設Ollama伺服器，介紹生醫系用來發展「基因、疾病、藥物三元組知識圖譜」的分析研究。資工系陳聖瑋同學介紹在ROCm環境，利用AMD W7900 GPU上撰寫程式來運行LLM模型。資工系陳聖瑋同學介紹了如何用Transformer套件來操作LLM模型。

圖為資工系陳聖瑋同學，介紹在ROCm環境，利用AMD W7900 GPU上撰寫程式來運行LLM模型。