由於一般生成式AI教學存在著應用層次、算力資源及實作場景等三大斷層,東海大學攜手HPE、NVIDIA及AMD打造全台首創「從晶片到應用」的全棧式(full-stack) LLM校園學習平台,讓學生能實際建置AI Agent、微調大型語言模型(LLM),創造具商業價值的AI應用,以克服AI教學的三大斷層。
 |
東海大學攜手HPE、NVIDIA及AMD打造全台首創「從晶片到應用」的全棧式LLM校園學習平台,除了於校園內提供產業級算力資源,更建構跨領域教學與實作場景。 |
隨著人工智慧技術掀起全球教育革命,東海大學借助HPE等科技廠商的技術團隊,結合敦新科技的系統整合專業,導入高效能AI伺服器及AI深度學習解決方案,除了在校園內提供產業級算力資源,更建構跨領域教學與實作場景,今(6)日舉行平台啟用儀式,現場貴賓雲集。
東海大學校長張國恩表示,東海大學AI中心推動AI產官學合作、AI課程,而今再度創新突破,平台試運半年來,已誕生2組具商業價值的作品,包含應用於本地端AI護理師助理系統(PrivNurse AI)與整合「檢索增強生成」(RAG) 架構的課程學習助教。張國恩表示,教育的本質在於讓知識轉化為實踐力,創造出真正能解決產業與社會需求的應用,這次和HPE一同打造LLM學習平台,不只是技術的革新,更是學習模式的變革,未來也會進一步優化系統,將基於LLM的聊天機器人開放校外使用,讓社會大眾共同體驗先進的AI科技,善盡大學的社會責任和影響力。
東海大學攜手HPE、NVIDIA及AMD等三大巨頭,共同打造全台第一個「從晶片到應用」的全棧式(full-stack) LLM校園學習平台,將人文與AI科技結合,共同幫助台中市打造為全台最佳的人文數位城市。
HPE台灣暨香港董事長王嘉昇表示,雙方攜手合作推動生成式AI教育的發展,幫助學生深化跨領域理論與應用學習,並為教師提供創新教學工具,提升教學效率。目前HPE正積極將AI技術融入教育與研究流程,擴展在智慧校園、教學資源管理等領域的應用,期望加速教育科技的數位轉型,培養更多具備AI能力的人才。
圖資長楊朝棟提及東海建置全棧式LLM校園學習平台,採用混合雲架構並搭配於2024年率先導入CPU+NPU且內含先進GPU運算設備的「玉釵AI NB教室」進行教學,幫助東海學生在較短的時間內完成複雜的運算任務,亦將教學環境從「工具使用」升級到「模型創造」,並從產業面導入邊緣運算方案,將產業問題整合為領域知識微調模型,建立跨領域資料庫及部署架構,並且進一步為資訊與非資訊專業科系學生增設相對應的課程,未來學生可以自行建立更多LLM應用增進學習,甚至助力產業發展。