基于IPEX-LLM的本地輕量化課程教學智能輔助系統(tǒng)
摘要: 提出并實現(xiàn)了一個本地輕量化課程教學智能輔助系統(tǒng).該系統(tǒng)利用IPEX-LLM (Intel PyTorch extention for large language model)加速庫,在計算資源受限的設備上高效部署并運行經(jīng)過QLoRA(quantum-logic optimized resource allocation)框架微調(diào)的大語言模型,并結(jié)合增強檢索技術(shù),實現(xiàn)了智能問答... (共11頁)
智能輔助 計算資源受限 IPEX-LLM 微調(diào) 增強檢索
開通會員,享受整站包年服務