基于多面體模型的矩陣乘法自動(dòng)混合精度優(yōu)化

摘要： 混合精度是計(jì)算機(jī)中的一種數(shù)值計(jì)算技術(shù)，通過(guò)將計(jì)算中的部分?jǐn)?shù)據(jù)類型從高精度轉(zhuǎn)換成低精度來(lái)提高計(jì)算效率。矩陣乘法在計(jì)算機(jī)科學(xué)和數(shù)學(xué)中有著重要而廣泛的應(yīng)用，在矩陣乘法中使用混合精度技術(shù)來(lái)加速計(jì)算過(guò)程是一項(xiàng)很有挑戰(zhàn)性的工作?，F(xiàn)有的混合精度優(yōu)化存在一些問(wèn)題，例如存儲(chǔ)開(kāi)銷大，必須在特定的硬件單元上實(shí)現(xiàn)，限制了模型或算法的部署選項(xiàng)并降低了其可移植性。針對(duì)上述問(wèn)題，提出并實(shí)現(xiàn)了基于多面體模型的... （共10頁(yè)）