華為人工智能模型量化相關專利公佈，可減少AI模型佔用的內存

新浪科技訊 2月7日上午消息，天眼查App顯示，近日，華為技術有限公司申請的“人工智能模型的量化方法、處理系統和量化單元”專利公佈。

摘要顯示，量化單元可以基於運行AI模型的計算設備的各個計算單元的處理粒度，將量化矩陣分割成多個適用於各個計算單元的處理粒度的分塊量化矩陣。量化單元可以對分塊量化矩陣進行量化處理，以得到量化後的分塊量化矩陣，並存儲在存儲器中，可以減少AI模型佔用的內存。量化矩陣可以是權重矩陣，也可以是激活矩陣。量化單元量化過程中，是基於運行AI模型的計算設備的各個計算單元的處理粒度進行量化，並不需要基於張量級別進行離群值的統計，實現AI模型對權重矩陣和激活矩陣都可以進行實時量化。