本發明涉及一種面向目標檢測模型Faster R?CNN的自動量化方法,涉及深度神經網絡的量化和基于深度學習的強化學習領域。具體過程為:遍歷目標檢測模型Faster R?CNN,獲取可量化網絡層的索引,利用一個十維向量為每一層可量化的網絡構建狀態,創建目標檢測模型Faster R?CNN的存儲資源查詢表,評估未量化時目標檢測模型Faster R?CNN的準確率,利用基于深度學習的強化學習方法搜索最佳的量化策略,對量化后的目標檢測模型Faster R?CNN再訓練。該方法解決了傳統的基于規則的啟發式量化算法需要大量的人力工作為網絡的每一層設計最佳的量化位寬的問題。同時為了加快量化策略的搜索速度,將量化后模型所需的存儲資源融入到搜索過程中,跳過不必要的搜索,從而提高搜索速度。
聲明:
“面向目標檢測模型Faster R-CNN的自動量化方法” 該技術專利(論文)所有權利歸屬于技術(論文)所有人。僅供學習研究,如用于商業用途,請聯系該技術所有人。
我是此專利(論文)的發明人(作者)