<p id="xhh1v"><del id="xhh1v"></del></p><listing id="xhh1v"></listing>

<var id="xhh1v"></var>
<output id="xhh1v"></output>

        <ins id="xhh1v"><cite id="xhh1v"></cite></ins>
          <output id="xhh1v"><del id="xhh1v"><big id="xhh1v"></big></del></output>

          <dfn id="xhh1v"><form id="xhh1v"><output id="xhh1v"></output></form></dfn>

            合肥金星智控科技股份有限公司
            宣傳

            位置:中冶有色 >

            有色技術頻道 >

            > 化學分析技術

            > 面向邊緣設備深度學習模型推理的自適應批處理和并行調度系統

            面向邊緣設備深度學習模型推理的自適應批處理和并行調度系統

            1114   編輯:管理員   來源:中冶有色網  
            2023-03-19 07:36:07
            本發明提出了一種面向邊緣設備深度學習模型推理的自適應批處理和并行調度系統,包括決策模塊、動態批處理調度模塊、模型并行模塊、性能分析器四部分;決策模塊對深度學習模型的批處理和并行推理進行調度建模并為不同模型選擇合適的批處理大小和模型并行數量,動態批處理調度模塊進行批處理推理;模型并行模塊同時處理多個推理請求;性能分析器以在線方式實時收集邊緣設備的系統狀態;與傳統的啟發式和其他強化學習方法相比,本發明設計的基于最大熵強化學習的調度決策算法,在對系統吞吐量和推理延遲的權衡方面有著3.2~58%的性能提升,同時收斂速度是其他算法的1.8~6.5倍;此外,平均調度開銷只有其他算法的49%。
            登錄解鎖全文
            聲明:
            “面向邊緣設備深度學習模型推理的自適應批處理和并行調度系統” 該技術專利(論文)所有權利歸屬于技術(論文)所有人。僅供學習研究,如用于商業用途,請聯系該技術所有人。
            我是此專利(論文)的發明人(作者)
            分享 0
                     
            舉報 0
            收藏 0
            反對 0
            點贊 0
            標簽:
            化學分析
            全國熱門有色金屬技術推薦
            展開更多 +

             

            中冶有色技術平臺

            最新更新技術

            報名參會
            更多+

            報告下載

            赤泥綜合利用研究報告2025
            推廣

            熱門技術
            更多+

            衡水宏運壓濾機有限公司
            宣傳
            環磨科技控股(集團)有限公司
            宣傳

            發布

            在線客服

            公眾號

            電話

            頂部
            咨詢電話:
            010-88793500-807
            專利人/作者信息登記
            久爱国产精品一区免费视频_无码国模国产在线观看_久久久久精品国产亚洲A_国产综合精品无码

            <p id="xhh1v"><del id="xhh1v"></del></p><listing id="xhh1v"></listing>

            <var id="xhh1v"></var>
            <output id="xhh1v"></output>

                  <ins id="xhh1v"><cite id="xhh1v"></cite></ins>
                    <output id="xhh1v"><del id="xhh1v"><big id="xhh1v"></big></del></output>

                    <dfn id="xhh1v"><form id="xhh1v"><output id="xhh1v"></output></form></dfn>