11月起,地平線聯合智猩猩策劃推出地平線「你好,開發者」工具鏈技術專場,目前前兩講已完結。地平線工具鏈產品規劃負責人秦暢、地平線工具鏈量化訓練工具研發負責人屈樹謙兩位技術專家,分別以《如何打造“好用”的自動駕駛智能芯片算法工具鏈》、《地平線量化訓練工具的設計與精度調優經驗》為主題進行了直播講解,累計收看人次11000+。
現如今神經網絡模型的規模越來越大,深度、參數量指數級增長,對計算性能、存儲和網絡帶寬要求也飛速提升。而將訓練好的模型直接部署到自動駕駛車輛這類資源受限的設備上顯然不太現實,往往需要通過壓縮技術縮小模型尺寸,從而實現更低的功耗和更快的推理速度。量化則是目前工業界最常用的的模型壓縮方法之一。
要實現高質量的量化并不容易,需要從模型準備、模型驗證、量化策略、自定義算子量化的支持、量化性能與精度評估等多個維度進行綜合考量。對于一款量化工具而言,需要能夠幫助開發者在精度不損失或極少損失的情況下,高效、快速的完成上述操作,實現模型量化,加速模型部署和推理效率。
地平線天工開物算法工具鏈提供了量化感知訓練(QAT)和訓練后量化(PTQ)兩種量化方式。在地平線「你好,開發者」工具鏈技術專場第2講中,地平線工具鏈量化訓練工具研發負責人屈樹謙針對量化感知訓練(QAT)進行了深入講解。
12月6日19點,地平線聯合智猩猩推出的新一期地平線「你好,開發者」工具鏈技術專場將開講。此次專場聚焦地平線天工開物算法工具鏈提供的另一種量化方式——訓練后量化(PTQ),由地平線模型轉換和量化工具負責人何道遠主講,主題為《地平線模型轉換與訓練后量化部署》。
何道遠首先會對模型轉換進行介紹,之后講解如何進行模型量化誤差分析。接下來,他會重點講解模型訓練后量化,并對模型全整型量化進行解讀。

專場內容
主題:地平線模型轉換與訓練后量化部署
提綱:
1、模型轉換介紹
2、模型量化誤差分析
3、模型訓練后量化(PTQ)
4、模型全整型量化
主講人
何道遠,地平線工具鏈模型轉換和量化工具負責人,畢業于浙江大學,十余年專注于神經網絡模型加速優化。2019年加入地平線,負責工具鏈模型轉換和量化部署,先后參與地平線征程3、征程5、征程6多代芯片和工具鏈的研發工作。
課程信息
直播時間:12月6日19:00
直播地點:智猩猩直播間