芯方案 | 以超高性價比打造輕量級方案，酷芯AR9341加速AI Box賦能千行百業
[會員動態]
2022-12-30 18:03:54 編輯：yl
對于中國市場，能夠占領并融合紛繁多樣的長尾市場并為客戶帶來快速的應用落地，形成具有規模的商業模式，便能更快完成人工智能在千行百業的滲透，實現長久盈利。
集微網消息，合肥酷芯微電子有限公司（下稱“酷芯”）推出的高性能AI芯片AR9341，憑借強大的圖像處理能力、視頻編解碼能力、AI算力以及完整的生態鏈，廣泛適用于生活、教育、制造、出行、零售、社區、辦公等各類智慧場景。AR9341既可以作為獨立芯片直接用于智能終端設備，也可以作為高算力處理器，為小型服務器進行AI賦能。其中AI Box作為加持AI應用的重要載體之一，也是AR9341的重點耕耘領域，加速AI普惠化進程。
Q：在端側AI能力持續加強的背景下，AI Box作為中間環節，酷芯AR9341為何兼顧這一細分場景，其將解決哪些場景下的應用痛點？在酷芯看來，當前行業正處在向數智化時代加速演進的進程之中，在系統架構中云、邊、端相互協同，雖然在不同應用場景的要求下各有側重，但云、邊、端各自的AI能力是在同頻不斷增強的。對于酷芯來說，在2022年底這個時間點上面向行業推出基于自研AR9341芯片的AI Box整體解決方案，是基于以下幾種因素的整體考量：
豐富應用場景：智能安防、智慧社區、智慧零售、明廚亮灶、智慧教育、智能工廠等場景下AI Box的整體實戰應用已經得到行業的廣泛驗證，并且對產品工具鏈的易用性有新的需求；
時間節點利好：疫情放開，基建建設需求回歸，中國經濟提振需求強勁，2023年開始后續5年來看，AI Box市場將有一個穩定的增長態勢；
痛點夠“痛”，助力行業健康發展：設備采購、現場部署、系統集成、后續運維等的整體成本仍然較高，政府預算與企業投入有限的情況下，對TCO控制的要求會更高更靈活，行業更需要性能與性價比能夠兼顧的好用的產品。
迭代過程中累積的扎實經驗：第一代基于AR9201芯片的AI Box產品已經在智慧零售領域規模化應用；
基于酷芯Inside建立起的上下游生態合作體系，有利于行業發展預判、長期產品規劃、有利于創新技術資源的流動；
Q：AI Box的另一核心是算法，AR9341將如何支持業內數量眾多的算法植入？其算法生態（兼容性）如何？又將如何確保數據結構化的準確性？AR9341采用異構數據平臺架構，集成有4顆四核A53處理器，一顆單核CEVA XM6@1GHz DSP以及一顆ISP。視頻處理能力方面，AR9341在支持H.264、H.265編解碼能力的同時，可同步處理8路1080P全高清實時視頻流，AR9341還優化了3D降噪算法以及包括HDR在內迭代數據算法，不僅能提供高質量視頻流處理能力，還支持900萬@60fps等高端應用。針對AI Box的高算力需求，AR9341集成有一顆4 TOPS算力NPU，對數據處理采用的復用方法和壓縮算法，能夠大幅提升算力的利用效率，還降低了DDR的帶寬需求，有利于提升AI應用的效能，并降低開發成本。NPU同時支持對量化中的卷積、激活、規劃等操作進行加速，也支持對需要在DSP、CPU上運算的自定義算法進行加速，滿足各類網絡類型運算需求。以酷芯AR9341的AI支持能力為例，其基于異構架構，提供自研且完整的NPU工具鏈軟件包：
支持Caffe、TensorFlow、Pytorch等所有主流的AI框架，同時還支持業界普遍采用的ONNX框架作為中間表示層，如果客戶采用了一些當前工具鏈尚不支持的小眾AI框架，只需要轉換為ONNX模型，即可采用基于圖形化界面的NPU工具鏈，一鍵部署到AR9341芯片上；
支持對AI算法部署的前向推理仿真，在實際部署到芯片之前就可以獲得網絡性能、DDR帶寬需求、量化精度等客戶關心的關鍵性能參數，確?？蛻舻乃惴ㄔ谛酒蠈嶋H運行的速度和精度滿足客戶預期。
Q：AI Box的安裝環境往往較為惡劣，粉塵、潮濕、高溫等場景較為多見，AR9341具有哪些針對性的功能支持？AR9341經受住了各類嚴苛的可靠性測試，如在HTOL老化測試中，歷經500小時檢測仍能正常運行，該指標能很好支撐AI Box在密閉、高溫等惡劣環境中穩定運行，不僅能確保系統不間斷工作，還大幅降低了故障率，從而大幅降低了智能系統的后期運維成本。Q：相比DSP、FPGA、GPU等方案，AR9341的價值有哪些？相比同類AI SoC產品，AR9341具有哪些特色優勢？全自研&第一梯隊：作為一家核心架構、IP等全自研的公司，酷芯AI芯片的性能已處于國產第一梯隊；
落地應用廣，需求洞察精準：AR9341芯片的應用滿足國內市場對國內市場需求的國內市場對于端側、邊緣側的應用需求對性價比、能效比、易用性、規?；囊?；
更符合中國“國情”：DSP信號處理能力有局限性、FPGA考驗前期投入和開發周期、GPU專用性過強，都較難全面符合中國實際商業場景（智能安防、智慧社區、智慧零售、明廚亮灶、智慧教育、智能工廠等）的需求。
Q：對開發者來說，高性價比、易開發等需求是芯片選型的關鍵，對此，AR9341的表現是怎么樣的？能給客戶帶來哪些軟硬件方面的開發支持？
一站式解決方案：酷芯可以向客戶提供功能以及接口完善的開發板、軟件SDK、AI工具鏈、AI算法等一站式解決方案，從而支持客戶快速根據業務場景需求完成產品的設計、開發、生產和后續迭代。
工具鏈：
-簡潔易用的可視化圖形界面，支持Pytorch/Tensorflow/Caffe等多種框架，并可自定義網絡類型，用戶可以迅捷的完成算法到芯片的部署工作；
- 將客戶訓練好的離線浮點模型量化為可在板端直接運行的定點模型，并采用圖優化策略達到性能優化目的；
- 可在工具鏈端對量化精度以及上板性能進行仿真和測試，減少上板調試過程；
- 豐富的服務經驗：服務的客戶覆蓋了安防、車載、熱成像、圖傳、無人機、地面機器人、運動相機等行業的頭部客戶。
小視科技（江蘇）股份有限公司（以下簡稱“小視科技”，官網www.minivision.cn）作為智慧視覺全場景生態服務商，擁有豐富AI算法及產品開發經驗，其在給AI Box選型芯片時，主要從以下三方面進行考量：基于算法開發難度及成本、后期維護、版本升級等需求，對芯片的算法遷移是否友好進行考察；
經過嚴苛的測試評估，酷芯AR9341完全滿足小視科技對AI SoC芯片的選型需求，不僅如此，小視科技還對酷芯AR9341給予了極高的評價：NPU處理能力要優于市面上大多數同規格芯片方案，對發揮算法優勢能提供有力保障；
性價比方面，酷芯AR9341在ISP畫質上表現優異，基于該芯片的高性能和高性價比，小視科技選定AR9341開發AI Box。
雙方合作以來，小視科技已實現將旗下超30余種AI算法移植到AR9341平臺上，且在開發過程中，AR9341極低的開發門檻以及極高的開發效率優勢日漸凸顯。據了解，基于AR9341進行AI移植，小視科技AI Box算法調試可靠性高、移植速度快。還能憑借其豐富的算法，為AI Box提供靈活化、場景化的邊緣計算方案，加速AI在各行各業的普化應用。
酷芯AI SoC系列芯片支持方案商省時、省力開發AI應用的背后，離不開酷芯過去十多年的技術積累，形成強大生態矩陣：AI算法提供商：商湯科技、虹軟、格靈深瞳、阿里達摩院等；
感知供應商：高德紅外、睿創微納、索尼、豪威科技等；
多行業頭部廠商導入：智能安防、智能無人機、消費電子、熱成像、無線圖傳等。
發展至今，酷芯仍在持續擴大生態體系，以更好滿足各類AI需求，同時形成了智能感知、智能計算、智能傳輸3大技術支撐，并于年中順勢推出“酷芯Inside”生態品牌，旨在聚合產業鏈上下游企業共建AI生態服務體系，通過獨創性、高品質、高價值的生態位，以及聚合酷芯的技術資源，為行業發展提供強有力的AI支撐，共同推動AI生態快速發展。憑借酷芯十多年的產品和行業經驗，無論是在本身的芯片性能以及相關的工具鏈支持上，抑或是和合作伙伴共同攻克難題的高質高效的服務支持上，還是酷芯豐富的產品經驗和生態合作資源上，都為小視在開發新產品時可以更好的整合增效，大幅提高產品化效率。
（來源：酷芯微電子）
