6月10日，騰訊優(yōu)圖實(shí)驗室宣布正式開(kāi)源新一代移動(dòng)端深度學(xué)習推理框架TNN，通過(guò)底層技術(shù)優(yōu)化實(shí)現在多個(gè)不同平臺的輕量部署落地，性能優(yōu)異、簡(jiǎn)單易用。騰訊方面稱(chēng)，基于TNN，開(kāi)發(fā)者能夠輕松將深度學(xué)習算法移植到手機端G效的執行，開(kāi)發(fā)出人工智能 App，真正將 AI 帶到指尖。

GitHub鏈接： https://github.com/Tencent/TNN

輕量J部署，TNN助力深度學(xué)習提速增效

深度學(xué)習對算力的巨大需求一直制約著(zhù)其更廣泛的落地，尤其是在移動(dòng)端，由于手機處理器性能弱、算力無(wú)法多機拓展、運算耗時(shí)長(cháng)等因素常常導致發(fā)熱和G功耗，直接影響到App等應用的用戶(hù)體驗。騰訊優(yōu)圖基于自身在深度學(xué)習方面的技術(shù)積累，并借鑒業(yè)內主流框架優(yōu)點(diǎn)，推出了針對手機端的G性能、輕量J移動(dòng)端推理框架TNN。

TNN在設計之初便將移動(dòng)端G性能融入核心理念，對2017年開(kāi)源的ncnn框架進(jìn)行了重構升J。通過(guò)GPU深度調優(yōu)、ARM SIMD深入匯編指令調優(yōu)、低精度計算等技術(shù)手段，在性能上取得了進(jìn)一步提升。以下是MNN, ncnn, TNN框架在多款主流平臺的實(shí)測性能：