緣起深圳安博會
2017年11月1日，深圳安博會的現(xiàn)場，雖然展會進行到了最后一天還是人頭攢動。AI毫無疑問引爆了整個安博會。早就聽說深鑒科技的大名，在空閑時間趕緊按照我事先列好的AI企業(yè)名單來到了深鑒科技的展位，他們的商務經(jīng)理Fleda Liu很熱情的招待了我們，耐心仔細的解釋促使我寫一篇文章，我向她表明我自媒體的身份，打算寫一篇關(guān)于深鑒科技的文章，我要信守我的承諾，就有了這一篇文章。
一個好漢三個幫
詳究深鑒科技的發(fā)展歷程，就是一個好漢三個幫的故事。
好漢姚頌1992年出生，深鑒科技創(chuàng)始人兼CEO。大概是長沙人，因為姚頌第一次見諸報端，2008年就讀長沙市一中的他被保送清華大學。
媒體報道高中時期的姚頌還是有幾分靦腆，笑起來圓圓的臉龐上還有兩個酒窩。據(jù)姚頌自己說“從小學二年級開始到初三都是學的數(shù)學奧賽。進入高一時，他非常喜歡物理，同時也仰慕學校的金牌物理教練黃洪才，聽說他帶三屆學生拿了4塊金牌，于是臨時決定轉(zhuǎn)攻物理奧賽。”而他不負眾望獲得全國中學生物理競賽二等獎，含金量極高的全國聯(lián)賽一二等獎都可保送清華、北大。除了物理，姚頌還是多才多藝的，吉他、繪畫、籃球都是他的最愛。
得知保送后，姚頌開始自學C語言編程，也堅持學習英語。
2011年進入清華大學后，姚頌就讀電子系，在大一的時候就天賦初現(xiàn)。2012年年初進入汪玉博士的實驗室，從三維集成電路設(shè)計、硬件安全等CAD方面的研究開始，后轉(zhuǎn)而鉆研計算機體系結(jié)構(gòu)。2014年7月前往斯坦福大學電子系進行2個月的LLVM編譯器開發(fā)實習。2014年9月以后在微軟亞洲研究院實習（上篇文章報道印奇也是在這里實習），方向是設(shè)計與開發(fā)應用于必應搜索引擎專用加速處理器的專用編譯器，正是在此奠定了姚頌的創(chuàng)業(yè)基礎(chǔ)和方向：深度學習硬件。大學期間他還擔任電子系科協(xié)主席，舉辦過一系列科創(chuàng)賽事，因此大三時就被同學稱為“姚老板”（現(xiàn)在是名副其實，這是后話），主要成就是獲得ACM學生科研競賽金牌、“星火計劃”第八期成員。
2015年畢業(yè)之際，姚頌獲得卡內(nèi)基梅隆大學的博士Offer（當然還有高額學術(shù)獎金），雖然父母反對他還是放棄了這個機會，創(chuàng)業(yè)和深造之間他選擇創(chuàng)業(yè)。
2015年的清華學子想必很躁動，做出一番事業(yè)深入人心，姚頌也不例外。將最前沿的深度學習理論應用到產(chǎn)品中，他們看到了其中的商業(yè)價值和歷史機遇，姚頌的導師早在2013年就布局以機器智能為核心的硬件加速研究，大洋彼岸另一位深度學習的專家也在尋找創(chuàng)業(yè)機會。清華大學對技術(shù)和產(chǎn)業(yè)的孵化作用，就好比斯坦福和麻省理工。這類學校的技術(shù)可以孵化出來很多現(xiàn)在著名的科技企業(yè)，那清華可不可以？這是他們的目標。
2015年7月，姚頌畢業(yè)之際，隨著實驗室算法做的越來越好，合作的項目也在不斷增加的情況下，技術(shù)的商業(yè)落地情況卻始終不能讓姚頌滿意，姚頌判斷是時候成立一家公司來解決這個問題了。“2015年11月28日，我們幾個聯(lián)合創(chuàng)始人一拍即合，準備創(chuàng)業(yè)。第二天我就拉著姚頌開始寫B(tài)P，清華很支持創(chuàng)新創(chuàng)業(yè)，人工智能又需要有基礎(chǔ)的硬件平臺，當時我們的技術(shù)可演示，就覺得天時地利人和。”另外一個創(chuàng)始人事后回憶，市面上也流傳玩笑說：清華這撥人上了清華以后，畢業(yè)找個好工作，培養(yǎng)一個娃，再上清華，就這樣做輪回。姚班之后，這種情況大大改觀。姚頌是清華大學“星火計劃”八期成員，學校允許大三、大四的學生申請，這樣深鑒科技就在清華“創(chuàng)+”孵化項目的支持下開始創(chuàng)業(yè)，用他自己的話說，是“比較特殊的一期”。
2016年3月，姚頌與來自清華和斯坦福的學者們聯(lián)合創(chuàng)立深鑒科技，目前專注于利用深度學習提高運算效率，為AI提供落地處理器平臺和SDK。但創(chuàng)業(yè)都沒有一帆風順的，據(jù)姚頌回憶“在創(chuàng)業(yè)前融資那段是特別黑暗的時期，但同時也是對他整個人提升最大的時期。”公司成立之后，面臨諸多挑戰(zhàn)，姚頌身兼CEO、CTO、CFO和COO多個角色但不能間顧，想必是手忙腳亂、溝通不暢。當然對于一名剛剛畢業(yè)的學生而言，自然有個自我學習的過程，初始團隊能夠隨著企業(yè)業(yè)務的壯大同步成長，是所有偉大企業(yè)的共同特征。
好在這是一只聰明大腦組成的隊伍，雖然團隊年輕卻充滿活力和學習能力。創(chuàng)始初期深鑒擁有8名員工，3位創(chuàng)始人、2位有工作經(jīng)驗的工程師、3個姚頌的同學，然而這8個人并沒有全部堅持下來，中途有人離隊，初創(chuàng)AI企業(yè)大多數(shù)面臨了更大的困境，團隊要能夠抵住壓力、不斷學習，還要將技術(shù)盡快轉(zhuǎn)換成產(chǎn)品落地，而時間卻是以天為單位進行計算的，人工智能的發(fā)展速度實在是太快了。
最初深鑒的產(chǎn)品定位是無人機，很明顯大疆是市場的絕對領(lǐng)導者，而且數(shù)量級也在百萬臺，留給深鑒科技的機會并不多。后來決定專注于深度學習處理器領(lǐng)域，深度學習處理器一定要經(jīng)過模型壓縮、模型定點化、編譯三大步驟，并且一定要擁有針對神經(jīng)網(wǎng)絡(luò)的專用結(jié)構(gòu)。發(fā)現(xiàn)問題之后的團隊決定攻克難關(guān)，經(jīng)過努力，另一位創(chuàng)始人也成功研發(fā)了一種名為“深度壓縮”的技術(shù)，它不僅可以將神經(jīng)網(wǎng)絡(luò)壓縮數(shù)十倍而不影響準確度，還可以使用“片上存儲”來存儲深度學習算法模型，減少內(nèi)存讀取，大幅度減少功耗，從而奠定了深鑒的技術(shù)基礎(chǔ)。經(jīng)過轉(zhuǎn)型深鑒科技終于有了清晰的使命“開拓人工智能的應用邊界，開發(fā)壓縮、編譯、加速三位一體的自動化流程，實現(xiàn)算法、軟件、硬件協(xié)同優(yōu)化，賦予世界每個節(jié)點以智慧。”
聚焦哪些行業(yè)深鑒考慮過很多，無人機、安防、自動駕駛、醫(yī)療設(shè)備、家居物聯(lián)網(wǎng)等，最終選擇轉(zhuǎn)型做安防（當然無人機的積累并沒有放棄）。基于無人機技術(shù)的積累，著手開發(fā)壓縮、編譯、加速三位一體的自動化流程，試圖實現(xiàn)算法、軟件、硬件協(xié)同優(yōu)化，為開發(fā)者打造高效的深度學習DPU平臺（Deep Learning Processing Unit，深度學習處理單元）。姚頌的團隊在適應AI熱浪的過程中也是花了大力氣的，不僅從事算法層面的研究、還關(guān)注技術(shù)在硬件層面的應用，高度聚焦算法壓法，這讓深鑒明顯有別與市面上的AI初創(chuàng)企業(yè)，獨樹一幟。
2018年起始之時，深鑒科技已經(jīng)擁有六款產(chǎn)品：深度學習開發(fā)SDK DNNDK、人臉檢測識別模組（前端）、人臉分析解決方案（后端）、視頻結(jié)構(gòu)化解決方案（人/車分析）、深鑒ARISTOTLE架構(gòu)平臺、語音識別加速方案。而DNNDK要對標英偉達的TensorRT，DNNDK提供了一套完整全流程軟件工具鏈，涵蓋了神經(jīng)網(wǎng)絡(luò)推理（Inference）階段從模型壓縮、異構(gòu)編程、編譯到部署運行的全流程支持。降低了深度學習算法工程師和軟件開發(fā)工程師DPU平臺深度學習應用開發(fā)的門檻和部署難度，縮短算法部署到硬件的周期，加快了AI產(chǎn)品研發(fā)過程。當然姚頌還有更大的雄心“建立人工智能的軟件生態(tài)環(huán)境、活躍的社區(qū)才有更本質(zhì)的發(fā)展空間。”
根據(jù)媒體報道，在AI芯片大熱的如今，預計深鑒科技自主研發(fā)了“聽濤”和“觀海”AI芯片將于2018年面世，留給深鑒的時間并不多，“加速快跑，在巨頭推出落地產(chǎn)品之前，把自己的產(chǎn)品落地并實現(xiàn)商業(yè)化。”，目前，深鑒已經(jīng)和三星在存儲方面達成合作，加速深鑒邁進商業(yè)化階段，在金融領(lǐng)域深鑒和螞蟻金服共同開拓市場和應用場景。
最近三年，得益于GPU在深度學習的應用，中國誕生了一大批人工智能企業(yè)，包括人臉識別四大獨角獸：曠視、云從、商湯和依圖，而相比前者，深鑒的名氣要小很多。2017年2月，創(chuàng)始人一篇論文《ESE: Efficient Speech Recognition Engine with Sparse LSTM onFPGA》獲得了FPGA大會最佳論文獎，使得深鑒科技被國內(nèi)外媒體大面積曝光，而深鑒科技的業(yè)務也逐漸走向正軌。
2017年入選福布斯中國30位30歲以下精英榜，這一年姚頌25歲。
汪玉老師
企業(yè)的成功離不開團隊，好漢姚頌就有三個幫手：汪玉（創(chuàng)始人）、韓松（首席科學家）和單羿（CTO）。
姚頌大一進入汪玉的實驗室，作為姚頌的導師，汪玉博士出生于1982年，畢業(yè)于清華大學。正是因為汪玉兩位清華學長韓松和單羿也加入了深鑒科技，四個合伙人對深度學習有不同的細分研究，汪玉負責帶領(lǐng)學生重點研究硬件加速、韓松擅長處理器芯片和壓縮技術(shù)、姚頌除了做研究院更多承擔了管理者的智能。
深鑒科技能夠被創(chuàng)立，少不了電子系汪玉博士的功勞。汪玉本是清華大學長聘副教授，本著同在清華姚班的影響，汪玉也大抵希望自己的團隊也能夠走出優(yōu)秀的創(chuàng)業(yè)企業(yè)，實現(xiàn)產(chǎn)學研的結(jié)合。1996年初中畢業(yè)的汪玉就以優(yōu)異成績考入“全國理科實驗班”，進入了清華大學附屬中學學習，此后就一直未離開清華。清華大學電子工程系是有名的高分、難考，而學霸們都是因為這個原因選擇它，汪玉在電子系讀到博士畢業(yè)，并未選擇留美深造，最終選擇留校成為一名助理教授，放棄了一直研究的集成電路設(shè)計轉(zhuǎn)型“硬件加速”，汪玉也有在微軟的實習經(jīng)歷，具備天然的創(chuàng)業(yè)條件，但汪老師最終還是選擇教書育人，教育是更偉大的事業(yè)，具備長期效應而不僅僅是金錢的回報。后來汪玉老師創(chuàng)建了實驗室，其中的學生就包括了姚頌，正是在這個時期，他們開始了對深度學習軟件的深入研究。當然最后汪老師經(jīng)不住姚頌勸說，最終還是走出校門和自己的學生們聯(lián)合成立了深鑒科技，當然老師的身份還是保留了。
汪老師的想法顯然更久遠一些“我們希望所有帶攝像頭的地方，或者需要語音交互的地方，都有我們的產(chǎn)品存在。”這是一個巨大的市場，深鑒有別于同行，著力于打造基于DPU的端到端的深度學習硬件解決方案，除了承載在硬件模塊（訂制的PCB板）上的DPU的芯片架構(gòu)外，還打造了針對該架構(gòu)的DPU壓縮編譯工具鏈SDK，深鑒科技不會只做“一家賣芯片的公司”。
汪玉在接受媒體采訪時曾說：“創(chuàng)新是一個企業(yè)的原動力。然而，在追求創(chuàng)新的過程中，時間成本與市場需求是萬萬不可忽視的關(guān)鍵因素，當一項技術(shù)的應用離現(xiàn)實太遠、而市場回報又十分的不確定，只一味的追求企業(yè)‘自嗨’，那結(jié)果便可想而知了。”如今面對客戶，汪老師就變成企業(yè)主，更加關(guān)于產(chǎn)品的迭代和用戶的需求，而不限于學術(shù)研究的某項性能或者參數(shù)。汪玉很清楚自己的責任，也很享受當前的狀態(tài)。他相信終有一天，深鑒科技可以改變?nèi)藗兊纳睿菚r的他也將拿著深鑒科技所帶來的利潤反哺清華。
韓松是深鑒科技聯(lián)合創(chuàng)始人
本科畢業(yè)于清華大學電子工程系、是斯坦福大學電子工程系博士，獲得ICLR2016最佳論文、FPGA2017最佳論文，一直引領(lǐng)世界深度學習壓縮與硬件加速研究。韓松博士提出的深度學習部署方案，跟傳統(tǒng)的方案相比，可以使得推理更快、能耗更低。該項工作聚焦于使用 LSTM進行語音識別的場景，結(jié)合深度壓縮（Deep Compression）、專用編譯器以及 ESE 專用處理器架構(gòu)，在中端的 FPGA 上即可取得比 Pascal Titan X GPU 高3倍的性能，并將功耗降低3.5倍。這正式韓松厲害的地方，也是深鑒的。
韓松認為創(chuàng)業(yè)是一個很自然的過程，在實驗室做的研究成果到了成熟的地步，如果遇到合適的商業(yè)機會，一拍即合，一切就水到渠成了。然后就可以去和風投講，風投一般會對校園里研究出來的黑科技很感興趣，相比起門檻低一點的商業(yè)模式的創(chuàng)新，更加具有吸引力。
市面上關(guān)于CTO單羿的消息很少，這里就不加詳述了。單羿1985年出生，2004年考入清華大學電子工程系，是汪玉老師的第一個博士生，先后任職百度深度學習研究院高級工程師、地平線機器人FPGA技術(shù)負責人。
基礎(chǔ)數(shù)據(jù)分析
深鑒科技成立于2016年3月3日，員工約有70+人（初創(chuàng)企業(yè)，人數(shù)在不斷增長中），先后融資5000萬+美元，尚未透露收入和利潤信息，專注于安防領(lǐng)域的深度學習，以深度學習芯片名揚天下。
深度學習的大旗
2016年6月在OpenPOWER峰會上，F(xiàn)PGA芯片領(lǐng)頭企業(yè)Xilinx介紹了有關(guān)深度學習處理器的新方法，而其中有關(guān)技術(shù)的部分大多來自于深鑒科技。2017年2月，在頂級學術(shù)大會FPGA 2017會議上，深鑒科技又成為該屆最佳論文獎的唯一獲得者。姚頌也承認他們很幸運：“不得不說，我們真的很幸運，把剛剛嶄露頭角的‘深度學習’定為研究方向，在AI即將爆發(fā)之際創(chuàng)立的深鑒科技，如果早誕生三年，我們可能一直無法突破技術(shù)與產(chǎn)品之間那一層薄薄的窗戶紙。同樣，當我們每次取得重大突破的時候，都好像在不斷觸及心里那個‘深度’的極限。”
算法的實現(xiàn)高度依賴于高性能的計算能力，而圖形處理器（GPU）、現(xiàn)場可編程門陣列（FPGA）、專用集成電路（ASIC）扮演著重要的角色。GPU可以平行處理大量瑣碎的信息，代表廠商是Nvidia；而FPGA憑借其可編程專用性、高性能、低功耗的特征，同樣在深度學習應用中展現(xiàn)獨特的優(yōu)勢，代表廠商為英特爾、賽靈思（Xilinx）。在中國提供基于FPGA解決方案的代表廠商就是深鑒科技。
ICLR（the International Conference on Learning Representations）大會是近年來在深度學習領(lǐng)域影響力飆升的行業(yè)會議，旨在討論如何更好的學習有意義、有價值的數(shù)據(jù)，從而應用于視覺、音頻和自然語言處理等領(lǐng)域。大會聯(lián)合主席為深度學習領(lǐng)軍人物Yoshua Bengio和Yann LeCun。在2016 年5月舉辦的ICLR大會上，有兩篇論文獲得了“2016年ICLR最佳論文”獎。一篇來自AlphaGo開發(fā)者谷歌DeepMind，另一篇則來自深鑒科技首席科學家韓松，他在論文中解釋了如何利用“深度壓縮”（Deep Compression）技術(shù)，將神經(jīng)網(wǎng)絡(luò)壓縮數(shù)十倍而不影響準確度，從而降低計算復雜度和存儲空間。可見深鑒科技在深度學習領(lǐng)域的影響力。
深鑒科技的英文名為DeePhi，而“DeePhi”源于“Deep Learning”與“Philosophy”，深鑒相信只有從根源理解和探索深度學習，從底層不斷地創(chuàng)新，才能驅(qū)動更多的人工智能技術(shù)走向應用，可見深鑒科技的“姚老板”是要扛起深度學習這面大旗的。
技術(shù)之路
在探討深鑒科技的技術(shù)之路前，先來了解英偉達。人工智能性技術(shù)革命甚至可以比肩第三次工業(yè)革命，被稱之為第四次工業(yè)革命，而人工智能的本質(zhì)之爭正是芯片之爭，誰能掌握AI芯片領(lǐng)域的主導權(quán)，誰就有可能領(lǐng)先世界，這波AI熱潮成績了英偉達。2008年那一年，英偉達內(nèi)憂外患，大客戶AMD收購了ATI，形成了CPU整合GPU的新Solution，因此AMD和英偉達由合作變?yōu)楦偁庩P(guān)系，要命的是Intel也終止了和英偉達的合作，兩個大客戶的丟失，擺在英偉達面前的只有高端獨立顯卡一條路，屋漏偏逢連陰雨，高端顯卡因質(zhì)量問題遭到諸多質(zhì)疑，股票暴跌、營收大減，由此進入4年的蟄伏期。事情的轉(zhuǎn)機出現(xiàn)在2012年，英偉達將CPU芯片用于斯坦福大學深度學習項目上，開拓顯卡用于圖像計算以外的用途，終于釋放了GPU芯片的大規(guī)模并行計算能力，成為人工智能發(fā)展的底層基礎(chǔ)。之后的英偉達勢不可擋，市值2年內(nèi)暴漲了10倍并很快突破千億美元市值，這都歸功于GPU在AI領(lǐng)域的應用。有人甚至斷言“沒有GPU就沒有英偉達，而沒有英偉達，就沒有現(xiàn)今這一波人工智能浪潮！”。不夸張的說，現(xiàn)今世界上所有涉足人工智能的公司幾乎都在使用英偉達的GPU芯片。
接下來還需要闡述一個基本概念：FPGA（現(xiàn)場可編程門陣列，F(xiàn)ield－Programmable Gate Array）。簡而言之，這是一種程序驅(qū)動邏輯器件，就像一個微處理器，其控制程序存儲在內(nèi)存中，加電后，程序自動裝載到芯片執(zhí)行。FPGA作為專用集成電路領(lǐng)域中的一種半定制電路而出現(xiàn)的，既解決了全定制電路的不足，又克服了原有可編程邏輯器件門電路數(shù)有限的缺點。
FPGA的“可編程”指的是可以用戶通過重新配置邏輯資源來不停嘗試，通過編輯不同的配置文件把同一個FPGA進行不同屬性的設(shè)置，直到獲得最佳方案，非常靈活。而深度學習作為一門尚在發(fā)展中的技術(shù)，F(xiàn)PGA的這種靈活、可編程、允許試錯的特性對它來說是非常友好的，這是第一點。除了靈活性外，第二點則是功耗，一塊GPU的功耗多數(shù)超過100W，明顯不適用與無人機、攝像機這樣功耗敏感型硬件，而FPGA的功耗可以做到3W、4W。第三點則是延遲問題，雖然GPU的運行速度比FPGA快，但是GPU的高性能來自于它的并行處理能力，訓練時效果很好，但在應用時一次性只能處理一張輸入圖像，優(yōu)勢不能完全發(fā)揮，造成延時。正是這三個特點，不少大公司開始逐漸注意到維護、采購、散熱、內(nèi)部損耗成本等問題，開始逐漸將FPGA引入自己的系統(tǒng)內(nèi)，比如亞馬遜和賽靈思合作，推出了基于FPGA的亞馬遜云服務、百度大腦使用了基于FPGA版的AI專有芯片、騰訊云也發(fā)布FPGA云服務器等。
FPGA方案也有缺點，那就是開發(fā)難度。FPGA需要使用硬件描述語言（Verilog或VHDL）而不是計算機語言，程序員需要在FPGA公司提供的編譯器基礎(chǔ)上進行二次開發(fā)，開發(fā)難度大、開發(fā)周期長等問題，這也是很多公司不愿意使用它的原因。深鑒相當于給這些不愿意直接使用FPGA的廠商提供了一個帶接口的黑盒子，廠商把自己的算法模型訓練好之后，將模型與數(shù)據(jù)通過接口傳入，由深鑒科技進行壓縮和編譯，生成的指令可以在FPGA上運行，廠商直接得到需要的輸出結(jié)果。據(jù)此深鑒科技提出了“DPU”這一概念，DPU相當于把壓縮、編譯、執(zhí)行的整個“黑盒子”過程具象化，最后的落地形態(tài)是一塊板卡。
姚頌表示，現(xiàn)在很多公司在做各種各樣的算法，是最快的切入方式，但落地受限于性能、功耗和成本因素。“深鑒科技的產(chǎn)品將以ASIC級別的功耗，來達到優(yōu)于GPU的性能，可把它稱作DPU，深鑒的產(chǎn)品將會基于FPGA平臺。” 深鑒科技目前的開發(fā)板功耗在4瓦左右，能夠做到比一個15至20瓦的GPU性能高出兩倍。“相當于原來是先訓練一個算法，然后再編譯到CPU或GPU上運行，現(xiàn)在你也可以通過我們的編譯器，把訓練好的算法編譯到DPU就可以直接運行了，在同樣的開發(fā)周期內(nèi)，獲得相對于GPU一個數(shù)量級的能效提升。”姚頌說。
深鑒科技最早做研究時，這還是一個“冷門”的方向，國內(nèi)學界也僅有中科院的陳云霽博士在做類似的研究。但時至今日，深度學習專屬芯片已經(jīng)成為一種逐漸被認可的方向。前百度IDL創(chuàng)始人余凱博士2015年創(chuàng)立了地平線機器人，國內(nèi)中科院背景的寒武紀科技已經(jīng)做出深度學習芯片，利用專有硬件實現(xiàn)深度學習及其相關(guān)應用，已是大勢所趨。
現(xiàn)有的GPU采用“讀—算—寫 ”這樣的處理流程，只適用于深度學習算法的訓練，在應用層面性能低下且功耗很高。利用專有硬件實現(xiàn)深度學習及其相關(guān)應用，則能高性價比解決性能與功耗的問題。2016年1月，深鑒科技就已經(jīng)設(shè)計出一套基于DPU的一整套深度學習硬件解決方案，包括DPU的芯片架構(gòu)、DPU編譯器、硬件模塊（訂制的PCB板）三部分。直接呈現(xiàn)的產(chǎn)品就是硬件模塊，共有嵌入式端和服務器端兩款。
產(chǎn)品功耗的降低和性能的提升主要依賴于算法上的創(chuàng)新和芯片結(jié)構(gòu)的創(chuàng)新。深鑒首席科學家韓松一直在研究“深度壓縮”技術(shù)，可以將神經(jīng)網(wǎng)絡(luò)壓縮數(shù)十倍而不影響準確度，可以使用片上存儲來存儲深度學習算法模型，減少內(nèi)存讀取，從而大幅度減少功耗。這一研究也得到了學界的認可，已經(jīng)被選為2016年ICLR兩篇最佳論文之一。
在芯片結(jié)構(gòu)上，深鑒重新設(shè)計了專門的DPU架構(gòu)及編譯器。用戶可以正常通過GPU訓練深度學習模型，并直接將模型編譯到DPU指令集，指令直接下載到DPU上，使得深度學習算法的運行效率提高。另外還打造了針對該架構(gòu)的DPU壓縮編譯工具鏈SDK，而工具鏈里面的軟硬件協(xié)同優(yōu)化則是深鑒科技的一大優(yōu)勢。
現(xiàn)階段，深鑒科技正在打造云加端的深度學習應用生態(tài)，選擇的應用領(lǐng)域都是大體量市場里具有提升空間的重要玩家。其中嵌入式端的產(chǎn)品將主要應用在無人機、安防監(jiān)控、機器人、AR等領(lǐng)域，服務器端的產(chǎn)品將主要面向大型互聯(lián)網(wǎng)公司的語音處理、圖像處理等。
不過，由于DPU是專門針對于深度學習算法設(shè)計，其應用范圍只能是深度學習算法，而不像CPU與GPU那樣通用。因此，在一些應用場景中，需要以DPU為核心，輔之以非機器學習或者非深度學習的方式相結(jié)合來打造完整系統(tǒng)。
深鑒科技的未來技術(shù)之路將更加的崎嶇。繼續(xù)加大核心技術(shù)的研發(fā)和投入，重點加強在安防和數(shù)據(jù)中心行業(yè)的產(chǎn)品打造與市場推廣，為安防領(lǐng)域和行業(yè)用戶帶來智能化的變革。另一方面，將深度學習圖像和語音處理上的成果落地到更多的應用場景，為更多行業(yè)提供最前沿的、端到端式的人工智能解決方案，這是深鑒目前的選擇。
融資+燒錢
深鑒科技天使輪之前，阿爾法狗還沒有引起人們對人工智能的關(guān)注，姚頌團隊專注技術(shù)研發(fā)，做出的成果更不知道以怎樣的方式讓社會上的人知道。姚頌坦言漫長的大半年內(nèi)，深鑒科技在外界并沒有太多的名聲，那段時間融資極其不順利。
2016年4月，姚頌先后約見了金沙江創(chuàng)投和高榕資本兩家投資機構(gòu)。出乎意料的是，一周內(nèi)便拿到了這兩家的天使輪融資。彼時的金沙江創(chuàng)投已經(jīng)在人工智能領(lǐng)域盤旋多時，合伙人予彤認為，人工智能初期解決算法能力問題，建立通用的基礎(chǔ)設(shè)施非常重要。更重要的原因天使輪最靠譜的就是熟人投資熟人，予彤同樣出身于清華大學電子系，認識汪玉以及韓松，金沙江創(chuàng)投比其它一線基金有更多的機會和維度去深度感知深鑒科技的基礎(chǔ)技術(shù)、企業(yè)氛圍等。“中國有做這件事的團隊，所以我們直接投了。”其后，2016年5月獲得500萬美元天使輪融資，投資方為金沙江創(chuàng)投和高榕資本。拿到融資后，姚頌安靜下來，開始帶領(lǐng)團隊朝著既定的計劃往前走。前文述及他們選擇了兩條路線：技術(shù)線、產(chǎn)品線，直到轉(zhuǎn)型安防成功之后，路線才定下來。深鑒科技在技術(shù)和產(chǎn)品層面的同時推進，很快讓其迎來接下來的兩輪融資，2017年5月數(shù)千萬A輪融和2017年10月A+輪約4000萬美元融資。
A 輪融資投資方包括賽靈思（Xilinx）、聯(lián)發(fā)科（MediaTek）、清華控股、方和資本，原有投資方金沙江創(chuàng)投、高榕資本跟投，具體金額不詳。A+輪融資由螞蟻金服與三星風投領(lǐng)投，招商局創(chuàng)投與華創(chuàng)資本跟投。其中A+輪資方之一華創(chuàng)資本的投資人公元對姚頌印象深刻，“他表現(xiàn)出來的為人處事的成熟、對商業(yè)思考的成熟以及對適應事物的反應速度，都遠超同齡人。”金沙江創(chuàng)投的予彤也給了同樣的評價。
值得一提的是，除了資本方和產(chǎn)業(yè)合作伙伴捧場，清華大學副校長，以及眾多清華教授也都在融資現(xiàn)場站臺。因為深鑒具有濃厚的“清華DNA”。創(chuàng)始團隊中，姚頌、汪玉，韓松等，均為清華校友。
股東及出資信息
工商信息顯示深鑒股東及出資信息如下表所示。姚頌是大股東，未被稀釋前持股比例24.12%；汪玉是第二大股東，未被稀釋前持股比19.60%；韓松持股10.34%。
產(chǎn)品和解決方案
在了解深鑒科技的產(chǎn)品線和解決方案之前，需要先了解深度學習。深度學習分為訓練（Training）和應用（Inference）兩部分，深鑒科技主要解決應用問題。簡單來說就是企業(yè)將自己的深度學習算法模型訓練好之后，由深鑒科技將其壓縮20-50倍并編譯，最終產(chǎn)品以板卡形式呈現(xiàn)。
深鑒科技基于的是FPGA平臺：與擅長訓練的GPU相比，F(xiàn)PGA功耗更小、整體性價比更高，更適合用于應用。但是由于FPGA的開發(fā)難度高、周期長，因此很多公司不愿使用。深鑒科技相當于給用戶提供了一個黑盒子，企業(yè)只需要提供輸入模型和數(shù)據(jù)，由深鑒科技提供應用層的FPGA解決方案。
2017年，深鑒科技著眼于智慧城市與智能數(shù)據(jù)中心兩大市場，通過包括板卡模組、FPGA、編譯器、深度壓縮等在內(nèi)的完整解決方案，讓用戶輕易地將人工智能能力植入到大大小小的產(chǎn)品中。
2017年，深鑒科技發(fā)布了六款產(chǎn)品。分別為視頻結(jié)構(gòu)化解決方案（DP-2100-O16）、人臉分析解決方案（DP-2100-F16）、人臉檢測識別模組（DP-1200-F1）、深鑒Aristotle架構(gòu)平臺、深鑒深度學習開發(fā)SDK（DNNDK，Deep Neural Network Development Kit）以及深鑒語音識別加速方案（DP-S64）。其中前五款均為視頻監(jiān)控應用及相關(guān)解決方案。其中DNNDK是深鑒科技面向AI異構(gòu)計算平臺DPU（Deep-Learning Processor Unit，深度學習專用處理器）自主研發(fā)的國內(nèi)首款原創(chuàng)深度學習開發(fā)SDK。深鑒CEO姚頌表示，DNNDK能極大降低DPU平臺深度學習應用開發(fā)門檻和部署難度，并大大縮短算法部署到硬件的周期，提速AI產(chǎn)品研發(fā)過程。“DNNDK是國內(nèi)首個深度學習開發(fā)套件，可以對標英偉達TensorRT。”
深鑒的產(chǎn)品和解決方案大體包括以下部分（不限于）：
智能安防：智能IPC-深度學習加速模塊、智能NVR/DVR-深度學習加速模塊、視頻結(jié)構(gòu)化服務器-深度學習加速卡、人臉檢測識別模組DP-1200-F01、硬件架構(gòu)-亞里士多德ARISTOTLE架構(gòu)平臺、硬件架構(gòu)-笛卡爾架構(gòu)
智能大數(shù)據(jù)：語音分析-LSTM加速卡、圖像分析-CNN加速卡
智能機器人：嵌入式端圖像處理-深度學習加速模塊
軟件：深度學習開發(fā)SDK DNNDK
解決方案：人臉分析解決方案DP-2100-F16、人臉識別平臺、SoC“聽濤”芯片、“雨燕”深度學習處理平臺、DP-S64語音識別加速方案、基于FPGA平臺DPU產(chǎn)品開發(fā)板
深鑒戰(zhàn)略
姚頌在一次接受采訪的過程中曾經(jīng)透露過公司的戰(zhàn)略，著重解決AI中一些產(chǎn)品化的問題。首先是分析方面，研究與分析深度學習算法的計算與存儲上的特征（Pattern）。其次是設(shè)計方面，利用這些深度學習算法的特征，設(shè)計針對于神經(jīng)網(wǎng)絡(luò)的壓縮方法、設(shè)計DPU體系結(jié)構(gòu)、并且設(shè)計對應指令集，使得DPU能夠支持各類深度學習算法。第三是應用方面，打通從算法到硬件的全流程，用軟硬件協(xié)同設(shè)計達到最好效果，并且開發(fā)好用的壓縮編譯工具，讓所有人都能夠方便的使用DPU產(chǎn)品。最后是協(xié)同優(yōu)化與迭代，針對實際應用的算法模型，進行DPU體系結(jié)構(gòu)的評估，發(fā)現(xiàn)算法中不適合加速部分，再對于算法與體系結(jié)構(gòu)進行優(yōu)化或調(diào)整，使得應用中全系統(tǒng)性能進一步提升。
姚頌還表示：“深鑒科技是一個深度學習解決方案的提供商，而非一家只是賣芯片的公司。” 這樣的定位源于他對市場端的深度思考：“如果只是單獨做一個芯片公司，風險非常高。因為周期比較長，資金消耗大，只有從一個單純的芯片走到一個系統(tǒng)，再到一個解決方案，公司的前景才會更廣闊一些。”
目前，深鑒定位為安防、數(shù)據(jù)中心等行業(yè)提供完整的人工智能硬件模組與配套軟件。同時不斷加強在安防領(lǐng)域、數(shù)據(jù)中心領(lǐng)域上的產(chǎn)品研發(fā)和市場銷售。既然定位為平臺提供商，深鑒提供DPU平臺、編譯器與壓縮為一體的開發(fā)環(huán)境，供第三方在此基礎(chǔ)上搭建自己的算法以及解決方案。
深鑒始終堅持一個觀點認為帶寬一定是一個最核心的問題需要解決。而傳統(tǒng)堆帶寬的方式一定會在造價和將來實際物理帶寬層面遇到一些瓶頸，所以深鑒科技把軟和硬結(jié)合在一起來做。先在軟件上做壓縮，然后在硬件上針對壓縮的神經(jīng)網(wǎng)絡(luò)做一個專用體系結(jié)構(gòu)的優(yōu)化。目前在這條技術(shù)路線上的公司還非常之少，但陸續(xù)開始有公司注入跟進這個領(lǐng)域。而深鑒進入很早，擁有先發(fā)優(yōu)勢，而AI目前屬于分散的細分市場，市場足夠大使得每個方向的創(chuàng)業(yè)者都可能獲得巨大的成功，隨后可能會出現(xiàn)產(chǎn)業(yè)整合和合并，那是多年后的事情了。深鑒科技更像一個制作Drive PX2的英偉達，所有的產(chǎn)品都是針對于某個行業(yè)的方案，用戶最終看到的是一個板卡，它支持的東西一樣，只是性能和功耗不同，包含一些推理、設(shè)計和算法，用戶還可以自行開發(fā)。
那么，深鑒未來會不會布局AI手機市場呢？A+輪投資三星領(lǐng)投已經(jīng)給出了部分答案，作為數(shù)量級最大的芯片使用設(shè)備，手機似乎正在迎來越來越多的AI應用。姚頌認為，手機里做深度學習的應用肯定會特別特別多。至于如何布局，姚頌表達了自己的看法：“我覺得手機里面提供的計算力是有限的，真正要去做到很精細的對于場景的理解或者分析等等，還是需要更大的計算力。所以很多廠商經(jīng)常會將一些事情傳到云端，再做更細致的分析，而AI應用方面，以后云和端一定是配合的，不會完全限制在手機里。” 至于深鑒-聽濤芯片有沒有可能布局在手機端，姚頌表示有希望。他說，首發(fā)的聽濤芯片功耗大概在1.1W，幾T的數(shù)字芯片，這個芯片可以裁剪到適合更低功耗的場景，比如說物聯(lián)網(wǎng)芯片的功耗通常是在100毫瓦以下，手機里面是100到500毫瓦，在安防里面我們希望它是1瓦。至于未來深鑒會不會為三星手機打造AI芯片，姚頌并沒有給出答案。
已經(jīng)在安防領(lǐng)域扛起人工智能深度學習大旗的姚頌，我們期盼深鑒可以走的更遠，拭目以待。
更多的信息，請下載深鑒科技深度分析報告，文后下方附有下載鏈接，pdf格式文件，41頁。https://zhang.xin.fang.blog.163.com/blog/static/390570201814101224831/
評論文章