加速神經擬態視覺傳感技術落地,法國初創公司「普諾飛思Prophesee」進駐中國市場
文丨李子月Zoe
編丨石亞瓊
**
普諾飛思(Prophesee)2014年創立于巴黎,專注于神經擬態視覺傳感技術,引入計算機視覺新類別——基于事件的視覺(Event-based)。其研發的普諾飛思原視覺(Metavision?)傳感器可應用于手機、自動駕駛、工業自動化、物聯網、AR/VR、醫療設備等領域。目前第三代傳感器已實現盈利,第四代傳感器將于今年年底大規模量產。
此前,普諾飛思曾獲360 Capital Partners,歐洲投資銀行,iBionext,韋豪創芯,英特爾資本,雷諾集團,博世創投,創新工場(普諾飛思是創新工場投資的第一家歐洲企業),Supernova Invest,小米等投資。
聯合創始人兼CEO Luca Verre擁有米蘭理工大學和巴黎中央理工學院的物理學、電子和工業工程雙碩士學位,以及歐洲工商管理學院的工商管理碩士學位,曾在施耐德電氣公司負責項目及產品管理、市場營銷和業務開發等。在加入施耐德電氣之前,還曾任豐田汽車和Altis半導體的工程師,并在倫敦帝國理工學院擔任光子學研究助理。聯合創始人兼CTO Christoph Posch擁有維也納工業大學電子與通信工程碩士學位,實驗物理學和微電子學博士學位,曾創立法國生物電子公司Pixium Vision。普諾飛思共有100多名工程師,50多項國際專利。
除巴黎總部外,普諾飛思上海、東京、硅谷和格勒諾布爾均設有辦事處。談及進駐中國市場的原因,Luca Verre 表示:中國擁有最大的移動設備市場,安防、工業等領域也有非常多的機會;中國強大的半導體生態系統也將促進普諾飛思的迅速發展。目前公司正在積極發展中國團隊,尋找機器視覺工程師、系統工程師和銷售經理等人才。
基于幀的技術VS基于事件的技術
傳統的圖像傳感器采用基于幀的技術(Frame-based)。通過每秒捕獲多幀靜止圖像來表達/記錄場景運動,并通過連續快速的展示,讓觀看者的視覺產生連續運動的錯覺。其中的弊病有二:一是每幀之間是空白的,必然會丟失運動物體的部分信息。二是無論場景是否發生變化,傳感器中的像素都會進行記錄,相同的背景信息被重復記錄,從而生成大量無用數據。
(高爾夫球手揮桿場景演示 圖片來源:采訪供圖)
以高爾夫球手揮桿為例,在這一場景中,重要的信息是球桿的擺動和球的運動,但傳統傳感器將丟失這些信息的某一部分,同時反復記錄他身后不變的天空、樹木和草地。
(基于幀的傳感器(左)和基于事件的視覺技術(右) 圖片來源:采訪供圖)
而我們的眼睛并不會以幀為單位記錄場景圖像,只是在場景產生變化時傳遞信息給大腦。通過這樣的方式,人眼只收集必要信息,而不必浪費時間和精力重復處理場景中沒有變化的圖像。
普諾飛思所采用的基于事件的視覺技術(Event-based),便是受到了人眼視網膜和大腦工作原理的啟發。在普諾飛思原視覺(Metavision?)傳感器中,每個像素都是異步且獨立的,像素不再由固定的時序源(幀時鐘)控制,而是由信號在幅度域的變化來控制,并在檢測到變化或運動時進行記錄。圖像信息不是逐幀發送,而是通過連續的信息流捕獲時間運動,并且幀與幀之間沒有任何重要信息遺漏。
普諾飛思基于事件的視覺系統產生的數據量比傳統圖像傳感器減少十到千倍,等效時間幀速率>10k fps。其傳感器可實現像素級別的曝光調節,即使在極暗或極亮的光照條件下,也能實現>120dB的動態范圍,低光靈敏度<1lux。
普諾飛思的四代傳感器
普諾飛思第一代傳感器用于幫助盲人部分視力恢復。如其與法國生物電子公司Pixium Vision合作研發的無線視網膜植入物。
普諾飛思第三代原視覺傳感器已經量產,主要應用于工業自動化,尤其是高速機器視覺領域,如高速計數、激光焊接監控、震動測量等。如德國Imago已將其集成到了工業級相機系統中。這一代產品目前已經盈利。
普諾飛思與索尼合作研發的第四代傳感器主要應用于工業和物聯網,目前正在與客戶的測試階段,預計今年年底能夠大規模量產。基于事件的視覺傳感器的每個像素都是獨立的,晶體管數量較多,使得降低芯片尺寸成為難題。普諾飛思的第四代傳感器應用了索尼BSI(背照式)和3D堆疊工藝,大大降低了傳感器尺寸。第三代傳感器(圖左)尺寸為15μm,第四代傳感器尺寸為4.86μm,是目前基于視覺的傳感器中的最小尺寸。
(普諾飛思第三代和第四代芯片 圖片來源:采訪供圖)
此外,普諾飛思近期還推出了評估套件EVK 3(支持與索尼半導體共同開發的4.1 HD傳感器和3.1 VGA傳感器)。EVK 3與Metavision??智能套件(由Player、Designer和SDK組成,提供近100種算法、67個代碼實例和11個特定用例的應用模型)完全兼容,用于幫助用戶更好地評估和發揮傳感器的性能。Luca Verre表示,相較于同類公司,普諾飛思更早地布局軟件開發,并關注到軟硬件的配合。
應用領域
智能駕駛
座艙監控:Xperi旗下子公司DTS基于普諾飛思原視覺(Metavision??)傳感技術提供的事件數據,開發了基于神經擬態視覺系統的駕駛員監控解決方案(DMS),提供了更優的微光性能,以及新的檢測功能,如眼跳或微表情檢測等。
駕駛輔助:高級駕駛輔助軟件開發商Terranet AB與梅賽德斯-奔馳共同開發的VoxelFlow?傳感器,采用了普諾飛思原視覺(Metavision??)傳感器,可掃描車輛周圍半徑為40米的區域,反應時間為3毫秒。
醫療
細胞療法:Cambridge Consultants的自動化污染檢測系統中,使用了普諾飛思原視覺(Metavision??)傳感器和AI模型來檢測、跟蹤和分類污染物。
恢復部分視力:除上文提到的,與法國生物電子公司Pixium Vision合作研發建立物理視網膜植入物外,最近還與GenSight Biologics合作。在首例晚期視網膜色素變性(RP)失明患者恢復部分視力的病例中(報告發表于《自然-醫學》),該患者接受了GenSight Biologics的GS030光遺傳療法試驗。這一項目將基因療法與光刺激醫療設備與護目鏡的形式相結合,通過普諾飛思基于事件的原視覺(Metavision?)傳感器來感知世界。
工業自動化
高速計數:上文提到的德國Imago已將普諾飛思基于事件的視覺技術應用于工業部署。
震動監測:通過追蹤場景中每個像素的時間變化,以像素級精度連續遠程監控振動頻率。
手機
提升傳統相機性能:可在較苛刻的速度和光照條件下拍出更清晰的影像,一次即可拍下最美的照片,且時間可放慢至10000倍。
實時圖像去模糊:通過算法捕捉到時間分辨率達1微秒的運動,并處理與之相關的運動模糊。
神經擬態領域的高校、研究所和公司
神經擬態傳感技術最早源于 1990 年代瑞士蘇黎世聯邦理工學院(ETH Zurich),蘇黎世理工大學和蘇黎世大學聯合創辦的神經信息學院(INI)是神經擬態芯片和算法領域學術界的權威。其他此領域著名的大學還有西班牙塞維利亞大學(University of Seville in Spain)和匹茲堡大學(Pittsburgh University in Pennsylvania)等。
目前神經擬態領域初創公司包括兩類,第一類將重點放在傳感器的研發上面:源于ETH的Insightness,2019年被索尼收購;同樣源于ETH的Inivation;由新加坡南洋理工大學教授陳守順創立的芯侖光電,目前已經成為中國半導體龍頭之一韋爾股份的子公司;源于CSEM Zurich的銳思智芯(Alpsentek),今年七月獲得由海康威視、舜宇光學等大廠投資的pre-A輪融資。
第二類初創公司將重點放在神經擬態計算上,包括:ETH博士劉洪杰創立的九天睿芯(Reexen),今年6獲由韋豪創芯和浦東科創聯合領投的億元級A輪融資,去年獲奇績創壇Pre-A輪融資;來自瑞士神經信息學院(INI)的海歸學者喬寧博士創立的時識科技(SynSense),曾獲百度、Merck、中科創星等業界和資本支持。今年10月,普諾飛思與時識科技建立戰略合作關系,時識科技將自主研發的低功耗視覺SNN處理器DYNAP-CNN? 與普諾飛思基于事件的 Metavision? 傳感器結合在一顆單芯片上,并專注于開發一系列低成本且可大批量生產的模組產品。
傳統CIS巨頭也開始布局神經擬態傳感器,如上文提到的索尼對Insightnesss的收購和與普諾飛思的合作;三星也將這種動態視覺傳感器 DVS 技術應用于汽車高級駕駛輔助系統(ADAS)。
歐洲創投相關閱讀
2021德語區科技創投報告(上): 全球“隱形冠軍”中,德國公司占比近50%
2021德語區科技創投報告(下): 全球“隱形冠軍”中,德國公司占比近50%
2020法國科技創投報告:巴黎融資金額超越柏林,成為歐盟第一大科創中心