黃朝宗研究團隊深耕光場技術

清華電機黃朝宗研究團隊深耕光場技術 參與人類拍照與顯示新革命

 

有沒有發現自2016年底以來,智慧型手機的主鏡頭已悄然地從單鏡頭升級為雙鏡頭呢?這樣做的好處是什麼呢?是只會停留在雙鏡頭,還是未來會往更多鏡頭一路升級呢?這些問題的背後,躲著一個泛稱為光場的技術,它正逐漸地改變人類拍照與顯示的方式與習慣;清華電機系黃朝宗教授的研究團隊,嘗試加速這場新革命,讓你我未來能更早享受到光場技術帶來的全新應用。

 

黃教授團隊改造傳統單眼相機成為九鏡頭的光場實驗用相機(金屬模組委託國研院儀科中心製作)

 

光場,最簡單的理解方式即同時從許多視點拍攝照片;傳統單鏡頭相機只從單一視點取像,而多鏡頭系統則能擷取不同視點之光場資訊。擁有光場資料後,我們能透過視差,也就是不同視點間近的物體移動較多,估計出照片裡每一像素的深度,有了深度我們就能重建出照片裡物體的三維模型,以及與實際世界的物理關係,如距離、大小、速度等,因此應用面相當廣泛,包含了立體模型重建、機器人視覺、虛擬/擴境實境、汽車駕駛輔助系統與無人機等。更甚之,若使用光場顯示器來播放光場,則能顯示如真實般的三維成像,而且不用配戴額外的眼鏡!

 

黃教授團隊開發視差深度估計演算法,能僅使用少數視點便猜測出十分精準的深度(較溫暖的顏色代表較近的物體)

 

擁有每個像素的深度後,我們能實現更進一步的光場信號處理,例如:產生全新的視點以及數位重對焦。視點合成演算法,能讓我們僅儲存少數視點以節省硬碟空間與傳輸頻寬,但又能在需要時回復想觀看的任意視點圖像;數位重對焦演算法,能在拍照事後再來選定卻對焦的物體以及光圈大小,讓人人都能成為拍照高手,更進一步地,若再加入物體追蹤演算法,就能實現目前只有高端攝影機有的自動追焦功能,讓你在拍攝小孩或寵物時,永遠都能讓主體保持對焦。

 

黃教授團隊開發快速擬真之數位重對焦演算法,能在不失影像品質下,將運算速度提高上百倍(圖示由左至右,分別對焦在木球、蜜蜂、桌巾上)

 

光場能帶來全新的影像革命,但如果想全面改變人類的拍攝方式,就必須解決運算複雜度過高帶來的高功耗與高成本問題。因此,我們得透過特製的數位積體電路來實現硬體加速器,以提供低功耗、低成本又能達到即時運算的消費性電子產品,讓光場技術確實地進入每一個人的生活中。

 

黃教授與台大陳良基教授團隊合作之光場視差深度估計晶片。

 

黃朝宗教授為臺灣本土所訓練出來的電機博士,在新竹科學園區有過六年視訊晶片設計的工作經驗,亦曾於麻省理工學院進行博士後研究,其研究方向皆以新穎的視訊應用為出發點,並希望能為台灣產業所用、在本地落地生根;近幾年研究內容著重於光場影像處理,近來亦開始嘗試光場顯示器與卷積神經網路處理器等新興課題。黃教授的研究強調系統的思考、紮實的實作,不只在電腦視覺領域的頂尖會議CVPRICCV有演算法方面的成果發表,亦在固態電子電路領域的頂尖會議ISSCC有超大型積體電路晶片發表,為極少數能同時橫跨此兩熱門研究領域之學者。

 

2017年大專校院積體電路設計競賽(IC競賽),黃朝宗教授所帶領的研究生團隊-楊博翔同學和蕭裕霖同學,在「標準元件數位電路設計組」競賽中奪下優等的佳績。此競賽每年吸引上千位同學報名參加,通過初賽比例不到30%,入圍決賽者均為IC設計領域之精英!清華電機楊博翔研究生和蕭裕霖研究生皆進入決賽,在限定時間內利用標準元件數位電路設計方式完成符合規格之晶片設計,取得優異的成績。透過此競賽機會除了能讓學生好好鍛練自身的晶片實作能力,同時也可測試自己在同領域研究生間的水平,激發更多積體電路設計的創新思考與實作潛能。

 

黃教授與其實驗室團隊(Vision Circuits and Systems Lab)開心合影。

 

【黃朝宗教授個人網頁】

http://www.ee.nthu.edu.tw/chaotsung/

 

【延伸閱讀】

2017大專校院積體電路設計競賽 清華電機奪得優等好成績

http://web.ee.nthu.edu.tw/files/14-1030-121542,r5781-1.php?Lang=zh-tw