阿里巴巴淘系技術部與英國倫敦大學伯貝克學院Steve Maybank教授(Fellow of the IEEE and a Member of the Academia Europaea, the Koenderink Prize in 2008)、悉尼大學陶大程教授(Fellow of the IEEE, ACM and Australian Academy of Science)等國際知名學者合作,與3月30日正式開源業界首個飽含紋理細節的大型3D家具數據集(3D-FUTURE),共同推動3D家居智能研究。并面向全球3D幾何與視覺研究愛好者同步啟動第一屆阿里巴巴3D人工智能挑戰賽暨IJCAI-PRICAI 2020 Workshop。
什么是3D - FUTURE?

在過去十多年里,科學家們在3D視覺及幾何的研究投入了巨大的努力,但是3D人工智能的工業落地任然困難重重,尤其是在家居家裝行業。阿里巴巴淘系技術部協同躺平設計家也在持續不斷地探索數字化家居建設。以真實家居場景為背景,定義了許多新問題,進行了大量的知識重建,并結合3D人工智能技術初步打造了場景化數字營銷,推出了智能設計搭配服務。同時,在相關團隊的技術研發過程中發現,海量的高質量3D模型與紋理,以及專業的房屋設計布局是推動未來數字化家居建設的基礎。為了啟發高質量3D模型理解與重建,并且建立學術研究與工業應用的橋梁。阿里巴巴針對家居場景開源大型3D數據集3D-FUTURE(3D Furniture shape with TextURE)。

其初版包含20,000+高清室內場景專業設計渲染圖,與10,000+精細的高質量3D家具模型及對應的高清且飽含信息的紋理,數據積累沉淀于阿里巴巴官方家裝家居設計平臺-躺平設計家。目前提供家具實例分割標注,完全真實的2D到3D的對準標注,以及專業的細粒度家具屬性標注。阿里巴巴希望持續建設3D-FUTURE,不斷為3D幾何及視覺研究提供需求的標注以及新特征,包括但不限于已有數據擴充,完整房屋布局信息提供,3D模型分割標注等,以推進學術尖端科技的工業落地。
為什么需要3D - FUTURE?

當前大型開源3D數據集都存在一些不足,不足以支持工業級的3D模型重建與紋理恢復等領域的深入細致研究。首先,已開源數據集的大多數3D CAD模型(家具類) 都是從網上收集的,因此普遍存在細節缺失以及無紋理或紋理信息度低等問題,且沒有多樣專業的屬性標簽。針對此現象,3D-FUTURE提供多種不同風格且帶有豐富細節的高質量3D家具模型,并配備了高清飽含信息的紋理以及多樣化的屬性標簽。其次,目前學界暫無組織較好的大規模室內仿真圖像數據集。3D-FUTURE通過最先進的工業3D渲染引擎,在專業設計師所設計的5,000多個場景中渲染產生了20,000+圖像,填補了這一空白。最后,現有數據集只提供2D-3D偽匹配,即根據2D圖中物體,人工從開源3D模型池里選擇與之相似的3D模型作為匹配結果。這種標注過程極有可能忽視掉一些局部的形狀細節特征,導致提供的2D-3D匹配結果并非完全一致。因此難以支持數據驅動的高質量三維重建以及高精度形狀檢索等相關3D研究。與之相比,3D-FUTURE提供的10,000+ 3D模型都是與2D渲染圖中的物體真實配對的。我們相信,3D-FUTURE這些特性可以啟發高質量3D模型理解和重建等領域的創新研究。
阿里巴巴 3 D人工智能挑戰賽暨IJCAI - PR ICAI 2020 Workshop?
阿里巴巴淘系技術部聯合來自于悉尼大學、英國倫敦大學伯貝克學院、墨爾本大學、中國科學院計算所的頂尖學者舉辦基于3D-FUTURE的第一屆3D人工智能挑戰賽暨IJCAI-PRICAI 2020 Workshop。 3D幾何與視覺研究是廣受關注的基礎研究領域,是建設未來3D智能世界必經之路。淘系技術部在人工智能國際頂級會議IJCAI-PRICAI舉辦workshop及競賽,旨在總結目前最先進的3D幾何與視覺技術,啟發高質量3D模型理解與重建,并且建立學術研究與工業應用的橋梁。
競賽內容包括三個項目,分別是基于圖片的3D模型推薦,基于單張圖的3D模型重建,實例分割。信息如下:

基于圖片的3D模型推薦 :在該項挑戰賽中,參賽者被要求根據2D圖片在給定3D池中檢索出對應的3D模型。隨著極速增長的3D模型數量,建立一個可靠的IBSR(image-based 3Dshaperetrieval)系統不管在工業界還是在學術界都非常重要。比如用戶3D場景布局重建的基礎就是根據2D圖中物體,從大型3D池中找出對應的3D模型。該項競賽最大的挑戰是針對2D與3D是完全不同域以及表征信息的差距,提取具有域不變性且紋理抑制的的特征表示。我們希望參賽者能充分探索最先進的解決方案,并基于此設計出更加精準可靠的IBSR算法。另外,我們也期望通過這項比賽來促進具有魯棒性的形狀檢索發展,即在圖片中物體存在輕微遮擋以及具有復雜背景的情況下實現較高精度的檢索。 我們將用TopK召回率以及TopK平均F-score作為主要性能衡量指標。
基于單張圖的3D模型重建: 在該項挑戰賽中,參賽者被要求從單張RGB圖像重建對應的3D模型,這些圖片主物體可能存在輕微遮擋以及少部分殘缺。眾所周知,3D模型的數量與質量是數據驅動的3D理解研究以及3D相關人工智能應用的基礎,比如虛擬場景搭建。然而,目前海量的網絡圖片中的物體都沒有或很難收集到對應的3DCAD模型。另一方面,目前工業界高質量3D模型生產效率很低,無法支持大規模高效生產。這項獎賽旨在總結目前最先進的單目圖像3D重建方案,并啟發工業級mesh表面細節重建的研究探索思路。Chamfer Distance(CD)以及F-score將作為重建結果質量的評價標準。
實例分割: 在該項挑戰賽中,參賽者被要求對渲染的室內場景圖進行實例分割。在訓練集中,3D-FUTURE將提供場景圖中部分物體所對應的帶有紋理的3D模型作為輔助信息,期望能提升邊緣分割精度。實例分割是學界的基礎研究問題,也是室內場景理解的關鍵之一。高精度尤其是邊緣魯棒的實例分割不僅有利于啟發高質量圖像合成相關工業應用,例如有潛力部分取代昂貴低效的渲染過程,從而實現高效自動化用戶室內搭配編輯生成;也有潛力大幅提升IBSR,3D重建等基礎3D問題的效果。 該項挑戰賽的評估指標為被廣泛認可的Mask Average Precision (mAP)。
附workshop及競賽重要信息
重要日程節點:
3月30日競賽開啟報名,并開放部分示例數據集。
4月03日開放完整訓練集與驗證集。
5月31日開放相關測試集。
6月05日競賽結束。
6月12日潛在優勝者報告提交截止日期。
6月17日報告審核以及競賽最終結果公開。
7月13日3D-FUTURE Workshop at IJCAI-PRICAI 2020。
優勝者獎勵:
第一名1500美金,第二名1000美金,第三名500美金。
受邀請到國際人工智能頂會IJCAI-PRICAI 2020 Workshop進行報告。
受邀合著Workshop報告。
需要本次競賽和數據集詳情,請登陸「天池」官網了解。
推薦閱讀
“疫情無情,但人間有愛!這次風神提供的免費更換N95空調濾芯服務,讓我們這些風神老車主體會到了溫暖和感動,防疫之路上風神同我們一直在一起!”3月20日,王先生在朋友圈更新了一條動態,配圖是他在維修車間用手機隨手拍的>>>詳細閱讀
本文標題:阿里巴巴開源大型3D家具數據集,搭建學術研究與工業落地的橋梁
地址:http://www.geekbao.cn/a/05/309634.html