重慶大學(xué)通信工程學(xué)院邀請(qǐng)黃廣斌老師作了一場(chǎng)題為“從AlphaGo戰(zhàn)勝人類(lèi)展望機(jī)器學(xué)習(xí)的新趨勢(shì) : 超限學(xué)習(xí)機(jī)(ELM)和深度學(xué)習(xí)(DL)的有機(jī)結(jié)合及ELMGo探討”的講座,通信工程學(xué)院涵蓋了電子科學(xué)與技術(shù)、信息與通信工程兩個(gè)一級(jí)學(xué)科。學(xué)院擁有國(guó)家重點(diǎn)學(xué)科:電工理論與新技術(shù);國(guó)家工科電工電子基礎(chǔ)課程教學(xué)基地;國(guó)家“211工程”重點(diǎn)學(xué)科建設(shè)基地:運(yùn)載器測(cè)控及遙感信息傳輸;國(guó)家“985工程”重點(diǎn)建設(shè)科技創(chuàng)新平臺(tái):測(cè)控及遙感信息傳輸;運(yùn)載器測(cè)控及遙感技術(shù)信息傳輸重慶市重點(diǎn)實(shí)驗(yàn)室;重慶市三峽庫(kù)區(qū)生態(tài)環(huán)境遙測(cè)遙控監(jiān)控實(shí)驗(yàn)室。設(shè)有電子信息工程、通信工程兩個(gè)系,通信與測(cè)控、寬帶通信技術(shù)、信號(hào)與信息處理研究所三個(gè)研究所。講座的主要內(nèi)容是:
近幾年人工智能和機(jī)器學(xué)習(xí)的研究和應(yīng)用開(kāi)始變得火熱起來(lái),AlphaGo戰(zhàn)勝人類(lèi)頂尖高手更起到推波助瀾的作用。本報(bào)告從技術(shù)和工業(yè)需求角度分析人工智能和機(jī)器學(xué)習(xí)復(fù)興的原因,指出真正的機(jī)器學(xué)習(xí)時(shí)代已經(jīng)來(lái)到,亟需重新思考人工智能和機(jī)器學(xué)習(xí)的研究、定位和角色。首先,本報(bào)告指出超限學(xué)習(xí)機(jī)(ELM))和深度學(xué)習(xí)(DL)的有機(jī)結(jié)合是個(gè)新的機(jī)器學(xué)習(xí)趨勢(shì)。超限學(xué)習(xí)機(jī)和廣泛流行的學(xué)習(xí)技術(shù)(比如傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò),支持向量機(jī))相比,速度快(可以達(dá)到幾百到幾萬(wàn)倍)并且準(zhǔn)確率高。初步研究顯示在某些應(yīng)用中(比如手寫(xiě)體識(shí)別,手語(yǔ)識(shí)別,交通路牌識(shí)別,3D圖形分析等),ELM與DL相比可進(jìn)一步提高準(zhǔn)確率, 并且大幅度降低訓(xùn)練時(shí)間(相比較深度學(xué)習(xí)基于GPU的1-2天訓(xùn)練時(shí)間,ELM在普通計(jì)算機(jī)上的訓(xùn)練時(shí)間縮短到幾分鐘或更少)。部分ELM理論已經(jīng)得到了生物學(xué)的直接驗(yàn)證,也許能解釋為什么生物腦總體有序又局部無(wú)序(比如同種動(dòng)物的每個(gè)大腦并不一樣),因此,ELM理論可以給深度學(xué)習(xí)中廣泛應(yīng)用的局部吸收(Local Receptive Fields)提供理論支持。其次,本報(bào)告展望未來(lái)機(jī)器學(xué)習(xí)的發(fā)展趨勢(shì)和影響: 1)從機(jī)器學(xué)習(xí)工程到機(jī)器學(xué)習(xí)科學(xué)的轉(zhuǎn)折點(diǎn); 2)機(jī)器學(xué)習(xí)和生物學(xué)習(xí)機(jī)制的匯合趨勢(shì); 3)從人(和其他生命體)的智能到機(jī)器智能; 4)從物聯(lián)網(wǎng)(IoT)到智能物的聯(lián)網(wǎng)(Internet of Intelligent Things)以及有別于人類(lèi)社會(huì)的智能體社會(huì)(Society of Intelligent Things); 5) 在智能制造的應(yīng)用 (比如3D快速打印上的開(kāi)拓性應(yīng)用) 。最后,本報(bào)告探討AlphaGo產(chǎn)生的深遠(yuǎn)影響:1)為什么AlphaGo戰(zhàn)勝人類(lèi)是一定的,為什么人類(lèi)智能在地球的總體智能中的權(quán)重會(huì)減弱但地球的總體智能在提高;2)基于超限學(xué)習(xí)機(jī)的ELMGo和AlphaGo的區(qū)別與聯(lián)系。
黃廣斌(Guang-Bin Huang): 新加坡南洋理工大學(xué)電子電氣工程學(xué)院副教授 (tenured),IEEE Senior Member。IEEE Transactions on Cybernetics, Neurocomputing,Cognitive Computation和Neural Networks副主編。他被Thomson Reuters 評(píng)為“Highly Cited Researcher(高引用研究者)”,以及“2014, 2015 The World's Most Influential Scientific Minds(2014,2015年世界最有影響力的科學(xué)精英)”。其論文據(jù)谷歌引用統(tǒng)計(jì)16000余次。研究方向包括:大數(shù)據(jù)處理分析,腦機(jī)交互,人機(jī)交互,圖像處理,機(jī)器學(xué)習(xí)理論和技術(shù)。主要學(xué)術(shù)貢獻(xiàn)是提出一套全新的學(xué)習(xí)理論和方法:Extreme Learning Machines (ELM,超限學(xué)習(xí)機(jī))。ELM突破了前30年流行的前饋神經(jīng)網(wǎng)絡(luò)以及近20年廣泛應(yīng)用的支撐向量機(jī)(SVM)的理論和技術(shù)瓶頸。和ELM相比,支撐向量機(jī)及其演伸方法只是提供次優(yōu)學(xué)習(xí)方案。ELM和SVM/LS-SVM, Deep Learning(深度學(xué)習(xí))相比,準(zhǔn)確率高,簡(jiǎn)單易用,學(xué)習(xí)速度可以快幾千到幾萬(wàn)倍。ELM理論最近也得到了生物和腦神經(jīng)學(xué)的直接生物驗(yàn)證,彌補(bǔ)了機(jī)器學(xué)習(xí)和腦學(xué)習(xí)機(jī)制之間的空白,解決了計(jì)算機(jī)之父馮·諾依曼(John Von Neumann)60年前的關(guān)于人腦和計(jì)算機(jī)結(jié)構(gòu)和能力的困惑。