国产精品奶水无码视频免费|激情五月天深爱网|精品国产女主播一区在线观看|国产黄网一区二区

AI發(fā)展出人類(lèi)無(wú)法理解的語(yǔ)言 臉書(shū)關(guān)閉“失控”項(xiàng)目

2017-08-01 11:17:31 來(lái)源：新智元 熱度:
Facebook上個(gè)月引起廣泛爭(zhēng)議的“開(kāi)發(fā)出人類(lèi)無(wú)法理解”的溝通的智能對(duì)話機(jī)器人項(xiàng)目已經(jīng)被關(guān)閉，因?yàn)檠芯空邠?dān)心會(huì)“失控”。
　　
根據(jù)digitaljournal網(wǎng)站21日的報(bào)道，F(xiàn)acebook上個(gè)月引起廣泛爭(zhēng)議的“開(kāi)發(fā)出人類(lèi)無(wú)法理解”的溝通的智能對(duì)話機(jī)器人項(xiàng)目已經(jīng)被關(guān)閉。隨后，多家科技媒體也報(bào)道了這則消息。
 
 
上個(gè)月，F(xiàn)acebook 人工智能研究所（FAIR）使用機(jī)器學(xué)習(xí)方法，對(duì)兩個(gè)聊天機(jī)器人進(jìn)行對(duì)話策略迭代升級(jí)，結(jié)果發(fā)現(xiàn)它們竟自行發(fā)展出了人類(lèi)無(wú)法理解的獨(dú)特語(yǔ)言。研究者不得不對(duì)其進(jìn)行了人工干預(yù)。
 
　
6月20日，美國(guó)《大西洋月刊》公布了其中一段聊天記錄
　　
這一研究一經(jīng)發(fā)布，迅速在網(wǎng)絡(luò)和媒體上引起了廣泛的關(guān)注和傳播，不少人在驚呼：機(jī)器創(chuàng)造了自己的語(yǔ)言，人類(lèi)都無(wú)法理解，細(xì)思極恐。
　　
但是也有人指出，這不就是一堆亂碼嗎？
　　
現(xiàn)在，這一系統(tǒng)被關(guān)進(jìn)了“小黑屋”。根據(jù)國(guó)外媒體的報(bào)道，現(xiàn)在Facebook 的研究院已經(jīng)停止了這一項(xiàng)目的研究，原因是“擔(dān)心可能會(huì)對(duì)這些AI失去控制”。
　　
這不是第一次發(fā)現(xiàn) AI 偏離訓(xùn)練所用的英文，轉(zhuǎn)向發(fā)展出新的更加有效的語(yǔ)言。雖然在人類(lèi)看來(lái)，這些溝通更像是胡言亂語(yǔ)。但是，從AI 智能體的角度上看，他們實(shí)際上是有詞義意義的。
　　
用新的語(yǔ)言進(jìn)行溝通：英語(yǔ)缺乏“反饋”
 
　
這篇研究報(bào)告的主旨是說(shuō)機(jī)器人可以成為不錯(cuò)的談判者——他們甚至?xí)傺b對(duì)某件沒(méi)有價(jià)值的東西感興趣，然后在談判過(guò)程中犧牲掉它，好像做出了讓步。而關(guān)于對(duì)話智能體發(fā)展出自我語(yǔ)言的部分，在研究報(bào)告中確實(shí)只是一鱗半爪，但卻引發(fā)了大家的關(guān)注。
 
　
正如Fast Co. Design報(bào)道，研究員注意到，系統(tǒng)中的聊天機(jī)器人（bots）完全放棄了用英語(yǔ)進(jìn)行交流，但是，升級(jí)版的系統(tǒng)確實(shí)能夠與其他的智能體進(jìn)行交流。他們一起可以決定如何繼續(xù)進(jìn)行任何工作。一開(kāi)始，他們所使用的詞匯似乎是無(wú)法理解的，但是，通過(guò)長(zhǎng)期的觀察，研究者發(fā)現(xiàn)，這些詞匯其實(shí)代表了智能體面臨的任務(wù)。
　　
例如，在一次交流中，兩個(gè)進(jìn)行對(duì)話的機(jī)器人——Bob 和 Alice，使用自己創(chuàng)造的語(yǔ)言來(lái)完成了交流。Bob 開(kāi)始說(shuō)：“I can can I I everything else”。Alice回答，“Balls have zero to me to me to me to me to me to me to me to me to。” 接下來(lái)的對(duì)話都是類(lèi)似這樣的句子。
　　
雖然這些詞語(yǔ)組合第一眼看上去沒(méi)什么實(shí)際意義，但是，研究者認(rèn)為，他們揭示了兩個(gè)機(jī)器人是如何工作的，每一個(gè)詞匯他們需要進(jìn)行多少次處理。Bob的重復(fù)說(shuō)明了他如何使用這一詞匯，來(lái)想Alice傳遞更多的信息。如果用這種方法來(lái)進(jìn)行闡述，那么它所說(shuō)的那就好就有點(diǎn)像人們所說(shuō)的“I’ll have three and you have everything else”。
　　
看起來(lái)，似乎智能體們發(fā)現(xiàn)，英語(yǔ)的句子對(duì)于特定場(chǎng)景的理解并不是必需的。當(dāng)下，以深度學(xué)習(xí)為主的AI 遵循的是“回饋”（reward）原則，智能體通過(guò)依照一系統(tǒng)特定的行為行動(dòng)，會(huì)獲得相應(yīng)的利益（benefit）。但是，在這一場(chǎng)景中，繼續(xù)使用英語(yǔ)并沒(méi)能帶來(lái)相應(yīng)的回饋，所以智能體決定適應(yīng)更加高效的方法進(jìn)行溝通。
　　
Facebook AI Research (FAIR)的研究員對(duì)FastCo. Designs說(shuō)，“英語(yǔ)語(yǔ)言中，并沒(méi)有所謂的回饋能讓智能體來(lái)遵從。”
　　
FastCo. Designs報(bào)道稱(chēng)：“智能體會(huì)偏離自己人類(lèi)能理解的語(yǔ)言，創(chuàng)造出自己的‘代碼語(yǔ)言’。比如，如果提到‘the’ 5次，那么就是我想要復(fù)制這一術(shù)語(yǔ)5次。這和人類(lèi)創(chuàng)造的縮寫(xiě)其實(shí)也沒(méi)有多大的差別。”
　　
其他的AI開(kāi)發(fā)者也注意到了智能體會(huì)使用“縮寫(xiě)”來(lái)簡(jiǎn)化溝通。在Open AI，研究者成功地讓AI機(jī)器人學(xué)會(huì)自己創(chuàng)造的語(yǔ)言。
　　
問(wèn)題在哪
　　
如果AI繼續(xù)創(chuàng)建自己的語(yǔ)言，開(kāi)發(fā)人員可能會(huì)在創(chuàng)建和采用新的神經(jīng)網(wǎng)絡(luò)時(shí)遇到問(wèn)題，但是不清楚這是否會(huì)讓機(jī)器實(shí)際上推翻其研發(fā)者。
　　
然而，這些新的發(fā)展使得AI能夠更有效地工作，并且如果他們?cè)诠ぷ髦袑W(xué)習(xí)新的AI創(chuàng)建的“縮寫(xiě)”，并保持最新的這種新的溝通方式，可以使研究團(tuán)隊(duì)長(zhǎng)期受益。

責(zé)任編輯：黃焱林

相關(guān)推薦

Telairity H.264 編碼技術(shù)為2010年世界杯全球高清/標(biāo)清轉(zhuǎn)播提供支持

DVBCN消息2010年7月7日電--Telairity卓越的H.264編碼技術(shù)是為全球近十億人觀看2010年世界杯足球賽提供支持的“秘密要素”。整個(gè)亞洲、南太平洋以及世界杯主辦國(guó)南非的觀眾都是依靠Telairity的H.264/AVC編碼器來(lái)收看高清(HD)和標(biāo)清(SD)比賽轉(zhuǎn)播的。有了Telairity的H.264現(xiàn)代技術(shù)，世界各地的網(wǎng)絡(luò)運(yùn)營(yíng)商和廣播、衛(wèi)星及有線電視公司可以更換掉舊的MPEG-2壓縮系統(tǒng)，為客戶提供更出色的視頻質(zhì)量并顯著降低對(duì)帶寬的依賴，從而大幅減少傳輸成本。泰國(guó)國(guó)營(yíng)電信公司CATTelecomPublicCompanyLimited安裝了Telairity高清和標(biāo)清編碼器

ST高清電視系統(tǒng)級(jí)芯片獲Adobe AIR for TV認(rèn)證

意法半導(dǎo)體（STMicroelectronics，簡(jiǎn)稱(chēng)ST）宣布，其先進(jìn)的高清電視系統(tǒng)級(jí)芯片（SoC）平臺(tái)取得了巨大進(jìn)步，此項(xiàng)成果將意法半導(dǎo)體推向能夠運(yùn)行基于Adobe®AIR®的游戲和其它應(yīng)用軟件的下一代互聯(lián)網(wǎng)電視技術(shù)的最前沿。意法半導(dǎo)體已成功移植AdobeAIR®2.5forTV軟件至第三代先進(jìn)互動(dòng)高清機(jī)頂盒系統(tǒng)芯片平臺(tái)，并通過(guò)Adobe產(chǎn)品認(rèn)證。AdobeAIR軟件是AdobeFlash平臺(tái)的一個(gè)重要組件，原始設(shè)備制造商（OEM）、原始設(shè)計(jì)制造商（ODM）、服務(wù)開(kāi)發(fā)人員以及應(yīng)用開(kāi)發(fā)人員能夠在這個(gè)平臺(tái)開(kāi)發(fā)豐富的網(wǎng)絡(luò)應(yīng)用軟件和游戲，專(zhuān)門(mén)為機(jī)頂盒和數(shù)字電視等嵌入式設(shè)備和

把面向數(shù)字家庭的Adobe Flash引進(jìn)到MIPS-Based平臺(tái)

TriplePlayIntegration銷(xiāo)售副總裁MikeNottage什么是三重播放集成？TPI公司是一家致力于提供數(shù)字家庭視頻平臺(tái)解決方案的專(zhuān)業(yè)軟件服務(wù)公司。TPI公司還是官方Adobe的“ScalingPartner”，為消費(fèi)電子平臺(tái)提供FlashPlayer10、AIR和舞臺(tái)美術(shù)技術(shù)提供優(yōu)化的端口。我們有25名具有專(zhuān)業(yè)的項(xiàng)目管理和質(zhì)量保障經(jīng)驗(yàn)的高級(jí)工程師團(tuán)隊(duì),平均具有24年的工作經(jīng)驗(yàn).你們能夠提供什么樣的

Alan Tsai：移動(dòng)終端GPU之趨勢(shì)與迷思

DVBCN數(shù)字電視中文網(wǎng)訊（敖瑞），2012年6月15日（周五），由ARM主辦的“跨界、變革、多贏——ARM移動(dòng)智能終端研討會(huì)暨應(yīng)用開(kāi)發(fā)者大會(huì)”在上海舉行。本次約有20名廠商代表上臺(tái)演講；參會(huì)并參與展示會(huì)的廠商超過(guò)30家，均為ARM在各個(gè)領(lǐng)域的合作伙伴。ARM亞太市場(chǎng)開(kāi)發(fā)經(jīng)理AlanTsai做出了“移動(dòng)終端GPU之趨勢(shì)與迷思”的精彩演講。Alan表示：在用戶體驗(yàn)上來(lái)說(shuō)，分辨率已經(jīng)可以高達(dá)人眼都無(wú)法辨析的地步了。公允的說(shuō)，業(yè)界對(duì)GPU的評(píng)判標(biāo)準(zhǔn)存在太多的分歧：從三角形的角度來(lái)看，涉及到生成率、裁切率等指標(biāo)，不同類(lèi)型的GPU產(chǎn)品根本沒(méi)法比；從填充率的角度上