7月11日消息，據(jù)金融時報報道，隨著強大的人工智能（AI）技術不斷滲透到谷歌的所有服務中，谷歌正在努力解決如何確保其給人類帶來更多好處而非傷害的問題。這個網(wǎng)絡巨頭10日宣布推出新的研究計劃，旨在尋找以人為AI發(fā)展中心的方式，從給予工程師更好的工具來控制技術，到確保普通人不會因為智能機器的決定而陷入不利的地位。
這項計劃的研究人員之一費爾南達·維埃加斯(Fernanda Viégas)說：“隨著人類與AI交互問題從谷歌各個角落不斷涌現(xiàn)，這個想法就開始成型。”谷歌越來越意識到AI的潛在負面影響，這反映了科技界更廣泛的擔憂，即過去公司用來制造新產(chǎn)品的方法可能不足以控制新技術。
舉例來說，利用不完整或被扭曲的數(shù)據(jù)訓練AI系統(tǒng)可能會導致機器產(chǎn)生有偏見性的“思考”，而且很難將它們所采用的算法應用于外部檢查。即使AI系統(tǒng)能夠有效地發(fā)揮作用，它們遵循的“世界觀”也很有可能促使世界上某些人陷入不利地位，或者他們可能完全排斥人類，而不是鼓勵給人們在新的計算機交互形式中發(fā)揮積極作用。
維埃加斯與谷歌研究科學家馬丁·瓦藤伯格（Martin Wattenberg）在博文中寫道，谷歌計劃的目標應該是創(chuàng)造“以人為中心的AI系統(tǒng)”，并且“民主化”這項技術，使它更容易理解工程師和其他人類。繼去年微軟的嘗試之后，谷歌再次呼吁將更人性化的方法作為其AI發(fā)展的中心。微軟首席執(zhí)行官薩提亞·納德拉（Satya Nadella）曾將當前緊迫性與15年前微軟徹底改變開發(fā)過程相提并論，當時第一波計算機病毒爆發(fā)，促使更強大應用軟件的需求激增。
谷歌的新研究計劃由兩位來自Google Brain的高級研究科學家領導。這個機構的名字源自谷歌首個深度學習項目，深度學習是目前AI領域最先進的機器學習技術。維埃加斯與瓦藤伯格寫道，到目前為止，大多數(shù)AI研究都集中在“技術性能”上。他們呼吁尋找新的開發(fā)過程，而且這個過程應該從終端用戶的想法開始，這被稱為“設計思維”，是許多行業(yè)中非常流行的產(chǎn)品開發(fā)方法。
維埃加斯與瓦藤伯格自問：“我們?nèi)绾未_保這項技術對每個人都有好處？”他們的呼吁與人們越來越關注的問題相符，即解釋AI系統(tǒng)如何工作異常困難，這可能導致人們對它們產(chǎn)生的結果缺乏信任，進而阻礙了它們的使用。為了嘗試克服這個問題，美國國防部的研究部門支持多項研究，包括如何使AI系統(tǒng)的“思維”更易于被人所理解。
在名為“人+A研究”新項目的首個產(chǎn)品中，谷歌宣布推出兩個軟件工具，據(jù)稱它們將讓開發(fā)者“清楚地看到他們用來訓練AI系統(tǒng)的數(shù)據(jù)”。這反映了“需要調(diào)試的不僅是代碼，數(shù)據(jù)也同樣如此。”在“人+A研究”項目中，有數(shù)十位AI領域專家與谷歌多個產(chǎn)品團隊展開合作，包括哈佛大學教授布倫丹·米德（Brendan Meade）、麻省理工學院教授哈爾·艾貝爾森（Hal Abelson）等。這項研究最終將幫助改進某些世界上最流行應用的智能元件接口，而且谷歌的計劃也可能鼓勵其他公司調(diào)整自己的軟件。
這項新舉措與谷歌日益重視AI的策略相吻合。谷歌首席執(zhí)行官桑達爾·皮查伊（Sundar Pichai）曾多次表示，世界正從“移動優(yōu)先”向“AI優(yōu)先”轉變，該公司已經(jīng)圍繞這個策略做出許多調(diào)整。例如，最近谷歌成立了風險投資部門，專門投資于AI初創(chuàng)公司。與此同時，亞馬遜、蘋果、Facebook以及微軟在過去幾年里也一直積極參與AI的改進。
微信掃一掃
