IEEE發(fā)布三項人工智能新標準 將優(yōu)先考慮人類
2017-11-27 09:16:36 來源：雷鋒網(wǎng) 熱度:
IEEE（美國電氣和電子工程師協(xié)會）最新宣布了三項新的人工智能發(fā)展標準。
IEEE 號稱為“世界上最大的先進技術專業(yè)組織”。根據(jù)最近發(fā)布的一份報告，他們的人工智能標準將優(yōu)先考慮人類，因為他們承諾要跟上AI領域不斷發(fā)展的腳步。
在發(fā)布的《合乎倫理的設計：將人類福祉與人工智能和自主系統(tǒng)優(yōu)先考慮的愿景》報告中，共分為八個部部分闡述了新的人工智能發(fā)展問題。分別是：一般原則，人工智能系統(tǒng)賦值；指導倫理學研究和設計的方法學；通用人工智能和超級人工智能的安全與福祉；個人數(shù)據(jù)和個人訪問控制；重新構造自動武器系統(tǒng)；經(jīng)濟/人道主義問題；法律。
一般原則涉及高層次倫理問題，適用于所有類型的人工智能和自主系統(tǒng)。在確定一般原則時，主要考慮三大因素：體現(xiàn)人權；優(yōu)先考慮最大化對人類和自然環(huán)境的好處；削弱人工智能的風險和負面影響。
人類利益原則要求考慮如何確保AI不侵犯人權。責任原則涉及如何確保AI是可以被問責的。為了解決過錯問題，避免公眾困惑，AI系統(tǒng)必須在程序層面具有可責性，證明其為什么以特定方式運作。透明性原則意味著自主系統(tǒng)的運作必須是透明的。AI是透明的意味著人們能夠發(fā)現(xiàn)其如何以及為何做出特定決定。
在關于如何將人類規(guī)范和道德價值觀嵌入AI系統(tǒng)中，報告中表示由于AI系統(tǒng)在做決定、操縱其所處環(huán)境等方面越來越具有自主性，讓其采納、學習并遵守其所服務的社會和團體的規(guī)范和價值是至關重要的。可以分三步來實現(xiàn)將價值嵌入AI系統(tǒng)的目的：
第一，識別特定社會或團體的規(guī)范和價值；
第二，將這些規(guī)范和價值編寫進AI系統(tǒng)；
第三，評估被寫進AI系統(tǒng)的規(guī)范和價值的有效性，即其是否和現(xiàn)實的規(guī)范和價值相一致、相兼容。
雖然上述的相關研究一直在持續(xù)，這些研究領域包括機器道德（Machine Morality）、機器倫理學（Machine Ethics）、道德機器（Moral Machine）、價值一致論（Value Alignment）、人工道德（Artificial Morality）、安全AI、友好AI等，但開發(fā)能夠意識到并理解人類規(guī)范和價值的計算機系統(tǒng)，并讓其在做決策時考慮這些問題，一直困擾著人們。當前主要存在兩種路徑：自上而下的路徑和自下而上的路徑。這一領域的研究需要加強。
報告中還指出需要指導倫理研究和設計的方法論，通用人工智能和超級人工智能的安全與福祉，重構自主武器系統(tǒng)，以及經(jīng)濟/人道主義問題等八個人工智能發(fā)展面臨的問題。報告中收集了超過一百位來自人工智能領域學術界，科學界，以及政府相關部門的思想領袖的意見，整合了人工智能、倫理學、哲學和政策等多個領域專業(yè)知識。它的修訂版EAD（Ethically Aligned Design） 版本將會在2017年底推出，報告增至為十三個章節(jié)，含二百五十多個全球思想領袖的精華分享。
IEEE 機器人和自動化協(xié)會的主席Satoshi Tadokoro 解釋了他們?yōu)槭裁聪胍贫ㄟ@樣的標準：“機器人和自動系統(tǒng)將為社會帶來重大創(chuàng)新。最近，公眾越來越關注可能發(fā)生的社會問題，以及可能產(chǎn)生的巨大潛在利益。不幸的是，在這些討論中，可能會出現(xiàn)一些來自虛構和想象的錯誤信息。”
Tadokoro 繼續(xù)說道：“IEEE 將基于科學和技術的公認事實來引入知識和智慧，以幫助達成公共決策，使人類的整體利益最大化。”除了AI倫理標準外，還有其他兩個人工智能標準也被引入報告中，每個項目都由領域專家領導。
第一個標準是：“機器化系統(tǒng)、智能系統(tǒng)和自動系統(tǒng)的倫理推動標準”。這個標準探討了“推動”，在人工智能世界里，它指的是AI會影響人類行為的微妙行動。
第二個標準是“自動和半自動系統(tǒng)的故障安全設計標準”。它包含了自動技術，如果它們發(fā)生故障，可能會對人類造成危害。就目前而言，最明顯的問題是自動駕駛汽車。
第三個標準是“道德化的人工智能和自動系統(tǒng)的福祉衡量標準”。它闡述了進步的人工智能技術如何有益于人類的益處。
這些標準的實施可能比我們想象的要早，因為像 OpenAI 和 DeepMind 這樣的公司越來越快地推進人工智能的發(fā)展，甚至創(chuàng)造出能夠自我學習又擴大“智能”領域的人工智能系統(tǒng)。專家們認為，這樣的人工智能會破壞世界穩(wěn)定，導致大規(guī)模的失業(yè)和戰(zhàn)爭，甚至轉向創(chuàng)造“殺人武器”。最近，聯(lián)合國的重要討論促使人們開始認真思考，需對將人工智能技術當作武器使用進行更嚴格的監(jiān)管。
責任編輯：黃焱林
相關推薦
巴法絡：現(xiàn)場“IEEE802.11ac”傳輸演示
在CES2012上，巴法絡采用博通芯片進行了“IEEE802.11ac”傳輸演示。據(jù)悉，在展會上做類似現(xiàn)場演示當屬首家。作為支持IEEE802.11ac的首款產(chǎn)品，巴法絡目前正在推進無線LAN路由器“AirStationWZR-1750H”的開發(fā)。芯片組采用博通2012年1月5日剛發(fā)布的“BCM4360”，其采用40nm級設計工藝制造，支持最大1.3Gbit/秒的數(shù)據(jù)傳輸。據(jù)悉，因為現(xiàn)場因素，巴法絡只做了有線的演示。通過采用3×3的MIMO（M
下一代無線芯片CES展初露鋒芒
在美國拉斯維加斯拉舉行的CES2012國際消費電子產(chǎn)品展吸引了2700多家參展商和超過15萬人的專業(yè)觀眾參展，可以說是歷年來最大的一屆。當然，要了解全球消費電子的發(fā)展趨勢也應該從這里說起。每一屆的CES上，都會有意想不到的發(fā)現(xiàn)。在這里DVBCN小編要告訴您的是：下一代無線芯片已經(jīng)在CES展商亮相了。一個是5GHz，其最終將成為IEEE802.11ac標準，數(shù)據(jù)傳輸速率能夠達到1.3Gbps。另一個是60GHz，其最終將成為802.11ad標準，數(shù)據(jù)傳輸速率最大可達7Gbps。而目前我們使用的一般是802.11n，數(shù)據(jù)傳輸速率為150Mbps。據(jù)DVBCN小編了解，新的標準都在繼續(xù)完善之中，20
透過7件事了解人工智能先驅馬文·明斯基
哈佛大學研究新人工智能系統(tǒng) 速度媲美人類大腦