作者:admin 點(diǎn)擊量:1001
人工智能存在信任問(wèn)題。我們依靠AI越來(lái)越多,但它還沒(méi)有贏得我們的信任。
例如,以Autopilot模式駕駛的特斯拉汽車在撞擊停止車輛方面有著令人不安的歷史。亞馬遜的面部識(shí)別系統(tǒng)在很多時(shí)候都有效,但當(dāng)被要求將所有535名國(guó)會(huì)議員的面孔與2.5萬(wàn)張公開(kāi)逮捕照片進(jìn)行比較時(shí),它發(fā)現(xiàn)了28個(gè)錯(cuò)誤匹配。一項(xiàng)旨在審查亞馬遜求職者的計(jì)算機(jī)程序被發(fā)現(xiàn)系統(tǒng)地歧視婦女。每個(gè)月,都會(huì)有新的AI弱點(diǎn)被發(fā)現(xiàn)。
現(xiàn)在的問(wèn)題不在于今天的AI是否需要做得更好,而是今天的AI需要嘗試做一些完全不同的事情。
特別是,我們需要停止構(gòu)建那些只是用來(lái)更好檢測(cè)數(shù)據(jù)集統(tǒng)計(jì)模式(通常被稱為深度學(xué)習(xí)的方法)的計(jì)算機(jī)系統(tǒng)通常使用稱為深度學(xué)習(xí)的方法,開(kāi)始構(gòu)建能夠掌握時(shí)間、空間和因果關(guān)系三大基本要素的計(jì)算機(jī)系統(tǒng)。
現(xiàn)今的AI系統(tǒng)對(duì)這些概念知之甚少。以時(shí)間要素為例,我們最近在谷歌上搜索了“喬治·華盛頓有沒(méi)有電腦?”,這是一個(gè)答案需要在時(shí)間框架內(nèi)將兩個(gè)基本事實(shí)(華盛頓生活時(shí)期、計(jì)算機(jī)發(fā)明時(shí)期)聯(lián)系起來(lái)的問(wèn)題。谷歌的前10個(gè)搜索結(jié)果都沒(méi)有給出正確答案。搜索結(jié)果甚至沒(méi)有真正解決這個(gè)問(wèn)題。排名最高的鏈接是《衛(wèi)報(bào)》關(guān)于瑪莎·華盛頓電腦肖像的新聞報(bào)道。
而谷歌的Talk to Books也沒(méi)能做到更好,這是一個(gè)旨在通過(guò)從龐大的文本數(shù)據(jù)庫(kù)提供相關(guān)段落來(lái)回答問(wèn)題的AI項(xiàng)目。它提供了20個(gè)段落,其中包含大量事實(shí),其中一些涉及喬治·華盛頓,另一些涉及計(jì)算機(jī)的發(fā)明,但兩者之間沒(méi)有任何有意義的聯(lián)系。
而涉及空間和因果關(guān)系的概念時(shí),AI的情況更糟。即使是一個(gè)年幼的孩子,第一次遇到奶酪刨絲器,斗可以弄清楚為什么它有鋒利邊緣的孔,哪些部分可以讓奶酪掉落,哪些部分是你可以用手指抓住的等等。但現(xiàn)存的AI系統(tǒng)沒(méi)有一個(gè)可以正確理解對(duì)象的形狀如何與其功能相關(guān)。機(jī)器可以識(shí)別出什么是物體,但不能識(shí)別物體的物理特征如何與其潛在的因果效應(yīng)相對(duì)應(yīng)。
對(duì)于某些AI任務(wù),這種主導(dǎo)數(shù)據(jù)相關(guān)的方法可以完美勝任。你可以輕松地訓(xùn)練深度學(xué)習(xí)機(jī)器,比如識(shí)別暹羅貓的照片和Derek Jeter的照片,并區(qū)分這兩者。這就是為什么這樣的程序適用于自動(dòng)照片標(biāo)記。但是他們沒(méi)有實(shí)現(xiàn)概念深度。例如,如果有很多不同的暹羅貓,但只有一個(gè)Derek Jeter,因此一張顯示兩只暹羅貓的照片并不顯眼,而一張照片顯示兩個(gè)Derek Jeters被篡改了。
在很大程度上,這種理解的失敗是像管家Rosie這樣的通用機(jī)器人仍然是一種幻想的原因。如果Rosie無(wú)法理解世界如何運(yùn)作的基礎(chǔ)知識(shí),我們就不能信任她。
沒(méi)有時(shí)間、空間和因果關(guān)系的概念,理解許多常識(shí)是不可能的。例如,我們都知道任何特定動(dòng)物的生命始于它的誕生并以它的死亡結(jié)束;它在生命中的每一刻都占據(jù)著空間中某個(gè)特定的區(qū)域;那兩只動(dòng)物通常不能同時(shí)在同一個(gè)空間,兩只動(dòng)物可以在不同的時(shí)間在同一個(gè)空間等等。
我們不必明確地被教授這種知識(shí)。這是一套背景假設(shè),即概念框架,使我們對(duì)世界的所有其他思考成為可能。
然而很多AI從業(yè)人員很少去在他們的機(jī)器中構(gòu)建這樣的背景假設(shè)。我們并不是說(shuō)這樣做很容易,相反,這是一個(gè)重大的理論和實(shí)踐挑戰(zhàn)。但如果沒(méi)有它,我們就不會(huì)獲得復(fù)雜的計(jì)算機(jī)智能。
如果我們建造具有豐富概念理解的機(jī)器,其他一些擔(dān)憂將會(huì)消失。例如,哲學(xué)家尼Nick Bostrom曾想象過(guò)一個(gè)強(qiáng)大的AI機(jī)器,被指示制作回形針,但他不知道何時(shí)停止,并最終將整個(gè)世界——包括人類——變成紙夾。
在我們看來(lái),這種反烏托邦的猜測(cè)在很大程度上源于對(duì)今天無(wú)意識(shí)AI系統(tǒng)的思考。如果你只能計(jì)算統(tǒng)計(jì)相關(guān)性,則無(wú)法概念化損害。但知道時(shí)間、空間和因果關(guān)系的AI系統(tǒng)是可以編程以遵循更一般指示的事物,例如“機(jī)器人不會(huì)傷害人類,或通過(guò)不作為,允許人類受到傷害”