人工智能在各種任務(wù)上都取得了巨大的成功，比如進(jìn)行面部識(shí)別和駕駛自動(dòng)駕駛汽車，但人們對(duì)科技對(duì)社會(huì)的負(fù)面影響有著明顯的擔(dān)憂，比如人們失去工作的自動(dòng)化程度，以及新一代武器的危險(xiǎn)。
美國國家先進(jìn)工業(yè)科技研究院人工智能研究中心副主任Hideki Asoh在近期接受日本共同社采訪時(shí)說:“對(duì)于人工智能來說，設(shè)計(jì)出有利于人類的設(shè)計(jì)方法是至關(guān)重要的。”

一些杰出的研究人員和人工智能社區(qū)的先驅(qū)，包括麻省理工學(xué)院的馬克斯·特格馬克教授和加州大學(xué)伯克利分校的斯圖爾特·拉塞爾教授，在人工智能安全的討論中獲得了全世界的關(guān)注。

旨在確保科技造福人類的慈善和外展組織“生命研究所”(Future of Life Institute)發(fā)表了一封公開信，鼓勵(lì)包括研究人員和知名企業(yè)家在內(nèi)的8000多人簽署了一份強(qiáng)有力的、有益的人工智能。

信中寫道:“由于人工智能的巨大潛力，研究如何在避免潛在陷阱的同時(shí)獲得好處是很重要的。”

“我們建議擴(kuò)大研究，以確保越來越有能力的人工智能系統(tǒng)是強(qiáng)大和有益的:我們的人工智能系統(tǒng)需要做我們想讓他們做的事情。”

此外，近年來，杰出的研究者們簽署了另一份公開信表達(dá)他們對(duì)攻擊性的”自主武器”的擔(dān)憂，這是人類無法控制的

自主武器是軍事系統(tǒng)，能夠在沒有外界干預(yù)的情況下實(shí)現(xiàn)目標(biāo)。一個(gè)例子是一個(gè)武裝的四軸飛行器，它可以搜索并“消滅”人類的目標(biāo)，但根據(jù)這信，巡航導(dǎo)彈或遠(yuǎn)程無人駕駛的無人駕駛飛機(jī)，也不屬于自動(dòng)武器類別。

這封信指出了“發(fā)動(dòng)軍事AI軍備競賽”的危險(xiǎn)，同時(shí)指出“人工智能有許多方法可以使戰(zhàn)場更安全，特別是平民，而不需要制造新的殺人工具。”

“我想我們需要一份協(xié)議來制定某種控制機(jī)制，就像我們在核武器上的那樣，”阿蘇說。

為了進(jìn)一步發(fā)展有益的人工智能，關(guān)鍵是要弄清楚如何利用數(shù)據(jù)，以及在哪些領(lǐng)域，日本可以利用人工智能在醫(yī)藥、醫(yī)療和制造業(yè)中獲益。

“例如，在醫(yī)藥和醫(yī)療領(lǐng)域，人工智能的利用帶來了數(shù)據(jù)驅(qū)動(dòng)的個(gè)性化和定制，成本合理，”Asoh說。

在人工智能(AI)之前，一個(gè)更傳統(tǒng)的“一刀切”的方法，很少考慮個(gè)體差異，這是很普遍的，但有些人對(duì)特定的治療沒有很好的反應(yīng)。

因此，服務(wù)提供者需要進(jìn)行試驗(yàn)，以確定哪些藥物適用于哪些人群，例如，在癌癥藥物治療中。

Asoh指出，由于近期物聯(lián)網(wǎng)服務(wù)和技術(shù)的普及，大量的數(shù)據(jù)在各個(gè)領(lǐng)域都具有可收藏性。

他說，如果有數(shù)據(jù)，人工智能可以更準(zhǔn)確地預(yù)測特定疾病的治療和預(yù)防方法對(duì)某些人起作用，這可能導(dǎo)致在較佳情況下減少浪費(fèi)，從而控制醫(yī)療成本。

關(guān)于自動(dòng)駕駛汽車已經(jīng)處于積極開發(fā)和測試階段，Asoh說，“我認(rèn)為技術(shù)上，(AI)已經(jīng)達(dá)到了比人類更安全的駕駛水平”，同時(shí)也注意到有一些障礙需要被清除，以使這項(xiàng)技術(shù)得到廣泛應(yīng)用。
“人工智能不會(huì)累，它擁有360度視覺。”與人類司機(jī)相比，這是一個(gè)相當(dāng)大的優(yōu)勢。

與人工智能不同的是，在伯克利的電子工程和計(jì)算機(jī)科學(xué)系的網(wǎng)站上，針對(duì)特定的、狹窄的任務(wù)，比如面部識(shí)別和自動(dòng)駕駛，羅素解釋了人工智能和人工智能。

根據(jù)Russell的說法，AGI是一個(gè)旨在強(qiáng)調(diào)構(gòu)建通用智能系統(tǒng)的目標(biāo)，該系統(tǒng)可以適用于類似人類的一系列認(rèn)知任務(wù)，而ASI則大大優(yōu)于人類智能。

“很難在這個(gè)問題上做一個(gè)明確的預(yù)測作為研究人員,但我認(rèn)為不太可能超智完全超過人類各領(lǐng)域?qū)⒊霈F(xiàn)在2045年,一些人擔(dān)心,而AI將超越人類智慧在一個(gè)狹窄的范圍內(nèi)的任務(wù),因?yàn)樗呀?jīng)發(fā)生在某些領(lǐng)域,“Asoh說。

在各種類型的人工智能中，Asoh建議日本應(yīng)該更多地關(guān)注有利于人工智能的發(fā)展，比如解決人口老齡化問題。

“日本人口老齡化速度很快，我們需要做些什么來解決這個(gè)問題。”此外，從全球競爭力的角度來看，我們一定要把我們的工作的要點(diǎn)放在這類人工智能上。

他說:“據(jù)說日本在引進(jìn)它時(shí)失敗了，我們不能在人工智能領(lǐng)域重復(fù)同樣的錯(cuò)誤。”