有「人工智能(AI)教父」之稱的電腦權威欣頓(Geoffrey Hinton)日前接受《日本經濟新聞》訪問時提出警告,10年內將出現自主殺死人類的機械人武器。
【新聞有價 記者有格 立即訂閱:http://bit.ly/3wGQh7c】
現為加拿大多倫多大學的名譽教授的欣頓認為AI有可能威脅人類,他說坊間有很多人都以為,如果要防止AI失控,只要將電源開關關掉就可以了。但有超越人類智慧的AI能夠用語言來操縱人類,或者會試圖說服我們不要關掉開關。
他表示,如果給AI設定目標,作為解決對策,它可能會找出對人類不利的方法。比方説,假設向AI下達遏制氣候變化的指令。AI會意識到為了達到目的而有必要將人類清除。
欣頓又指出,今後還可能出現不同的AI之間相互競爭的局面。比如,若AI之間發生爭奪數據中心等資源,這將會是一個像生物體般推動進化的過程。人類面對透過競爭而變得更聰明的AI,人類將落在後面。
這位權威又預計,未來10年內將出現自主殺死人類的機械人武器。他估計,機械人武器或許遲早也會被限制,但可能要等到真正在戰場上被使用、人類認識到會帶來多麼悲慘的結局後才能實現。
欣頓是一個「深度學習」(Deep Learning)與神經網路(指模仿人腦的數學模型)先驅,他的研究幫助奠定了AI發展基礎。2023年,他突然從已經工作10多年的美國谷歌辭職,並開始談論AI的威脅。