AI也有缺陷？人類2016年來(lái)首次戰(zhàn)勝了最聰明的圍棋機(jī)器人
AI也有缺陷？人類2016年來(lái)首次戰(zhàn)勝了最聰明的圍棋機(jī)器人
2023-02-20 22:09:35
AI統(tǒng)治圍棋棋盤的時(shí)代迎來(lái)了一絲變數(shù)。
據(jù)媒體報(bào)道，近日，美國(guó)圍棋選手Kellin Pelrine擊敗了頂級(jí)AI圍棋機(jī)器人。
(資料圖片僅供參考)
Pelrine與這臺(tái)AI對(duì)弈了15場(chǎng)，其中1局是在計(jì)算機(jī)輔助下進(jìn)行的測(cè)試局，其余14局沒(méi)有計(jì)算機(jī)輔助。最終，Pelrine取得14場(chǎng)全勝的輝煌戰(zhàn)績(jī)。
自2016年谷歌旗下的AI圍棋機(jī)器人AlphaGo擊敗世界圍棋冠軍李世石以來(lái)，人類旗手一直在與AI的對(duì)決中處于下風(fēng)。李世石在輸給AlphaGo的三年后退役。他絕望地把AlphaGo稱為“一個(gè)無(wú)法被打敗的東西”，認(rèn)為屬于人類棋手的時(shí)代已經(jīng)結(jié)束。
但據(jù)媒體報(bào)道，被Pelrine打敗的AI圍棋機(jī)器人，棋力與AlphaGo不相上下。圍棋段位遠(yuǎn)低于李世石的Pelrine究竟找到了什么樣的致勝法寶？
靠AI打敗AI
實(shí)際上，Pelrine之所以能打敗AI，靠的也是AI。
Pelrine背后是美國(guó)公司FAR AI。這家公司開(kāi)發(fā)了一個(gè)發(fā)掘bug的圍棋AI，然后讓它和AI圍棋機(jī)器人Kata Go下了一百多萬(wàn)盤棋，專門尋找可以讓人類棋手利用的盲點(diǎn)。結(jié)果真的找到了AI的盲點(diǎn)：AI棋手分不清“聲東擊西”。
簡(jiǎn)單來(lái)說(shuō)，F(xiàn)AR AI的策略就是不斷利用角落的動(dòng)作分散AI的注意力，同時(shí)，慢慢將中央棋子串成一個(gè)大圈來(lái)包圍AI棋手。
Pelrine表示，對(duì)人類來(lái)說(shuō)，F(xiàn)AR AI的策略很容易就會(huì)被發(fā)現(xiàn)；然而，哪怕是到包圍圈即將完成的時(shí)候，AI棋手也沒(méi)有注意到自己的弱點(diǎn)。
由于AI圍棋機(jī)器人的底層架構(gòu)均來(lái)自谷歌旗下的AI研究機(jī)構(gòu)DeepMind，所以FAR AI的團(tuán)隊(duì)猜測(cè)，這處bug可能是通用的。
此前，Pelrine已經(jīng)利用這個(gè)bug擊敗了頂級(jí)AI圍棋機(jī)器人Leela Zero。
AI系統(tǒng)的缺陷
加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授Stuart Russell表示，這些最先進(jìn)的AI圍棋機(jī)器人被發(fā)現(xiàn)存在弱點(diǎn)，表明支撐當(dāng)今最先進(jìn)AI的深度學(xué)習(xí)系統(tǒng)存在根本缺陷。
這樣的缺陷是當(dāng)今大多數(shù)廣泛使用的人工智能系統(tǒng)所共有的，包括OpenAI創(chuàng)建的ChatGPT聊天機(jī)器人。
Stuart Russell指出，AI只能“理解”它們過(guò)去遇到的特定情況，而無(wú)法像人類一樣進(jìn)行“概括”：
“這再次表明，我們過(guò)于草率地認(rèn)為AI具有超人的智力水平?！?/p>
研究人員對(duì)媒體表示，AI圍棋機(jī)器人之所以會(huì)輸，可能因?yàn)椤奥晼|擊西”這一策略很少被使用，意味著AI系統(tǒng)沒(méi)有在足夠多的類似棋局中訓(xùn)練過(guò)，無(wú)法做出防備。
FAR AI的CEO Adam Gleave表示，如果像AI棋手那樣遭遇大量對(duì)抗性攻擊，人工智能系統(tǒng)的缺陷很容易就會(huì)暴露，但即便如此，市場(chǎng)對(duì)AI應(yīng)用的熱情不減：
“我們看到非常大的AI系統(tǒng)幾乎沒(méi)有經(jīng)過(guò)驗(yàn)證就被大規(guī)模部署。”
關(guān)鍵詞： 人工智能
