人機大戰觀後雜感 - 圍棋

※ 引述《hdjj (hdjj)》之銘言：
: : → devidevi: AI選擇投子之後，已經認為沒有贏的希望.... 05/27 23:18
: : 推 HeterCompute: 說句實話，AlphaGo想要投子的時候古力是真的完全沒 05/27 23:19
: : → devidevi: 對AI而言怎麼下都是輸，這樣不算是BUG吧 05/27 23:19
: : → HeterCompute: 機會了，古力只是想要整理一下心情，畢竟從大優變成 05/27 23:19
: : → HeterCompute: 輸棋，那時差距已經二十目了，不可能逆轉的 05/27 23:20
: 不是有意抬摃，但這裏是有盲點的。
: 這局棋就是個很明顯的例子。在人機配對賽裏，人就是最大的變數。暫且不論時力
: 故意自緊一氣自填一眼的極端例子，以人加機器這樣的組合，只要是人，就有可能
: 出錯，或是下出緩著。
: 今天配對的是兩位高手，所以這樣的情況並不明顯，換成兩位業餘棋手上去，可以
: 預期出現意外翻轉的可能性更高。
: 這在現實應用上的意義更深遠。以自動駕駛為例，ＡＩ在判定時也許總是可以做出
: 最佳決策，但總是有突然衝出的老人，油門當煞車踩的新手，硬闖紅燈的死小孩。
: 在類似這種情況下，防禦性的應對，柔軟性的妥協忍耐，都是極為重要的。
: ＡＩ在逆境劣勢裏的反應，是一個很重要的課題。應該沒有人願意看到，輸給李世
: 石的ＡＩ發神經的樣子。因為這和ＡＩ「求勝」的原始指令是有所衝突的。
: 只是這討論下去沒完沒了。這種事，還是留給黃博士這種專業人士傷腦筋吧。XD

雖然AG五局全勝，但是就內容來說，大家不得不覺得AG確實存在著弱點。這些弱點究竟
該怎麼說呢？我想就是一個：「沒盡全力。」如果以後AG是要用來服務人類，增進人類
福祉的話，AG這一個弱點會讓人覺得信用不夠。而且這個弱點若是沒有被解決的話，很
可能不能被用來作自動化服務的人工智慧。

一個超強的AG可以當工程師，但是卻絕對不能當管家。今天我們要人工智慧絕對不是解
決單一問題，而是可以綜觀全局的管家。如果AG搞不定百萬分之一出現的意外，那絕對
是一個災難。比如說我們拿AG管理雙北市的紅綠燈，我們希望AG管理的紅綠燈讓交通更
順利，結果一個突如其來的災難，讓AG耍憨了起來，搞得全雙北市的紅綠燈通通在亂閃
。這是絕對不可以的。以上週團體賽的結果來說，古力那一邊的Alphago 就是在耍憨，
而且Alphago 不是軟體工程師key 出來的函數庫，它是自我學習的整體。我猜目前
deepmind並沒有能力修改AG讓他能在逆境採取積極對策。因為如果去年AG被李世石挖到
發瘋，今年重新再次自我學習應該也要把這一點改掉，但是結果並沒有，只是用強大的
能力掩蓋這個弱點而已。只要有個人類 (豬隊友?)在旁邊作亂，AG個體能力再強也要發
瘋。但是，AG發瘋是不被允許的。事實證明，AG如果傻掉，能力比常人還差。套用到更
大的系統面上去的話將會造成毀滅性災難。

--

--