講個(gè)笑話：谷歌的AI把3D打印烏龜認(rèn)成了一桿槍

南極熊越來越感受到，人工智能AI火得一塌糊涂，在地鐵里坐一兩個(gè)站，總會(huì)聽到身邊的人在談AI，比3D打印火得多，應(yīng)用領(lǐng)域也廣泛并且深刻很多。

△3D打印的玩具烏龜

不知不覺中，AI技術(shù)以各種各樣的形式融入了人們的生活，并逐漸贏得了當(dāng)今人類社會(huì)的信任。但是，這些技術(shù)應(yīng)用起來還是會(huì)出現(xiàn)各種差錯(cuò)。就以我們熟悉的“機(jī)器視覺識(shí)別”技術(shù)來舉例，它雖然十分耐用且擅長(zhǎng)捕捉細(xì)節(jié)，但是距離百分百精確還是有很長(zhǎng)的路要走。近日，谷歌的一款專用于進(jìn)行機(jī)器視覺識(shí)別的神經(jīng)網(wǎng)絡(luò)就鬧出了天大的笑話，它將玩具烏龜認(rèn)成了一桿槍。

這只烏龜可不普通，是由3D打印機(jī)制造出來的，也是“對(duì)抗性圖像”的一種實(shí)例。這種圖像內(nèi)嵌著一些特殊的紋理，是專門用來測(cè)試 AI 的視覺辨別精準(zhǔn)度的，就如同“光幻覺”對(duì)于計(jì)算機(jī)一樣。我們也可以使用該技術(shù)來做出一副“對(duì)抗性”眼鏡，戴上它，就可以騙過面部識(shí)別系統(tǒng)了。雖然對(duì)于人類的肉眼來說并沒有特別大的區(qū)別，但對(duì)于 AI 來說這便有天壤之別了。

△南極熊配圖：3D打印的金屬槍
如何消除“對(duì)抗性紋理”對(duì)于機(jī)器視覺的影響，可以說是近年來比較熱門的研究項(xiàng)目了。研究表明，雖然這些紋理對(duì)于 AI 影響很大，但是解決這一問題的方法其實(shí)很簡(jiǎn)單。對(duì)于“對(duì)抗性圖像”，我們可以通過放大或者旋轉(zhuǎn)的方式來讓 AI 正確地識(shí)別出圖像的真面目。但是為什么這只烏龜還是會(huì)騙過系統(tǒng)呢？是因?yàn)檫@只烏龜是一個(gè) 3D 物體，它身上的“對(duì)抗性紋理”對(duì) AI 進(jìn)行了多角度的干擾。

研究報(bào)告的作者、麻省理工學(xué)院（MIT）學(xué)生組織 Labsix 在報(bào)告中提到：“拿自動(dòng)駕駛汽車來舉例，人類肉眼中的街邊小攤，在 AI 視覺中就很可能變成了行人正在橫穿馬路�！畬�(duì)抗性紋理’對(duì)于 AI 的影響應(yīng)該得到相應(yīng)的重視，否則在神經(jīng)網(wǎng)絡(luò)的應(yīng)用中可能會(huì)對(duì)人類造成很大的影響，甚至帶來危險(xiǎn)。”Labsix 將他們的方法稱為“Expectation over Transformation”，詳情可以在他們的報(bào)告中參考。除了這只烏龜以外，他們還做出了被 AI 認(rèn)成茶杯的棒球。

Labsix 將他們做出的“對(duì)抗性圖像”放在 Inception-v3（谷歌研發(fā)的一款圖像識(shí)別器）下測(cè)驗(yàn)。雖說這次測(cè)試并不是完全針對(duì)機(jī)器視覺軟件，但是到目前為止，還沒有可以完全解決“對(duì)抗性圖像”問題的方法。谷歌并沒有對(duì) Labsix 的報(bào)告發(fā)表任何評(píng)論，但是谷歌的一位發(fā)言人說，他們的研究員們已經(jīng)將一些針對(duì)“對(duì)抗性圖像”的解決辦法上傳至互聯(lián)網(wǎng)。

來源：搜狐