人工智慧也懂歧視?乞討婦人的照片被分類為「狗」及「家畜」

人工智慧也懂歧視?乞討婦人的照片被分類為「狗」及「家畜」
Photo Credit: 三民書局

我們想讓你知道的是

當人工智慧躍上新聞版面,成為科技公司的新寵,為什麼學界的權威仍稱「人工智慧的革命尚未到來」?

演講:張智威(HTC 健康醫療事業部的總經理、史丹佛大學電腦系客座教授、日本SmartNews 人工智慧顧問)|彙整:連品薰

位於喜馬拉雅山區,不丹是個坐落在高山之頂的國度,那裡的人們彷彿只要抬起手就可以觸碰到雲朵。在這個天空邊緣的國度裡流傳著這樣的傳說:從前從前,第5任國王爬上了通往雲端的樓梯,騎著一頭斑頭雁飛到天堂去,卻忘記把樓梯降下來,從此之後不丹的人們就再也無法爬上雲端了。

古老的傳說如此,然而現代的人們卻能天天連上網路的雲端。飛機的發明甚至能讓我們飛躍雲端,俯瞰喜馬拉雅群峰。科技給了我們新的許諾,人類如今已能夠前往雲之頂、海之底的未知境域探索,而新一波人工智慧的復興,似乎也昭示著新世界的來臨。每一篇談論不同人工智慧科技的文章都不免俗地要問:「人工智慧會怎麼改變人類的生活?它能讓我們更幸福嗎?」然而在這之前,我們得先瞭解當代人工智慧的應許和限制,才不會成為從雲端摔落的伊卡洛斯(註:希臘神話裡的人物,因飛得太高,使得蠟製雙翼遭太陽融化,跌落水中喪生)。

身為HTC健康醫療事業部的總經理和史丹佛大學(Stanford University)電腦系客座教授,張智威教授能與大家分享最多的,還是過程中的困難與突破,尤其是與數據拔河的歷程。是在這樣前進三步,後退兩步的反覆摸索中,才有了今天大家所看見的人工智慧之躍進。

從尼泊爾經驗看電腦視覺的盲點

在2017年年初的一次研究行旅中,張教授和史丹佛大學的團隊從不丹穿越尼泊爾到拉薩,在喜馬拉雅山區拍了很多照片,旅程的尾聲張教授想以這些照片測試看看AlexNet的影像辨識能力。2012年ImageNet LSVRC比賽的冠軍AlexNet是利用ImageNet資料庫訓練出來的8層卷積神經網路,也是第一個將深度學習應用在電腦視覺中的影像分類器(image claissfier),傳聞可達到99%的準確率。

因此,張教授的第一張測試,是尼泊爾旅館外,一位婦人抱著嬰兒乞討的照片。當時他們被交代:在尼泊爾不能當眾施捨,否則群眾會一窩蜂的湧上來。因此他們只能滿懷淒涼地走過,並為婦人留下一張剪影。當他們再回顧這張照片時,想到的關鍵字是「貧窮」、「受苦」以及「被忽視」,不過張教授知道當代的分類器無法辨識出這些形容詞,頂多可以認得照片中的物件如「人」、「街道」等;但實際上將乞討婦人的照片丟到AlexNet所訓練的Caffe分類器(Caffe classifier,一種能實現多標籤影像的分類器)中,電腦判斷的結果卻是「狗」及「家畜」。

GDFG
Photo Credit: 三民書局
乞討婦人的照片被影像分類器分類為「狗」及「家畜」。

不信邪地,他們另選了一張兒童在孤兒院中學習的照片,張教授心中想的關鍵字是「希望」,並預期分類器至少可以認出「兒童」,但電腦又再一次的沒認出人,或許是將孩子身邊的書桌認成鋼琴了,它給出的是「衣服」、「樂器」及「商品」等答案。

GERGR
Photo Credit: 三民書局
兒童在孤兒院的照片被分類為「衣服」、「樂器」及「商品」。

最後一張照片,他們選擇了一位僧侶五體投地地在拉薩街上膜拜的照片,這時他想到的是「尊敬」、「奉獻」及「信仰」等詞,電腦卻同樣的得出「狗」及「家畜」的結論。

VDV
Photo Credit: 三民書局
僧侶五體投地膜拜的照片被分類為「狗」及「家畜」。

人工智慧也有歧視心態嗎?

在影像分類領域中,所有研究跟報導都告訴我們,人工智慧的正確率已經超過人類了,但為什麼實際測試卻會得出各種光怪陸離的答案呢?從這次的分類器測試中,我們又可以學到什麼經驗?

首先,機器不會有人類的歧視心態,那麼為什麼它會把尼泊爾婦人及拉薩僧侶都看成是狗呢?原因是「機器無法判斷它沒見過的東西」。由於這一波AI的復興奠基於資料驅動(data driven)的特徵學習(representation learning),其需要大量且多元的資料支持,而ImageNet雖然提供了夠多的資料,卻不夠多元。換句話說,如果ImageNet資料庫中沒有喜馬拉雅山區居民的圖像,它所訓練出來的分類器也無法辨識出喜馬拉雅山區的居民。總而言之,現階段人工智慧的影像辨識需要足夠數量(scale)與多元(diversity)的數據才能發展。

因此,回過頭來我們必須思考自己是否具有達到這些條件的資料庫呢?如果沒有,我們又可以如何將人工智慧應用在產業上?

貴為科技新寵,人工智慧革命仍尚未到來

2018年4月,人工智慧學界權威加利福尼亞大學柏克萊分校(University of California, Berkeley)教授喬丹(Michael I. Jordan)以「人工智慧的革命尚未到來」為題發表了他對這一波人工智慧熱的看法,文中他提到了當今關於人工智慧的公眾論述,經常阻礙我們看見整體的圖像,以及其中的機會與風險。當人工智慧躍上新聞版面,成為科技公司的新寵,為什麼學界的權威反而要跳出來提醒我們仍須努力研發呢?或許,在討論人工智慧的應許之前,我們必須重新釐清這場被視為AI文藝復興的運動做到了些什麼。

大家所熟悉的深度學習是這波復興中最熱門的話題,但實際上卻只是人工智慧大餅中的一小塊。人工智慧中最大的子集是機器學習,何謂機器學習呢?簡單來說,機器學習最重要的元素就是資料跟算法。資料分為附標籤的(labeled data,代號L)跟沒有標籤的(unlabeled data,代號U),前者包含影像跟標籤資訊(例如:裡面有貓、有人),後者只有單純的影像。接下來我們還需要一個算法(learning algorithm),舉例來說深度學習就是一種算法。其中,若只將標籤資料(L)放入算法裡就稱為監督式學習;反之若只放無標籤資料(U)則是非監督學習(unsupervised learning);兩者皆有(L + U)就是半監督學習(semi supervised learning)。將資料丟進算法之後便可以求出一個函數(f),靠這個函數我們就能對未知的目標物件作出預測和分類。


猜你喜歡


一圖看懂微電腦瓦斯表:一遇異常自動遮斷最聰明,外加三大好處超貼心

一圖看懂微電腦瓦斯表:一遇異常自動遮斷最聰明,外加三大好處超貼心

我們想讓你知道的是

如果家中的瓦斯表已經到了該更換的時間點,這款能在瓦斯漏氣、超時使用,以及五級以上地震發發生時,自動遮斷的微電腦瓦斯表,將是你最好的選擇。

瓦斯表經過經濟部標準檢驗局檢定合格,有效期限為十年,相較傳統機械表,微電腦瓦斯表增加漏氣遮斷、超時遮斷及大地震遮斷3大安全遮斷功能,如果家中的瓦斯表已經到了該更換的時間點,微電腦瓦斯表將是你最好的選擇。

微電腦瓦斯表_第二篇_完稿_new

好便宜:每月只要40元,守護更全面

屆齡換裝微電腦瓦斯表,是完全免費的!只要你家裡有將屆十年的傳統機械表,瓦斯公司就會主動通知換表,而且在派人到家裡協助換裝之後,每個月只會多收40元的基本費,就可以安心享受微電腦瓦斯表帶來的完整守護。

好便利:一通電話,到府安裝

如果你已經迫不及待想要享受微電腦瓦斯表的安全保障,也可以直接跟瓦斯公司預約,瓦斯公司隨時待命,一通電話就可以申請,享受安全生活無需費力超簡單。

好操作:瓦斯度數一目瞭然,斷氣復歸一鍵啟動

微電腦瓦斯表和傳統瓦斯表計算度數的方式是一樣的。使用度數的狀態,同樣直接顯示在表面上,不需要重新適應,阿公阿嬤都輕鬆上手。可能也有人會擔心,微電腦表會不會不準?其實不管是傳統機械表,或者是微電腦瓦斯表,都需要通過經濟部標準檢驗局的測試後才可以上市,檢定合格有效期限十年,品質有保證。

當然,微電腦瓦斯表最強的守護表現,就是在漏氣、五級以上地震,以及超時使用等異常情況時,自動遮斷瓦斯,保障全家人都能過著安心安全的生活。在狀況排除之後,只要按下表上的復歸鍵,直到紅色LED指示燈亮起燈,並靜待數分鐘後至指示燈熄滅,就可以正常恢復供氣,一點也不麻煩。

生活要便利,更要自在安心有保障。每個月只要40元,差不多是一杯超商咖啡,或者一份鮪魚蛋餅的錢,就可以讓微電腦瓦斯表,站上我們居家安全守護第一線,現在就打電話給你的瓦斯公司,安排更換新表吧!

經濟部能源局廣告


猜你喜歡