《AI世代與我們的未來》:最具革命性也最不可預測的後果,會發生在人工智慧與人類智慧相遇之處

我們想讓你知道的是
三位世界上極富成就的思想家齊聚一堂,思考人工智慧將如何改變我們與知識、政治和所生活的社會之間的關係,探索人工智慧對我們所有人的意義。我們正在經歷一個空前的、不同於以往的時代。
文:亨利.季辛吉(Henry A. Kissinger)、艾力克.施密特(Eric Schmidt)、丹尼爾.哈騰洛赫(Daniel Huttenlocher)
人工智慧與安全動盪
核子武器的毀滅力量和網路武器的神祕,搭配上新型態的戰力,結合前幾章所說的人工智慧原則。悄無聲息,有時候試探性地,帶著清楚、明顯的力道,各國都在開發和部署人工智慧,以採取策略行動,啟動不同的軍事戰力,有可能對安全政策帶來革命性的影響。
將非人邏輯導入軍事系統與流程會改變戰略。和人工智慧一起訓練或搭配的軍隊與維安部隊將掌握內情和影響力,可以奇襲,也會造成混亂。這種夥伴關係可能會讓傳統的戰略與戰術失效,也可能會對傳統的戰略和戰術帶來決定性的強化力量。如果人工智慧經過指派可控制(攻擊型或防禦型)網路武器或戰機等實體武器,可能將迅速執行一些人類很難執行的功能。像美國空軍的已經在試飛階段就駕駛過戰機、操縱過雷達系統了。在這個例子中,開發人員設計人工智慧在沒有人類控制的情況下做出「最後的判斷」,但人工智慧的能力僅限於操縱戰機和雷達系統。其他國家和設計團隊的限制可能比較少。
人工智慧除了可能影響戰略之外,因為有單獨的邏輯可以自主運算,所以還會加上一層不可計算的特質。最傳統的軍事戰略與戰術基礎,是假設人類敵軍的行為或決策符合已知的框架,或符合經驗與傳統智慧的定義。可是人工智慧操縱著戰機或掃描目標時,依循自己的邏輯,對手可能不知道這是什麼邏輯,也無從判斷這是不是傳統的信號或虛招,而且在多數情況下,人工智慧的處理速度比人類的想法來得快。
戰爭一直都不確定,一直在應變,可是人工智慧加入之後會創造新的維度。因為人工智慧很動態,還可以因應危急情況,有些國家就算是開創出人工智慧設計的武器或人工智慧操作的武器,也不完全知道這武器有多強大,或是在特定情況下會怎麼做。若這樣東西可以察覺到人類不一定能那麼快就察覺到的環境變化,並且從中學習、變化,而且學習與應變得速度還比人類的思想更快,那我們要怎麼開發出攻擊或防衛的戰略?如果有人工智慧輔助的武器依賴人工智慧對於戰況的覺察,並且根據人工智慧觀察到的現象做出結論,有些武器的戰略效果是不是要用了才知道?如果對手祕密訓練自己的人工智慧,在衝突之外的各國元首,會知道他們在軍備競賽中是領先還是落後嗎?
在傳統衝突中,對手的心理對於戰略行動至關重要。演算法只知道自己的操作方式與目標,不懂道德與質疑。因為人工智慧有潛力可以適應遭遇的現象,當兩種人工智慧武器系統要對抗的時候,沒有一邊能清楚理解互動的結果,或波及其他領域的間接影響。
人工智慧或許只能很不精準地判斷對手的能力,以及攪進衝突裡要承受的代價。對於工程師和建造者來說,這些限制讓他們更重視速度、效果的範圍和耐受力,這些特性會讓衝突更緊繃,讓更多人感受到衝突,並且讓衝突更難預測。
同時,即使有了人工智慧,堅強的國防還是安全的前提。因為人工智慧無處不在,所以不會有任何國家單方面放棄這項新科技。但就算各國政府在加強武裝,也應該評估並試著探究要怎麼把人工智慧的邏輯加到人類的戰鬥經驗裡,才能讓戰爭更人性化、更精確,並反思這整件事情對於外交與世界秩序的影響。
人工智慧與機器學習擴大了現有武器的能力,所以會改變行為者的戰略與戰術選項。人工智慧不但可以讓傳統武器瞄準目標時更精確,也可以用不同於傳統的新方式來瞄準,例如(至少理論上)可以瞄準人或物,而不是地點。人工智慧網路武器在整理了海量資訊之後,可以學習在不需要人類發現軟體弱點的時候就突破防備。同樣地,人工智慧可以用於防衛,找出缺陷並在敵人利用漏洞之前加以修復。但因為攻擊者可以選擇目標,人工智慧讓攻擊方擁有必然且可能無法超越的優勢。
如果對手訓練人工智慧去操縱戰機、獨立設定目標、開火,那麼使用更大型武器(或甚至核武)的戰術、戰略與意願會有何變化?
人工智慧開啟了資訊領域戰力的新視野。生成型人工智慧可以創造許多真假難辨的假消息。由人工智慧促成的不實資訊或心理戰,包括使用人造的人物、圖片、影片、演講在自由社會裡創造新的罩門。許多遊行活動的照片和影片被廣為轉載,也創造出很多逼真的照片和影片,偽造公眾人物說出他們從未說過的話。理論上,人工智慧可以找到最有效的方法來傳遞這些合成的內容,針對特定族群的偏見和期待來訂製人工智慧生成的內容。如果國家元首的合成圖像經過對手變造,來煽動社會不和諧的氣氛,或發起讓人誤解的指令,大眾(或甚至其他政府與官員)能即時分辨真假嗎?
核子武器的領域裡有廣為接受的禁令,還有清楚的嚇阻概念(衝突升高的程度),但關於人工智慧的運用,這些都不存在。美國的對手正在準備由人工智慧輔助的實體武器和網路武器,根據報導,有些已經在使用了。人工智慧的力量準備要部署機械和系統,運用快速的邏輯和應變的行為來攻擊、防禦、偵搜、散播不實資訊、辨識對方的人工智慧、中止對方的人工智慧。
人工智慧的能力在進化和擴散,大國在沒有可驗證的限制之下,會繼續努力追求優勢地位。他們會預設只要有用的新人工智慧能力出現,人工智慧必然擴散、普及。由於人工智慧科技可軍民兩用,容易複製和傳播,人工智慧的基礎功能和關鍵創新一定有很大一部分是公共、公開的。人工智慧被控制的地方,那些控制措施一定會被證明不夠完美,不管是因為科技進步讓這些控制措施過時落後,或因為這些控制措施只要對方下定決心就一定能找到方法滲透。新用戶可能會為了不同的目標去調整底層的演算法。一個社會裡的商業創新,可能會被另一個社會轉用成安全用途或資訊戰用途。人工智慧發展最尖端的部分裡最具戰略意義的那些層面,會經常被政府採用,以符合國家利益。
Tags:
新創Onramp Lab再下一城!看新產品ContactLoop聊天機器人,如何助金融業客戶業績提升2倍?

我們想讓你知道的是
談起Onramp Lab這個新創團隊或許有些陌生,但自2015年成立以來,憑藉著技術本位的實力與內部夥伴並肩合作,成功擄獲了金融、媒體、娛樂甚至是食品等不同產業,令人更好奇 Onramp Lab 究竟有何看家本領,又將拿出什麼秘密武器來滿足市場與客戶的需求?
談起Onramp Lab這個新創團隊或許有些陌生,但自2015年成立以來,憑藉著技術本位的實力與內部夥伴並肩合作,成功擄獲了金融、媒體、娛樂甚至是食品等不同產業,令人更好奇 Onramp Lab究竟有何看家本領,又將拿出什麼秘密武器來滿足市場與客戶的需求?
攤開Onramp Lab目前的解決方案版圖,Onramp Lab執行長吳鎮雄分析,目前團隊除了有以提供金融諮詢的搜尋引擎優化FinanceJar外,還有能提供從買廣告、刊登廣告等媒體採購一條龍服務的ThreeSigmaMedia,「但我們在協助企業過程中發現聯繫消費者的最後一哩路出現了斷層,」無論企業投入多少的廣告資源,若無法在黃金時間與消費者接上線,就容易錯過了可能創造產值的機會,甚至在錯誤的時間聯繫、也會影響品牌好感度。
吳鎮雄表示根據Onramp Lab內部的統計,當企業投放廣告找到消費者後,即時(realtime)聯繫與20分鐘後以及隔天聯繫所能創造的成交結果,將相差4倍到10倍之多,且消費者對與品牌的關注度與專注力也隨著時間雪崩式遞減,這讓Onramp Lab團隊試圖去思考,如何能近一步協助手中的企業客戶有效解決此一問題,因此催生出了Onramp Lab第三個解決方案:ContactLoop AI聊天機器人。
導入ContactLoop,為企業創造營收又省時省力

試想當你去參加一場聯誼獲得到心儀對象的聯繫方式時,你會怎麼做?「聯誼結束到約出來碰面,肯定會醞釀一段時間啊!」吳鎮雄笑著說。
同理,當企業透過廣告投放獲得一份潛在客戶名單,他們究竟是真的對產品有興趣,還是不小心誤按?過去企業只能照著這份名單逐一聯繫,拒絕、碰壁甚至是未果都是常態,但對於企業而言大量的人力與時間投入都是成本。如今,企業能透過Onramp Lab團隊打造的聊天機器人ContactLoop,透過AI與潛在客戶初步互動,再篩選出更精準的清單進行溝通,讓完成最後一哩交易的路變得更有效率。
吳鎮雄表示,這項服務在美國上線半年多來,就成功為金融產業企業客戶節省至少3成的客服人力,同時靠著更精準的消費者名單,衝出2倍業績成長的表現。「團隊花了大量時間了解客戶的使用場景,」如何與消費者打招呼、應該要準備哪些回應內容、避免開放式的問題不易聚焦等,當消費者被廣告吸引的那一刻起,ContactLoop就能即時的與他們聯繫,透過如同真人般一問一答的簡訊對話流程,篩選出真正含金量高的潛在消費者,協助企業最後能「一竿進洞」。
或許有所不知,由吳鎮雄領軍的Onramp Lab團隊,旗下產品皆是由在台灣的開發團隊一同協助打造,且團隊的平均年齡僅30歲,同時具備著強大的行銷DNA與產業知識背景,甚至對於銷售場景也多有著墨,相較於強調「技術」的聊天機器人,ContactLoop的產品設計上能更佳直覺與人性化,來自台灣的產品也更能解決各個市場的企業痛點。
Onramp Lab產品技術總監竇友志表示,ContactLoop不僅提供一站式服務,探索客戶需求,更隨時調整聊天機器人的參數與訓練其語言辨識模型,確保企業在使過程中能準確掌握消費者需求,更能針對問題進行AB測試、找出最佳的起手式或應答。針對美國市場區域碼眾多的特殊性,ContactLoop也能在後台依據消費者的所在地進行分類,避免用非其所在的區域碼電話聯繫,「就好像你在台北接到陌生區碼的電話也可能拒接是一樣的概念,」竇友志説。

摩拳擦掌台灣市場,瞄準保險、電商產業
如今,ContactLoop這項全新服務在美國已成功打下第一仗,「很期待接下來能帶進台灣市場,」吳鎮雄説。從他的觀察發現,諸如保險、電商、醫美這類型在台灣市場蓬勃發展,卻仍需要耗費大量人力與廣告成本進行陌生開發消費者的模式,或是高電價且資訊量大的電商零售,都是ContactLoop AI聊天機器人可以協助轉型的產業。

吳鎮雄認為Onramp Lab團隊能給予企業客戶的不只是ContactLoop而已,從協助企業找出精準消費者名單開始,整合ThreeSigmaMedia、FinanceJar等不同解決方案,以一站式的角色給予企業更完整的服務,他相信Onramp Lab能與企業客戶一同創造更好的價值。