專家憂人工智慧武器成「殺人機器」 多國研商限制規範

專家憂人工智慧武器成「殺人機器」 多國研商限制規範
Photo Credit: AP/達志影像

我們想讓你知道的是

人工智慧科技武器越來越多,無須人類指引即能自行判定擊殺目標。令人擔憂的是,這些聰明但毫無人性的武器,恐將發展到人類無法控制的局面。

Fearing Bombs That Can Pick Whom to Kill(The New York Times)

去年美國空軍B-1轟炸機在加州外海發射一枚洛克希德馬丁公司製造的實驗飛彈,開啟未來戰爭的序幕:機員發射並引導飛彈,飛彈在半途切斷通訊,自行從海上三艘船隻選擇攻擊目標,最後擊毀一艘貨輪。

科技進步,人工智慧科技武器越來越多,無須人類指引即能自行判定擊殺目標,自主武器軍備競賽已在國際間悄悄展開。令人擔憂的是,這些聰明但毫無人性的武器,恐將發展到人類無法控制的局面。專家擔心人工智慧武器等於是為所欲為的殺人機器,應援引公約予以限制;多國代表13日齊聚瑞士日內瓦,研商如何制定相關規範。屆時與會者將提出是否援引聯合國禁止研發某些特定武器的「特定常規武器公約」加以限制。

目前英國、以色列與挪威,都已部署自主飛彈與無人操控的無人機,可使用於攻擊敵方的雷達、坦克或軍艦等。例如具備有「射後不理」(fire-and-forget)能力的英國硫磺飛彈,可自行分辨坦克、汽車與巴士,也毋須監控就在預先指派範圍內找到攻擊目標。多枚硫磺飛彈還可互相溝通,分享找到攻擊目標。

近年來,人工智慧在高速股票交易、醫療診斷、甚至自動駕駛汽車等多個領域漸漸補上人類決策的不足,而新型雷達、雷射與紅外線感測器的技術進展,有助飛彈與無人機更精確地計算位置與方向。

五角大廈已發布方針,要求研發自主武器須經高層將領批准。但有專家說,科技發展太快,方針早過時。這類武器最大好處是更精準,可降低平民傷亡。專家表示,製造先進武器的國家應同意設限,讓武器系統在選擇與攻擊目標方面具備「有意義的」人類控制;但也有軍事分析家主張自主武器應獲接納,因為它們可能減少大規模死亡與老百姓死傷。

人工智慧(AI)發展突飛猛進,牛津大學人類未來研究所綜合多份專家訪調預估,2022年電腦有10%機會和人腦一樣聰明,具備直覺和邏輯能力,能從經驗中學習,2040年機率增至50%、2075年機率更衝上90%。一旦AI智慧和人類相當,未來就有機會超越人類,後果難以預料。霍金曾警告,人類恐怕會自取滅亡。10%受訪者認為,電腦智慧追上人類後,兩年內即可把人類甩在後頭,75%受訪者認為電腦還要30年才能壓過人類。

英國知名物理學家霍金等人曾在英國獨立報發表文章警告,AI短期內的影響端賴背後掌控的人而定,但長遠來看,AI能否被操控,才是問題的核心。因為AI未來可能會比金融市場還聰明、比科學家更具創意、比人類領袖更能操縱人心、甚至還有機會研發出人們完全無法理解的武器。

相關問題引發國際關注。聯合國5月13日在瑞士日內瓦舉辦首場國際會議,討論是否應該發展致命自主武器系統,也就是所謂的「殺手機器人」。

無人操控武器 國際共商規範(蘋果)
人工智慧武器竄起 專家憂成殺人機器(自由)
AI高速發展!電腦和人腦一樣聰明、2022年成真?(MoneyDJ)


猜你喜歡


2022沙崙資安新秀大賽盛大登場!新世代「資蛛人」攜手產官學研,共編臺灣縝密資安網

2022沙崙資安新秀大賽盛大登場!新世代「資蛛人」攜手產官學研,共編臺灣縝密資安網
Photo Credit: ACW SOUTH沙崙資安服務基地

我們想讓你知道的是

日前2022第一屆沙崙資安新秀大賽決賽於臺灣資安館盛大舉行,跟著我們一起走入現場,掌握臺灣資安產業最新脈動,並進一步了解沙崙資安服務基地(以下簡稱:沙崙基地)為培育臺灣未來的資安新秀,注入了哪些巧思吧!

近年資通訊科技飛速發展,數位轉型在公私企業組織間早已形成浪潮,我國政府也在8月27日正式掛牌成立數位發展部,結合施行多年的「智慧國家方案」推動策略,展現落實數位轉型的十足決心。在全面發展數位基礎建設、資通訊技術時,如何應對新世代的資訊攻擊、抵擋駭客入侵也成為我們必須齊心面對的挑戰。

資安防護並非依靠單點施力就可輕鬆完成,而是需要軟硬體、產業、技術、人才的綜合支撐。就好比要鋪展一張綿密的防護網,若要保證能接下每一次的衝擊,需要依賴的不僅是排列有序、堅固牢靠的絲線,還需要專業的「資蛛人」居中操盤,運用專業的繩結與技術,強化整體防護網的韌性;倘若操作過程有任何不慎,都可能導致鬆脫,讓防護網出現漏洞、失去張力。因此無論硬體再堅固、防護技術再完備,若缺乏具備資安意識的操作人才,任何一小步的失誤仍可能讓整體資安防護功虧一簣。

2022沙崙資安新秀大賽:硬體支援、知識分享、產業嫁接,資源挹注育人才

DSC04070-2
Photo Credit: ACW SOUTH沙崙資安服務基地

面對未來全新的資安挑戰,臺灣資安人才培育搖籃「 ACW SOUTH 沙崙資安服務基地」於八月中辦理「2022第一屆沙崙資安新秀大賽」,從人才育成的角度出發,延長黑客松(Hackathon)賽制的競賽時間以強化實作環節,並緊扣沙崙基地的資安推廣使命,採智慧製造、關鍵基礎設施、智慧綠能與跨領域資安應用作為四大競賽主題,期待藉此提攜臺灣年輕世代的資安新秀、強化產業防駭能力。如此專為「人才育成」量身打造的賽制,不只是創造大專校院生投入資安專題實作的機會,也企圖為臺灣的資安產業找尋創新可能。光在短短一個月的報名期間,就有17所大專校院,共計79位學生報名參加,共計33支隊伍提出研究專題參加初選,競爭相當激烈。

為了進一步養成選手的資安技術力,沙崙基地義不容辭地成為選手們的輔導擔當,投入豐富多樣的培育資源:初選入圍的20組隊伍不只能免費租借沙崙基地中超高規格的硬體設施與共創空間,還能優先參加沙崙基地辦理的資安實戰課程、工作坊與主題講座;在年底的成果發表會中,還會邀請臺灣業界的資安廠商參與,讓競賽隊伍不只獲得媒體露出機會,還能與產業實務對話交流,認識產業現況,甚至媒合進入資安產業,獲得工作或合作的珍貴機會。

如此豪華的培育資源更凸顯沙崙資安新秀大賽的特別之處,讓它從單純資安人才自我磨練、發光發熱的黑客松競賽,提升為拔擢資安新秀而舉辦的年度盛會!

資安新秀大賽現場報導:凝聚資安後起新秀,為臺灣注入產業新血

剛進入臺灣資安大會的會場,就看到滿滿的資安新秀們列席而坐,每個人皆摩拳擦掌準備決賽簡報。看著大家因為「沙崙資安新秀大賽」由臺灣北中南東齊聚一堂,為了爭取榮譽及獎勵,彼此競爭、腦力激盪的模樣,不禁令人熱血沸騰感到充滿希望,也深刻感受到沙崙基地對賽事舉辦及人才培育的用心。

DSC04474-2
Photo Credit: ACW SOUTH沙崙資安服務基地

決賽共有20組學生團隊從初賽的33支隊伍中脫穎而出,團隊分別來自大同大學、中山大學、中正大學、成功大學、宜蘭大學、南臺科大、高科大、雲科大、嘉義大學、臺東大學、臺科大等11所大專校院,他們在決賽中透過專案簡報來決定到底獎落誰家。而正式競賽開始前,評審們也再三強調,所有決賽團隊的研究主題及概念橫跨多領域且都相當完整,不只想法新穎、也十分切合當今產業的痛點,無論最終是否從決賽中脫穎而出,都希望大家能把握沙崙基地提供的輔導資源,努力實踐專案構想,並在年底的成果展中呈現最棒的結果;來自產業的評審更迫不及待地拋出橄欖枝,願意在產業實務中對同學們伸出雙手,期待未來更多的合作機會。

DSC04724-2
Photo Credit: ACW SOUTH沙崙資安服務基地

經過競爭激烈的簡報時間,當下不只驚嘆同學對於社會、產業細膩的觀察,也意識到原來資安與我們的日常其實距離這麼近,例如網頁防駭的主動偵測、通訊軟體訊息的AI辨識等,其實都是與生活密切關聯,但容易存在資安危害或漏洞的小地方。

既然是競賽,終究會決出勝負。本次「2022第一屆沙崙資安新秀大賽」最終分別由國立中山大學的「Starlight」以數獨資訊加密進行隱私保護的研究、國立宜蘭大學的「若『隱』若『線』」以AI動態無線頻譜的安全偵測系統榮獲佳作;國立臺東大學的「哩哪來臺東請你斟酌看」以AI針對資安入侵進行主動判斷並示警的研究榮獲第三名;國立臺灣科技大學的「K459」以工業物聯網之實體密罐系統的開發榮獲第二名;國立中山大學的「特洛伊獵手」以硬體木馬的設計及檢測榮獲第一名。

從得獎的組別也可以發現,今年沙崙資安新秀大賽的議題十分多元,從高度專業的產業面到平易近人的生活面都有所著墨,其中出題觀點與解題手法也令評審大為驚豔,期待年底成果發表會時,這些資安技術有進一步的實踐,未來更對臺灣的資安產業及日常生活帶來協助或補強。

打造全民數位韌性,從自我培力做起

當數位服務深入日常角落,資訊安全與你我的距離其實比你想像的還要接近。大至水廠電廠等國家民生基礎設施、提供資訊服務的民間企業;小至日常中滑滑臉書、撥打電話的舉動,都可能成為駭客攻擊的目標,資安危機甚至還會變換型態,愈來愈難以防範。

因此,沙崙基地培育人才、強化資安能量的使命,不只是影響國家長期發展的重要因子,也是影響「全民數位韌性」能否切實落地的關鍵因素。其實資訊安全的敏銳度、應用科技的數位力,是你我可以從生活中開始培養的,而沙崙基地展示了七大實作平台,透過互動展示與簡易圖說,讓民眾可以具體了解各種資安形式與威脅,如果對於數位發展有所遲疑、或是擔心面對突如其來的資安議題手足無措,不妨找天來沙崙基地晃晃,認識當前資安最新發展,培養與資安大賽選手們一樣敏銳的觀察力與資安意識。

「數位發展部數位產業署 廣告」


猜你喜歡