為了取得高分，AI沒有按常理玩遊戲
我們想讓你知道的是
一項研究測試不同演算法玩遊戲的能力，無意中發現了其中一個遊戲的漏洞。
弗萊堡大學（University of Freiburg）一個研究團隊上個月在arXiv貼出論文預印本，探討機械學習領域中，演化策略（Evolution Strategies, ES）演算法跟強化學習（Reinforcement Learning, RL）的表現有何分別。
實驗中他們以八個Atari遊戲作測試，讓兩套演算法運行各自一小時及五小時，再比較分數。
在其中一個遊戲的測試中，研究人員發現ES演算法發現了兩個有趣的玩法。
這個遊戲稱為Q*bert，是1982年面世的經典街機遊戲，其後出現不同平台版本。實驗版本的遊戲畫面中，總共有6層共21個方格（頂層一格、第二層兩格、第三層三格，如此類推），踏上格子會使其變色，玩家每次可跳到鄰近一格，並需要將每格變成特定顏色才可過關。
當然，遊戲不會這麼簡單，期間還會出現一些敵人，需要避開或者殺死。另外，如果玩家在邊緣跳下便會死亡。
研究人員指出，演算法其中一個特別的玩法是，在遊戲開始時取得一些分數，然後不再追求完成那一關，反而控制主角站在邊緣，引誘敵人一起「自殺」。因為它發現如果敵人在主角旁邊，而它跳下去時，敵人會跟隨自己跳下，雖然會失去一條生命，但殺死敵人又會取得足夠分數獲得額外生命，於是它令主角周而復始地跟敵人自殺，不斷取得更高分數。
以下是遊戲影片︰
另一個特別玩法相信源於演算法發現了遊戲設計的漏洞，它先完成第一關，再讓主角以看起來隨機的方式跳來跳去。基於不明原因，遊戲並未前往至第二關，反而所有格子開始以不同顏色閃來閃去，主角不斷跳，分數就一直增加︰
不過研究人員也提到，演算法並非每次都利用這個漏洞取得高分數，有不少時間都取得低分。也有些時候，雖然演算法成功找到漏洞，卻所有格子開始閃的時候「自殺」︰
Q*bert最初街機版本的設計者戴維斯（Warren Davis）表示，他不熟識其他版本，但這種玩法看起來不太對勁，應不會在街機版本見到。
相關文章︰
- AlphaGo再進化，AlphaZero輕取國際象棋冠軍程式
- 暫別圍棋？DeepMind轉戰《星海爭霸》，未敢言何時擊敗人類頂級玩家
- 不需要程式碼！AI靠遊戲影片完美複製《Super Mario Bros.》
資料來源︰
2023資安產業日：新秀育成、跨域合作，資安培育基地在沙崙
我們想讓你知道的是
11月24日，數位發展部數位產業署於沙崙資安服務基地舉辦「2023資安產業日」，結合產業研討、資安講堂、企業攤位展示以及互動遊戲等形式，創造資安產業與產業資安交流媒合的舞台，匯聚產官學研等領域，打開臺灣資安新氣象。
疫情後，全球數位化的腳步更加迅速，網路惡意攻擊形式也不斷翻新，對臺灣造成許多資安威脅。因此，政府將資安產業列為國家重要產業之一，2021年底於臺南沙崙啟用的「ACW SOUTH 數位產業署沙崙資安服務基地」（下稱沙崙基地），就以推動資安產業發展、提升產業資安防護能量、推動產業資安、創造資安跨域合作為核心使命，積極推動人才育成、驗測實證產業技術、跨域合作等計畫，打造臺灣指標性的資安場域。
啟用至今，沙崙基地已培育超過2300人次的資安人才、已開發23套攻防演練劇本，並協助23家次廠商完成33項次資安產品驗測。為進一步凝聚臺灣資安產業，上週五（11/24）數位發展部數位產業署於沙崙基地舉辦「2023資安產業日」，結合產業研討、資安講堂、企業攤位展示以及互動遊戲等形式，創造資安產業與產業資安交流媒合的舞台，匯聚產官學研等領域，打開臺灣資安新氣象。
2023資安產業日盛大開幕：臺廠深耕、國際肯定，見證臺灣資安領先全球。
今年資安產業日聚焦於臺灣IT（資訊科技）、OT（營運技術）領域的資安研發、供應鏈聯防、產品驗測及人才培訓等亮點成果。數產署也在開幕儀式中加入巧思，展現各界深耕資安技術、提升產業資安韌性的歷程，並透過授贈資安新秀榮譽獎狀，凸顯沙崙基地攜手產業共育新秀的不遺餘力。此外，為了促進資安產業與產業資安進一步的交流與對話，也邀集資安領域專家，分享AI協防、公私協力及CMMC等最新資安趨勢；並於主會場中透過23家攤位展示，構築產官學研之間的交流平台，促進研發技術及創新服務的產業能量流動。
開幕式的成果短講中，榮獲2023年全球百大科技研發獎R&D 100 Awards的代表黃鼎傑組長表示「工控資安近年來逐漸受到產業重視，ICSentry工控資安威脅分析平台榮獲R&D 100 Awards的肯定，代表臺灣資安創新研發能量受到國際的注目與肯定。」對所有為資安產業奉獻心力的人來說，這座獎項是國際對臺灣資安研發能量的肯定，也鼓舞了在資安道路上持續努力前行的產業夥伴。綜觀今年臺灣資安的成果，數位發展署林俊秀副署長讚嘆，「臺灣資安真的是十年磨一劍。如今能夠收穫如此亮眼的成果，都是奠基於許多人多年來的共同努力，才終於走到今日這一步，真正把臺灣資安發揚光大。」
為產業注入新活力：業師領銜、接軌產業，從理論到實務的新秀實戰
不過，資安產業若要持續發展，帶來更多的創新技術及服務，後進的人才培育絕對是不可或缺的關鍵。因此，今年沙崙基地也延續去年沙崙資安新秀大賽「育才」的核心精神，辦理「2023沙崙資安新秀媒合培育計畫」，攜手產業師資，幫助對資安領域有熱忱、有興趣的新秀們找到學習的環境與資源，更上一層樓。
開幕式中，數位發展部唐鳳部長也蒞臨現場，親自頒贈今年度入選參與資安新秀媒合培育計畫的企業與同學們榮譽獎狀。授贈前，唐鳳部長也在致詞中肯定「企業出專題，學生來解題」的媒合模式。資安新秀代表陳躍心同學表示，計畫過程最特別的是接受業界導師的專業指導，不僅加深他們對資安理解，也在過程中體會到理論學習和產業實務的差異，對未來的課業學習及職涯發展都影響深遠。下午時段的新秀快講活動中，新秀們更充分展現對於資安領域的熱情、以及對業師輔導的感謝與肯定。
開幕式結束後，新秀們在「Testbed 資安應用多元展區」展出此次的專題成果，同時亦將想傳達給大眾的計畫成果資訊，透過有趣的闖關遊戲進行推廣；除此之外，現場還有「新秀成果導覽活動」，由專人詳盡地介紹沙崙計畫的發展脈絡與成果亮點，並帶領觀眾逐關導覽，深入認識不同新秀隊伍在培訓過程的點點滴滴：例如來自長庚大學資管系的「什麼時候要吃藏壽司」隊，運用叡揚資訊提供的培訓平台及漏洞檢測工具，開發出具備安全框架的「智慧安全會議室管理系統」；以及跨校組隊的「吃飯皇帝大_白飯北科大」隊，透過菱鏡提供的硬體設備進行實作，進行資安攻擊的觀測與分析，並且在專題期間偵測到一起真實的DDos攻擊。
有趣的是，分享過程中新秀們不約而同的表示，參與計畫最大的收穫是他們從一次次的挫折與困難中，領悟到實作與理論的差距。而當自己從單純解題、答題的「解題者」，進階為找到問題、解決問題的「出題者」後，他們對資安領域也產生更多熱情。另一方面，參與育才的企業導師也相當肯定新秀們的認真，他們學習過程的衝勁和態度，就是成功解題的關鍵，也期待未來沙崙基地的人才培育計畫能夠更大、更廣，為臺灣資安產業注入更多活水。
新秀人培 x 產業對話：臺灣資安的關鍵節點
開幕式時，唐鳳部長曾提到，「數位部為了彌平『資安產業』和『產業資安』的距離，長期致力於推動各項資安計畫，以期未來新的服務或需求出現時，雙方能在毫無知識隔閡的狀態下連結，最大化技術迭代的速度。」而ACW SOUTH數位產業署沙崙資安服務基地就是兩者交會的關鍵節點，不只培訓更多產業資安人才，同時挖掘更多潛在的新秀投入資安產業，也促成臺灣各界企業的相互交流，啟發越來越多的正向循環。也期許未來在數位發展部數位產業署的帶領下，沙崙基地能匯聚更多資安人才，凝聚產業資安能量，攜手產官學研朝更靈活、多元的資安未來邁進。
（數位發展部數位產業署廣告）
