2023/01/20 |
【專訪】杜奕瑾:AI掀科技倫理議題,演算法偏見恐衝擊言論自由
聊天機器人ChatGPT其實很多回答是錯的。杜奕瑾強調,他在微軟做過類似專案,打造聊天機器人Tay,當時也能跟人無所不談,藉由聊天做更多學習;然而上線不到一天就緊急下架,因為Tay會學習人的錯誤答案,會學習暴力和偏見,也會學到種族歧視。
聊天機器人ChatGPT其實很多回答是錯的。杜奕瑾強調,他在微軟做過類似專案,打造聊天機器人Tay,當時也能跟人無所不談,藉由聊天做更多學習;然而上線不到一天就緊急下架,因為Tay會學習人的錯誤答案,會學習暴力和偏見,也會學到種族歧視。
根據測試,這款聊天機器人有非常精密複雜的躲避忌諱的系統:當被問及人工智慧系統本身對社會將造成什麼影響時,答案是「很難預測」;問及是否就推特數據接受過訓練時,答案是「不知道」。