• 確認
  • .

2016/12/01 | 精選書摘

當人工智能跨過門檻後,愈聰明就愈危險

當一個人工智慧還弱小時,它會表現得樂於合作,且愈是聰明愈合作。當這個人工智慧夠強大——在毫無預警或刺激之下——它會出擊而單極化,並開始根據其終極目標的準則,來最佳化整個世界的資源。

2016/11/29 | 精選書摘

當人工智慧還很愚笨時,聰明會比較安全;然而當它變得很聰明,愈聰明就愈危險

背信轉向——當一個人工智慧還弱小時,它會表現得樂於合作,且愈是聰明愈合作。當這個人工智慧夠強大——在毫無預警或刺激之下——它會出擊而單極化,並開始根據其終極目標的準則,來最佳化整個世界的資源。