AI現形!美國大學生開發「GPTZero」應用程式,有效檢查文章是否由「ChatGPT」生成

AI現形!美國大學生開發「GPTZero」應用程式,有效檢查文章是否由「ChatGPT」生成
Photo Credit: 截圖自GPTZero網頁

我們想讓你知道的是

ChatGPT在學習、工作中爆發性的應用衍伸而來剽竊、道德等問題,引發美國普林斯頓大學大四學生愛德華.田開發「GPTZero」應用程式,能夠有效地檢查文章是否為AI程式ChatGPT撰寫。

美國普林斯頓大學(Princeton University)大四學生愛德華.田(Edward Tian) 開發一款應用程式「GPTZero」,能夠有效地檢查文章是否為AI程式ChatGPT撰寫,「讓AI現形。」

愛德華.田主修電腦科學、副修新聞,花了寒假的部分時間來開發GPTZero。他在推特上寫道,他開發GPTZero的動機是為了對抗越來越多的AI剽竊行為,「這些東西是AI寫的嗎?我們人類有權利知道!」

他也在推特上展示GPTZero的使用方式與偵測結果,並說明GPTZero運作方式,GPTZero已經先受過資料庫訓練,並採取「困惑度」和「突發性(burstiness)」兩項檢測指標。

《NPR》報導說明,如果 GPTZero 對文本感到困惑,那麼它具有很高的複雜性並且更有可能是人為編寫的。然而,如果文本對機器人來說更熟悉(因為它已經接受過此類數據的訓練)那麼它的複雜性就會很低,因此更有可能是由 AI 生成的;另外,突發性比較句子的變化,人類傾向於以更大的突發性寫作,例如一些較長或複雜的句子與較短的句子一起使用,但AI 的句子往往更統一。

而在愛德華.田的推特文章下方,可以看到許多人留言、分享他們測試GPTZero的結果,並對此感到滿意。

面對ChatGPT在學習、工作中爆發性的應用衍伸而來的剽竊、道德等問題,GPTZero並非第一個嘗試辨別AI生成內容的應用程式,《TechCrunch》報導,ChatGPT開發商OpenAI也正嘗試在生成內容中嵌入不易察覺的秘密訊息印指示文章內容的來源,然而目前仍難以實現,因為太明顯的字詞標記會顯得奇怪,也降低文章的流暢性,但太微妙的標記線索又不夠明確。

《NPR》報導,GPTZero推出一週內已有超過3萬人試用,甚至因為太多人湧入而導致應用程式當機、暫停;Streamlit是GPTZero採用的免費託管平台,已介入並提供更多記憶體和資源來處理網絡流量。

新聞來源

延伸閱讀

【加入關鍵評論網會員】每天精彩好文直送你的信箱,每週獨享編輯精選、時事精選、藝文週報等特製電子報。還可留言與作者、記者、編輯討論文章內容。立刻點擊免費加入會員!

責任編輯:劉亭妤
核稿編輯:楊士範