靠AI攻破AI?OpenAI推新工具 可識別文本為人力撰寫或AI生成
Tag
人工智慧 (AI) 研究初創公司 OpenAI 周二 (31 日) 推出新工具,可用於判斷文本由人類撰寫或電腦生成。
2 個月前,OpenAI 推出 AI 聊天機器人「ChatGPT」,可根據使用者的發話或提示生成回應文本,成功引起大眾關注。
微軟 (MSFT-US) 上周宣布向 OpenAI 投資數十億美元,並表示將把該公司 AI 模型整合至其面向消費者和企業的產品中。
由於擔心學生利用 ChatGPT 應付各類作業,校方迅速下令限制 ChatGPT 的使用,但 OpenAI 執行長 Sam Altman 表示,在電腦等科技問世後,教育已發生變化,自家公司的技術也有很多方式可協助老師識別 AI 編寫的文本。
該公司員工發文稱新工具可能會出錯,且這是正在進行中的工作,希望可獲得家長和老師對新工具分辨文本結果的反饋。
根據該文,目前新工具適合用於 1000 字元以上的文本,能成功分辨 26% 的 AI 英文文本,但同時將 9% 人力撰寫的文本誤判為 AI 生成。目前僅適用英語文本。
這並非 OpenAI 首創,普林斯頓大學學生 Edward Tian 本月稍早也宣布一款專為教育工作者設計的工具,名為 GPTZero,同樣用於分辨文本為人力撰寫或 AI 生成。