打假圖!谷歌內嵌警示標記 提供額外資訊以利辨識真偽
Tag
谷歌 (GOOGL-US) 周三 (10 日) 表示,為解決影像造假問題,將把 AI 生成的影像嵌入識別標籤,以利告知使用者該影像為 AI 生成。
影像內嵌的資訊無法以肉眼識別,但 Google Search 等軟體可讀取並以標籤警示使用者。
谷歌也會針對所有 AI 生成的影像提供額外資訊來防範詐騙,包括:該影像首次上傳至搜索引擎的時間,以及該影像是否曾被新聞網站引用過。
谷歌的警示範例寫道,AI 生成圖片時,下方會直接註明「影像自行標記為 AI 生成,而非事後判定該影響真偽。
谷歌表示,Shutterstock 及 Midjourney 都支持這個標記圖片的新作法。這些標記可分類影像、作為訓練演算法的媒介。
這是迄今大型科技公司對 AI 生成物進行標記和分類的重大努力。由於 AI 生成能力強大,無論是文本或圖片,都能達到以假亂真的水準,政府與科技工作者曾警告,這恐遭人不法利用,發送垃圾郵件、詐騙或有目的的宣傳,以愚弄大眾。
例如近期 Midjourney app 上以 AI 生成一張教皇 Francis 身穿時尚冬季大衣的圖片被瘋狂傳閱,部分人誤以為該照片為真。
谷歌周三舉行年度開發者大會,並在會上宣布一款售價 1799 美元的折疊式手機和其他谷歌產品的 AI 附加功能,其中包括圖片生成器。