（愛云資訊信息）谷歌在10月23日宣布，SynthID現(xiàn)已向任何想要嘗試的人開放。這項用于驗證AI生成內(nèi)容的真實性的系統(tǒng)，會在生成的圖像、視頻和文本中嵌入不可察覺的水印，使用戶能夠驗證某件內(nèi)容是否由人類或機器生成。谷歌表示，“我們將開源SynthID Text文字水印工具。該工具可供開發(fā)人員和企業(yè)免費使用，幫助他們識別由AI生成的內(nèi)容?！?

SynthID于2023年推出，作為一種為AI生成的圖像、音頻和視頻打水印的方法。它最初被集成到Imagen中，隨后該公司在2024年5月的I/O大會上宣布將其整合到Gemini聊天機器人中。

SynthID系統(tǒng)通過在文本生成過程中對生成的tokens進行不可察覺的水印編碼來工作。DeepMind今年5月表示，該系統(tǒng)通過在生成點引入額外信息，并調(diào)節(jié)生成tokens的可能性來實現(xiàn)這一點。

通過將模型的單詞選擇及其調(diào)整概率分數(shù)與加了水印和未加水印的文本的預期分數(shù)模式進行比較，SynthID可以檢測出該句子是否是人工智能寫的。

據(jù)10月23日發(fā)表在《自然》雜志上的一項研究表述，這一過程不會影響響應的準確性、質(zhì)量或速度，而且也不容易被繞過。與標準元數(shù)據(jù)不同，標準元數(shù)據(jù)可以很容易地被刪除，SynthID的水印即使在內(nèi)容被裁剪、編輯或其他方式修改后仍會保留。

美國馬里蘭大學副教授索海爾·費齊（Soheil Feizi）在接受麻省理工學院科技評論采訪時表示：“實現(xiàn)對AI生成文本的可靠且不可察覺的水印技術(shù)在根本上具有挑戰(zhàn)性，尤其是在大型語言模型輸出接近確定性的情況下，比如事實問題或代碼生成任務(wù)?！?費齊教授同時指出，其開源特性允許社區(qū)在不同的環(huán)境中測試這些檢測器并評估它們的魯棒性，有助于更好地理解這些技術(shù)的局限性。

然而，SynthID系統(tǒng)并非萬無一失。盡管它能夠抵抗篡改，但如果將文本通過語言翻譯應用程序處理或經(jīng)過大幅改寫，SynthID的水印就會被移除。對于較短的文本片段，SynthID系統(tǒng)效果不佳，也無法確定基于事實陳述的回復是否由AI生成。比如對于“法國的首都是什么？”這個問題，只有一個正確的答案，無論是人類還是AI都會告訴你是巴黎。

如果用戶想親自嘗試SynthID，可以從Hugging Face上下載，這是谷歌更新后的負責任人工智能工具包的一部分。