谷歌一直是人工智能領(lǐng)域“產(chǎn)學(xué)研”結(jié)合的標桿，但最近這家公司與自己的科學(xué)家們的關(guān)系開始出現(xiàn)裂痕。

路透社近期的一份報道稱，其從谷歌內(nèi)部通訊和對相關(guān)研究人員的采訪了解到，谷歌今年發(fā)起了“敏感話題”審查，希望以此加強對公司旗下科學(xué)家所發(fā)表的論文的控制。目前谷歌已經(jīng)至少有三次要求相關(guān)作者避免對其技術(shù)進行負面評價。

這意味著，谷歌在官網(wǎng)上宣稱公司的科學(xué)家們享有“實質(zhì)性”自由，但事實可能正好相反。

報道提到谷歌的前員工蒂姆尼特·格布魯（Timnit Gebru），她曾與瑪格麗特·米歇爾（Margaret Mitchell）共同領(lǐng)導(dǎo)一個12人的團隊進行AI軟件的倫理學(xué)研究。然而就在本月，她突然離開了谷歌，引發(fā)了外界對于谷歌和它旗下研究員之間關(guān)系的議論。

格布魯認為，谷歌之所以辭退她是因為該公司曾禁止她發(fā)表關(guān)于語言模仿AI可能會對邊緣化人群不利的研究，而她對此提出了質(zhì)疑。而谷歌則宣稱格布魯是自己提出辭職，并且公司已經(jīng)接受并加速她的辭職申請了。暫時還很難判斷格布魯?shù)恼撐氖欠窠?jīng)歷過“敏感話題”審查。

格布魯在Twitter上就“被辭職”發(fā)聲

谷歌高層對于此事也進行了回應(yīng)。谷歌高級副總裁杰夫·迪恩（Jeff Dean）在本月的一份聲明中說，格布魯?shù)恼撐闹挥懻摿藵撛诘奈：?，而沒有討論為解決這些危害正在進行的努力。同時迪恩補充說，谷歌支持AI倫理學(xué)獎學(xué)金，并且“正在積極改善我們的論文審閱流程，因為我們知道太多的檢查和制衡會（使審查流程）變得很繁瑣?！?

不過谷歌試圖干涉學(xué)術(shù)研究并不是個例。據(jù)報道，一篇出自谷歌研究員之手的論文被要求“采取積極的態(tài)度”。這篇論文研究的重點是智能推薦技術(shù)，例如YouTube采用了這種技術(shù)來為用戶提供個性化內(nèi)容推薦。

路透社看到的論文草稿中提到了對這項技術(shù)的一些“擔憂”，比如它可能會促進“虛假信息、歧視或其他不公平的結(jié)果”和“內(nèi)容多樣性的不足”，并導(dǎo)致“政治極化”。然而，最終發(fā)表的版本卻稱智能推薦系統(tǒng)可以促進“信息的準確性、公平性和內(nèi)容的多樣性”。

這篇論文最終以“你正在優(yōu)化什么？使推薦系統(tǒng)與人類價值觀保持一致”為標題發(fā)表，并且沒有提到谷歌研究人員在其中的貢獻。很難解釋為什么會有這種情況發(fā)生。

近幾年整個技術(shù)行業(yè)中AI的研究與開發(fā)激增，這也促使了美國和其他地方的主管部門提出了相應(yīng)的監(jiān)管要求。一些科學(xué)研究表明，面部分析軟件和其他AI可以使偏見長期存在或侵犯隱私。而近年來谷歌在其整個服務(wù)中使用了大量AI技術(shù)，包括用AI來解析復(fù)雜的搜索需求，在YouTube上確定推薦內(nèi)容并在Gmail中自動補全語句。

谷歌想必非常清楚外界的這些擔憂和質(zhì)疑，因此希望竭力營造出一種對AI系統(tǒng)的積極印象。迪恩表示，去年谷歌研究人員發(fā)表了200多篇有關(guān)負責任地開發(fā)AI的論文，而相關(guān)項目總共有1000多個。

但另一方面，研究谷歌服務(wù)中的偏見被該公司“敏感話題”政策所禁止。

同時報道還稱，谷歌的新審查程序要求研究人員在從事面孔和情感分析，種族、性別和政治背景歸類等研究主題之前要先咨詢公司的法律、政策和公關(guān)關(guān)系團隊。

“技術(shù)的進步和我們?nèi)找鎻?fù)雜的外部環(huán)境正在逐漸導(dǎo)致看似無害的項目引發(fā)道德、名譽、監(jiān)管或法律問題”，相關(guān)文件這樣解釋公司出臺新規(guī)的原因。這份文件的具體發(fā)布時間尚不清楚，不過三名谷歌的在職員工透露“敏感話題”政策始于今年六月。

在種種的限制之下，谷歌員工想要發(fā)表論文不再是易事。根據(jù)內(nèi)部信件，一位谷歌研究人員為了在上周發(fā)表一份論文，與審閱者之間郵件往來100多次——他將這一過程比作“長征”。而且還不知道結(jié)局如何。