在麻省理工學(xué)院林肯實(shí)驗(yàn)室智能與決策技術(shù)小組發(fā)表的一篇論文中(“ 設(shè)計(jì)的透明度：彌合視覺推理中的性能與可解釋性之間的差距 ”)今年夏天在計(jì)算機(jī)視覺和模式識(shí)別會(huì)議(CVPR)上發(fā)表，研究人員描述了執(zhí)行“人類”推理以回答有關(guān)世界的問題的系統(tǒng) - 即圖像的內(nèi)容。

神經(jīng)網(wǎng)絡(luò) - 被稱為透明度設(shè)計(jì)網(wǎng)絡(luò)(TbD-net) - 用熱圖描繪其視覺分析。在對(duì)照片進(jìn)行解讀時(shí)，它會(huì)以明亮，易于識(shí)別的顏色(用于研究人員的說法中的“注意力掩?！?突出顯示感興趣的項(xiàng)目，這些顏色代表模塊的輸出，或?qū)ｉT用于執(zhí)行特定任務(wù)的小型神經(jīng)網(wǎng)絡(luò)。

麻省理工學(xué)院新聞報(bào)道稱，“就像工人下線一樣，每個(gè)模塊都會(huì)在模塊出現(xiàn)之前建立最終產(chǎn)生最終正確答案的模塊。” “作為一個(gè)整體，TbD-net利用一種AI技術(shù)來解釋人類語言問題并將這些句子分解為子任務(wù)，然后是多種計(jì)算機(jī)視覺AI技術(shù)來解釋圖像?！?

那么它怎么能回答像“大金屬立方體是什么顏色”這樣的問題呢?首先，模塊會(huì)隔離大對(duì)象。然后第二個(gè)模塊將識(shí)別哪些對(duì)象是金屬。第三個(gè)將查找符合先前標(biāo)準(zhǔn)的立方體，最后，第四個(gè)將確定對(duì)象的顏色。

在涉及85,000個(gè)訓(xùn)練圖像和850,000個(gè)問題的測(cè)試中，TbD-net的準(zhǔn)確度為98.7%，優(yōu)于其他基于神經(jīng)模塊網(wǎng)絡(luò)的方法。更重要的是，它實(shí)現(xiàn)了最先進(jìn)的性能 - 99.1%的準(zhǔn)確度 - 部分歸功于它產(chǎn)生的熱圖插圖，這使得研究人員可以非常精確地調(diào)整它以進(jìn)行后續(xù)測(cè)試。

這篇論文的作者認(rèn)為，對(duì)神經(jīng)網(wǎng)絡(luò)推理的這種洞察力可能對(duì)建立用戶信任大有幫助。

最近幾個(gè)月，許多公司，政府機(jī)構(gòu)和獨(dú)立研究人員試圖解決人工智能中所謂的“黑匣子”問題 - 一些人工智能系統(tǒng)的不透明性 - 并取得了不同程度的成功。

2017年，美國國防高級(jí)研究計(jì)劃局啟動(dòng)了DARPA XAI計(jì)劃，旨在生產(chǎn)“玻璃盒”模型，在不犧牲性能的情況下輕松理解。今年8月，IBM的科學(xué)家們提出了一份人工智能的“情況說明書”，它將提供有關(guān)模型漏洞，偏見，對(duì)抗性攻擊易感性和其他特征的信息。微軟，IBM，埃森哲和Facebook開發(fā)了自動(dòng)化工具來檢測(cè)和減輕AI算法中的偏差。

“人工智能系統(tǒng)具有改變我們生活和工作方式的巨大潛力...... [但]這些[透明度]問題必須得到解決才能讓人工智能服務(wù)得到信任，”IBM研究院和聯(lián)合會(huì)的AI基金會(huì)負(fù)責(zé)人Aleksandra Mojsilovic說道。 8月份接受VentureBeat采訪時(shí)，人工智能科學(xué)促進(jìn)社會(huì)福利計(jì)劃。