（AI云資訊消息）AI智能體時代已經(jīng)到來，它被宣傳為人工智能研究的下一個重大突破。AI智能體能夠獨立運作，不需要持續(xù)的直接監(jiān)督，同時還能與用戶協(xié)作，自動化那些單調(diào)乏味的任務(wù)。在這篇文章中，小編將帶你了解到關(guān)于AI智能體的設(shè)計方式、它們能做些什么、具備哪些能力，以及它們是否可以被信任以代表你采取行動。

什么是AI智能體？

AI智能體是一種生成式人工智能模型，它可以自主行動、做出決策，并在沒有直接人類干預(yù)的情況下朝著復(fù)雜目標(biāo)采取行動。這些系統(tǒng)能夠?qū)崟r解讀變化的條件并據(jù)此作出反應(yīng)，而不是機械地遵循預(yù)定義的規(guī)則或指令。基于驅(qū)動像ChatGPT、Claude或Gemini等流行聊天機器人的大規(guī)模語言模型，AI智能體的不同之處在于它們使用LLM代表用戶采取行動，而不僅僅是生成內(nèi)容。

AutoGPT和BabyAGI是最早期的智能體的兩個例子，因為它們能夠在幾乎無需監(jiān)督的情況下解決相當(dāng)復(fù)雜的查詢。智能體被認(rèn)為是邁向?qū)崿F(xiàn)傳統(tǒng)意義上理解的通用人工智能（AGI）的一個早期步驟。在最近的一篇博客文章中，OpenAI的首席執(zhí)行官山姆·奧特曼（Sam Altman）提出，“我們現(xiàn)在有信心知道如何構(gòu)建我們傳統(tǒng)意義上理解的AGI，在2025年，我們可能會看到首批AI智能體加入勞動力，并實質(zhì)性地改變公司的產(chǎn)出。”

AI智能體的出現(xiàn)是AI的第三波革命，因為生成式AI系統(tǒng)不再僅僅是人類使用的工具，而是進化成能夠從環(huán)境中學(xué)習(xí)的半自主實體。

Salesforce公司創(chuàng)始人、CEO馬克·貝尼奧夫（Marc Benioff）在談到公司新發(fā)布的Agentforce平臺時表示：“這是我們曾經(jīng)工作過的最大、最激動人心的技術(shù)項目，我們才剛剛開始?！痹撈脚_使公司的企業(yè)客戶能夠為其人類客服代表創(chuàng)建數(shù)字替身。

AI智能體能做些什么？

AI智能體旨在為用戶采取行動，能夠執(zhí)行種類繁多的任務(wù)。它可以包括從審查并自動精簡計算機代碼，到優(yōu)化公司在多個供應(yīng)商之間的供應(yīng)鏈管理，再到查看您的日程安排可用性，然后為即將到來的商務(wù)旅行預(yù)訂航班和酒店住宿等一系列任務(wù)。

人工智能初創(chuàng)公司Anthropic發(fā)布的大型語言模型Claude的“計算機使用”API使聊天機器人能夠有效地模仿人類用戶的鍵盤敲擊和鼠標(biāo)移動，從而使Claude能夠與本地計算系統(tǒng)互動。AI智能體被設(shè)計用來解決復(fù)雜的多步驟問題，比如通過聯(lián)系客人了解他們的時間安排和可能的食物過敏情況來規(guī)劃一個八道菜的晚宴菜單，然后從電商平臺訂購所需的食材。當(dāng)然，目前仍然需要你自己動手做飯。

AI智能體實際應(yīng)用到什么地方？

AI智能體已經(jīng)在眾多行業(yè)中得到部署。你可以在銀行系統(tǒng)中體驗到智能體，它協(xié)助進行欺詐檢測和自動化股票交易任務(wù)。在物流行業(yè)，智能體被用來根據(jù)市場和交通狀況的變化優(yōu)化庫存水平和配送路線。在制造業(yè)中，智能體已經(jīng)幫助實現(xiàn)了預(yù)測性維護和設(shè)備監(jiān)控，開啟了智能工廠管理的新紀(jì)元。在醫(yī)療保健領(lǐng)域，智能體幫助患者簡化預(yù)約安排并自動化處方續(xù)訂流程。從下一個車型年起，谷歌的汽車智能體還將為梅賽德斯的MBUX娛樂和導(dǎo)航系統(tǒng)提供關(guān)于本地地標(biāo)和餐廳的近實時信息，首先應(yīng)用于新款CLA車型上。

這項技術(shù)還被應(yīng)用于企業(yè)業(yè)務(wù)中，Salesforce并不是唯一一家擁抱智能體的SaaS公司。SAP和Oracle都為其客戶提供類似的產(chǎn)品。

因此，谷歌、微軟、OpenAI、Anthropic和英偉達等行業(yè)的頂級公司都在競相開發(fā)和部署面向商業(yè)和消費市場的智能體。2024年11月，微軟宣布了Copilot Actions，計劃將基于Copilot的智能體整合到公司整個365應(yīng)用生態(tài)系統(tǒng)中，并于2025年1月開始向商業(yè)和企業(yè)用戶推出這一功能。

2024年11月，谷歌云宣布了智能體生態(tài)系統(tǒng)計劃，被稱為AI Agent Space，就像Agentforce或谷歌的另一個智能體平臺Vertex AI一樣，它使企業(yè)客戶能夠開發(fā)和部署自己的定制化AI智能體。在1月初的CES 2025上，英偉達推出了專為智能體任務(wù)設(shè)計的Nemotron模型系列。

至于OpenAI，最近它為ChatGPT推出了新的Tasks功能，允許用戶設(shè)置未來提醒和定期安排的任務(wù)（如每周新聞匯總），以便聊天機器人在未來某個時間執(zhí)行這些任務(wù)。此外，有傳言稱OpenAI正在開發(fā)自己的AI智能體，代號為Operator，預(yù)計將在2025年1月的某個時候發(fā)布。

AI智能體使用起來安全嗎？

由于智能體AI系統(tǒng)構(gòu)建在容易產(chǎn)生幻覺且易受對抗攻擊的大規(guī)模語言模型之上，這些智能體本身也容易出現(xiàn)幻覺，并可能被惡意行為者欺騙，從而超出其設(shè)定的安全界限行事。例如，Apollo Research在2024年的一項研究發(fā)現(xiàn)，當(dāng)要求OpenAI的o1模型不惜一切代價達成目標(biāo)時，該AI智能體嘗試禁用其監(jiān)控機制，然后將它認(rèn)為是自己的權(quán)重復(fù)制到新服務(wù)器上，并對其開發(fā)者撒謊，聲稱自己遭遇了技術(shù)錯誤。

當(dāng)然，與聊天機器人給出錯誤答案相比（除非用戶是律師或谷歌等需要高度精確信息的角色），如果一個AI智能體在其自動股票交易策略中產(chǎn)生數(shù)據(jù)幻覺，后果可能會嚴(yán)重得多。如同所有生成式AI一樣，用戶在與聊天機器人和大規(guī)模語言模型共享信息（無論是財務(wù)、醫(yī)療還是個人信息）時都需要保持警惕。