探索 LLM 應(yīng)用的過(guò)程中,LLM作為 Agent 的"大腦"有著無(wú)限可能。其中,"代碼編寫(xiě)"已經(jīng)成為了少數(shù)幾個(gè)成功大規(guī)模落地的場(chǎng)景之一,這讓我們不禁想到:既然 LLM 可以寫(xiě)出高質(zhì)量的代碼,為什么不能讓它更進(jìn)一步,編寫(xiě)并運(yùn)行代碼來(lái)控制 Agent 自身的行為呢?這樣運(yùn)行邏輯,就不簡(jiǎn)簡(jiǎn)單單的是“下一個(gè)”這么簡(jiǎn)單,而是讓Agent擁有分支、循環(huán)等各種復(fù)雜邏輯。
這個(gè)想法雖然聽(tīng)起來(lái)有點(diǎn)魔幻,但仔細(xì)想想確實(shí)是可行的。在這篇文章中,我想和大家分享我們是如何一步步構(gòu)建這樣一個(gè)能夠"自我編程"的 Agent 的歷程。
我們的目標(biāo)是將Agent模式,打造成一個(gè)“師弟”,一個(gè)真正能在內(nèi)部的DevOps系統(tǒng)中,能幫得上忙的AI助手。
Agent系統(tǒng)設(shè)計(jì)
Agent簡(jiǎn)介
-
技術(shù)架構(gòu)方面,我們?cè)?ReAct Agent 模式基礎(chǔ)上進(jìn)行了深度優(yōu)化:
-
改造傳統(tǒng) JSON + 組裝調(diào)用方式,基于Py4j,實(shí)現(xiàn)" Code+泛化調(diào)用 "機(jī)制,顯著提升工具調(diào)用的靈活性和執(zhí)行效率;
-
采用 Spring Boot 技術(shù)棧構(gòu)建后端架構(gòu),整合 Spring AI 生態(tài)及 Spring AI Alibaba 能力完成模型接入;
-
通過(guò) 內(nèi)部評(píng)測(cè)平臺(tái) 和 內(nèi)部觀測(cè)平臺(tái) 實(shí)現(xiàn)全鏈路評(píng)測(cè)與觀測(cè);
-
底層工具采用 Mcp 協(xié)議實(shí)現(xiàn)業(yè)務(wù)能力補(bǔ)充;
-
基于 A2A 協(xié)議實(shí)現(xiàn) Multi Agent 架構(gòu),高效對(duì)接各子 Agent;
-
模型策略采用混合部署方案,根據(jù)不同場(chǎng)景使用最優(yōu)模型:
-
翻譯/數(shù)據(jù)提取任務(wù):Qwen3-Turbo(低延遲優(yōu)先);
-
思考/動(dòng)態(tài)代碼生成:Qwen3-Coder(強(qiáng)化代碼能力);
-
通用場(chǎng)景:按需調(diào)用各個(gè)平臺(tái)提供的Qwen、Deepseek等模型 (Agent內(nèi)部模塊分布);
