這是對提示詞自動優(yōu)化的進(jìn)一步探索，通過蒙特卡洛樹搜索，完全接管了 Agentic Workflow 的生成與優(yōu)化過程，表現(xiàn)遠(yuǎn)超其他工作流自動優(yōu)化工作，甚至超越了對比的所有手工工作流基線。
論文標(biāo)題：AFlow: Automating Agentic Workflow Generation
論文地址：https://arxiv.org/abs/2410.10762
項(xiàng)目地址：https://github.com/geekan/MetaGPT/tree/main/examples/aflow
什么是自動工作流優(yōu)化問題？
現(xiàn)有的 Agentic Workflow 自動生成工作難以生成有效的工作流，它們往往需要人工介入初始設(shè)置，且無法全面捕捉到完成任務(wù)所需的工作流多樣性。為了克服這些挑戰(zhàn)，研究人員提出了 AFLOW 框架。利用蒙特卡洛樹搜索（MCTS）技術(shù)來系統(tǒng)地探索和優(yōu)化 LLM 的工作流。AFLOW 通過將工作流定義為代碼可表示的節(jié)點(diǎn)和邊，從而有效地捕捉 LLMs 調(diào)用之間的復(fù)雜交互。通過引入操作符的概念，AFLOW 進(jìn)一步簡化了搜索空間，提高了搜索效率。在多個(gè)基準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，AFLOW 能夠自動發(fā)現(xiàn)和優(yōu)化工作流，顯著提高了任務(wù)執(zhí)行的性能，同時(shí)減少了對人工干預(yù)的依賴。
AFLOW 的動態(tài)演示。通過不斷迭代的選擇、擴(kuò)展、評估和反向傳播實(shí)現(xiàn)工作流的自動化生成和優(yōu)化AFLOW 首先將工作流優(yōu)化問題重新構(gòu)建為一個(gè)搜索問題，其中工作流被表示為代碼化的節(jié)點(diǎn)序列，每個(gè)節(jié)點(diǎn)代表 LLM 的一個(gè)具體操作，節(jié)點(diǎn)之間的邊定義了操作的邏輯、依賴關(guān)系和執(zhí)行流程。這種表示方法將工作流轉(zhuǎn)化為一個(gè)可以搜索和優(yōu)化的圖結(jié)構(gòu)。具體來說，工作流 W 被定義為一個(gè) LLM 調(diào)用節(jié)點(diǎn)序列，其中每個(gè)節(jié)點(diǎn)