Exploring Potential of Collboration of Interperatble Model with LLM Agents

背景观察

决策树是可解释模型；LLM是文字生成式模型；

LLM->DT

• LLM可以主动或被动为客户/数据分析师训练树模型，然后根据树的信息生成可理解的report；

DT->LLM

• 定制化趋势显著：LLM hypervisor类工具（如cherrystudio）兴起，专门定制客户端涌现，模型使用明确朝向定制化、细分化发展
• 交互修正频繁：用户频繁输出"不对，我想要的是xxxx"、"错了，应该是xxx"等修正指令，实质上在提供监督学习的label信号
• 解释性需求强烈：现有系统缺乏对"为什么这样回复让用户满意/不满意"的理解，缺少可解释的反馈机制

在Agent内部建立增量模型DT模块，辅助agent自我生成回答指引/评估prompt，提升用户体验+个性化。