管理端主回答上限 600→1800;tool 结果先浅拷贝再截断,避免与图状态共享的对象被改写导致本轮模型也只能看到截断内容;task 工具结果保留 4000 字符,其余工具仍为 300 字符。
72 lines
2.6 KiB
JavaScript
72 lines
2.6 KiB
JavaScript
import { HumanMessage } from "@langchain/core/messages";
|
|
import logger from "../../utils/logger.js";
|
|
|
|
/**
|
|
* 对话历史管理(主 agent 与管理 agent 共用)
|
|
*
|
|
* 两个约束同时存在:
|
|
* 1. tool 结果必须并入历史,否则下一轮会出现 tool_calls 缺少 tool 结果的断链;
|
|
* 2. tool 结果往往是网页正文/数据库全量字段,原样保留会挤掉真正的人机对话,
|
|
* 导致 agent 忘记用户说过的医院、日期,表现为重复提问。
|
|
* 因此 tool 结果入历史前统一截断,只保留开头关键信息。
|
|
*/
|
|
|
|
// tool 结果保留的字符数,超出部分以标记代替
|
|
export const TOOL_RESULT_MAX_CHARS = 300;
|
|
// 子代理(task 工具)的完整回答:主 agent 需要据此转述,上限放宽,仍避免整篇塞进历史
|
|
export const SUBAGENT_RESULT_MAX_CHARS = 4000;
|
|
|
|
export function truncateToolResult(content, max = TOOL_RESULT_MAX_CHARS) {
|
|
if (typeof content !== "string") return content;
|
|
if (content.length <= max) return content;
|
|
return `${content.slice(0, max)}…(原结果 ${content.length} 字,已截断)`;
|
|
}
|
|
|
|
// 截断后并入历史,返回实际写入的消息。
|
|
// 必须浅拷贝:流式更新里的 ToolMessage 与图状态共用同一对象,
|
|
// 原地改 content 会让主模型本轮也只看得到截断后的内容。
|
|
export function appendToolMessage(messages, msg, max) {
|
|
if (!msg) {
|
|
messages.push(msg);
|
|
return msg;
|
|
}
|
|
const limit = max ?? (msg.name === "task" ? SUBAGENT_RESULT_MAX_CHARS : TOOL_RESULT_MAX_CHARS);
|
|
const stored = Object.assign(Object.create(Object.getPrototypeOf(msg)), msg);
|
|
if (typeof stored.content === "string") {
|
|
stored.content = truncateToolResult(stored.content, limit);
|
|
}
|
|
messages.push(stored);
|
|
return stored;
|
|
}
|
|
|
|
/**
|
|
* 按字符数裁剪历史:只以 HumanMessage 为界从头部删除完整轮次,
|
|
* 避免切断 AI(tool_calls) -> Tool 的链式结构;永远保留最新一轮。
|
|
* 返回裁剪后的新数组,由调用方赋值。
|
|
*/
|
|
export function trimHistory(messages, maxChars) {
|
|
const size = (msgs) => msgs.reduce((sum, m) => sum + (m.text?.length ?? 0), 0);
|
|
if (size(messages) <= maxChars) {
|
|
return messages;
|
|
}
|
|
|
|
const starts = [];
|
|
messages.forEach((m, i) => {
|
|
if (HumanMessage.isInstance(m)) starts.push(i);
|
|
});
|
|
if (starts.length < 2) {
|
|
return messages;
|
|
}
|
|
|
|
let cut = 0;
|
|
for (let i = 0; i < starts.length - 1; i++) {
|
|
cut = starts[i + 1];
|
|
if (size(messages.slice(cut)) <= maxChars) {
|
|
break;
|
|
}
|
|
}
|
|
const trimmed = messages.slice(cut);
|
|
logger.info(`History trimmed to ${trimmed.length} messages, ${size(trimmed)} chars`);
|
|
return trimmed;
|
|
}
|