From 1702ad885ebd59380005dfdc0d3a55ee24c18925 Mon Sep 17 00:00:00 2001 From: yunogasai Date: Fri, 25 Sep 2026 15:23:41 +0200 Subject: [PATCH] =?UTF-8?q?=D0=90=D0=B3=D0=B5=D0=BD=D1=82=20=D0=B2=D1=81?= =?UTF-8?q?=D0=B5=D0=B3=D0=B4=D0=B0=20=D0=BE=D1=82=D0=B2=D0=B5=D1=87=D0=B0?= =?UTF-8?q?=D0=B5=D1=82=20=D1=82=D0=B5=D0=BA=D1=81=D1=82=D0=BE=D0=BC:=20?= =?UTF-8?q?=D0=BF=D0=BE=D0=BC=D0=B5=D1=82=D0=BA=D0=B0=20=D0=BE=20=D0=BF?= =?UTF-8?q?=D0=BE=D1=81=D0=BB=D0=B5=D0=B4=D0=BD=D0=B5=D0=BC=20=D1=88=D0=B0?= =?UTF-8?q?=D0=B3=D0=B5,=20=D0=BC=D0=B5=D0=BD=D1=8C=D1=88=D0=B5=20=D0=BF?= =?UTF-8?q?=D0=B5=D1=80=D0=B5=D1=87=D0=B8=D1=82=D1=8B=D0=B2=D0=B0=D0=BD?= =?UTF-8?q?=D0=B8=D1=8F=20=D0=B0=D1=80=D1=85=D0=B8=D0=B2=D0=B0?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit - На последнем шаге к системному промпту дописывается «инструменты недоступны, ответь сейчас» и инструменты снимаются: Gemini, видя прошлые вызовы, выдумывал ещё один вызов и ответ оставался пустым (finishReason=tool-calls) - Правило в system.md: обычно хватает 1–2 вызовов инструментов, не дочитывать архив «на всякий случай» - Лимиты чтения 150 (чат) и 100 (участник); запрос больше лимита урезается, а не падает на валидации - Понятный ответ, если текста всё же нет: попросить уточнить вопрос Co-Authored-By: Claude Opus 5.5 --- prompts/system.md | 1 + src/bot/handlers/question-handlers.ts | 2 +- src/services/assistant/assistant-service.ts | 16 +++++++++++++++- .../assistant/tools/read-chat-messages-tool.ts | 5 ++--- .../assistant/tools/read-member-messages-tool.ts | 5 ++--- 5 files changed, 21 insertions(+), 8 deletions(-) diff --git a/prompts/system.md b/prompts/system.md index 97daf6d..c2d4359 100644 --- a/prompts/system.md +++ b/prompts/system.md @@ -15,6 +15,7 @@ - list_chat_members — участники чата с именами и никами. Когда человека называют по имени или прозвищу и нужно понять, кто это. - read_member_messages — сообщения конкретного участника по нику или имени. Когда спрашивают, что писал или думает конкретный человек. +Обычно хватает одного-двух вызовов инструментов. Как только данных достаточно для ответа — отвечай, не дочитывай архив «на всякий случай». Не вызывай один и тот же инструмент повторно с теми же параметрами — результат уже есть выше. Если нужного в архиве нет, так и скажи и ответь по тому, что нашёл. diff --git a/src/bot/handlers/question-handlers.ts b/src/bot/handlers/question-handlers.ts index 5fbc517..e818c2f 100644 --- a/src/bot/handlers/question-handlers.ts +++ b/src/bot/handlers/question-handlers.ts @@ -87,7 +87,7 @@ export const createQuestionHandlers = ({ try { const answer = await withTyping(ctx, ask); - await reply(ctx, answer || "Мне нечего ответить 🤷"); + await reply(ctx, answer || "Закопался в архиве и не успел ответить 🤷 Спроси конкретнее — например, про кого или за какой период."); } catch (error) { console.error("Ошибка генерации ответа:", error); await reply(ctx, "Не получилось получить ответ от модели, попробуй ещё раз позже."); diff --git a/src/services/assistant/assistant-service.ts b/src/services/assistant/assistant-service.ts index d306dee..8ece012 100644 --- a/src/services/assistant/assistant-service.ts +++ b/src/services/assistant/assistant-service.ts @@ -31,6 +31,13 @@ interface AssistantServiceDeps { /** Шаги агента: несколько на чтение архива и участников, последний — всегда текстовый ответ. */ const MAX_AGENT_STEPS = 6; +/** + * Дописывается к системному промпту на последнем шаге. Одного снятия инструментов мало: Gemini, видя в этом + * ответе прошлые вызовы, может «выдумать» ещё один вызов — и тогда текста нет вовсе. + */ +const FINAL_STEP_NOTE = + "Это последний шаг: инструменты больше недоступны, не вызывай их. Ответь пользователю сейчас по тому, что уже нашёл."; + /** * Картинки уходят через `context`: модель видит их в этом запросе, но в память они не сохраняются — * иначе байты фото тащились бы в каждый следующий вопрос. @@ -69,7 +76,14 @@ export const createAssistantService = ({ modelSettings: { maxOutputTokens: answerTokenLimit }, // На последнем шаге инструменты запрещены: иначе модель может потратить все шаги на чтение архива // и так и не ответить (в ответе бота было бы пусто). - prepareStep: ({ stepNumber }) => (stepNumber >= MAX_AGENT_STEPS - 1 ? { toolChoice: "none" } : undefined), + prepareStep: ({ stepNumber, systemMessages }) => + stepNumber >= MAX_AGENT_STEPS - 1 + ? { + toolChoice: "none", + activeTools: [], + systemMessages: [...systemMessages, { role: "system", content: FINAL_STEP_NOTE }], + } + : undefined, // Провайдеры (OpenRouter/Gemini) присылают ошибку частью ответа — без этого в логе только «finishReason: other». onError: ({ error }) => console.error("Ошибка провайдера модели:", error), }, diff --git a/src/services/assistant/tools/read-chat-messages-tool.ts b/src/services/assistant/tools/read-chat-messages-tool.ts index 4f50773..a082a44 100644 --- a/src/services/assistant/tools/read-chat-messages-tool.ts +++ b/src/services/assistant/tools/read-chat-messages-tool.ts @@ -4,7 +4,7 @@ import type { ChatHistoryService } from "../../chat-history-service.js"; import { formatChatMessages } from "../format-chat-messages.js"; import { assistantRequestContextSchema } from "./request-context.js"; -const MAX_HISTORY_READ = 300; +const MAX_HISTORY_READ = 150; export const createReadChatMessagesTool = (chatHistoryService: ChatHistoryService) => createTool({ @@ -18,13 +18,12 @@ export const createReadChatMessagesTool = (chatHistoryService: ChatHistoryServic .number() .int() .min(1) - .max(MAX_HISTORY_READ) .default(50) .describe(`Сколько последних сообщений загрузить (1–${MAX_HISTORY_READ}).`), }), requestContextSchema: assistantRequestContextSchema, execute: async ({ limit }, { requestContext }) => { - const messages = chatHistoryService.latest(requestContext.get("chatId"), limit); + const messages = chatHistoryService.latest(requestContext.get("chatId"), Math.min(limit, MAX_HISTORY_READ)); return { count: messages.length, diff --git a/src/services/assistant/tools/read-member-messages-tool.ts b/src/services/assistant/tools/read-member-messages-tool.ts index 10923ee..c92f8ed 100644 --- a/src/services/assistant/tools/read-member-messages-tool.ts +++ b/src/services/assistant/tools/read-member-messages-tool.ts @@ -7,7 +7,7 @@ import { formatChatMembers } from "../format-chat-members.js"; import { formatChatMessages } from "../format-chat-messages.js"; import { assistantRequestContextSchema } from "./request-context.js"; -const MAX_MEMBER_MESSAGES = 200; +const MAX_MEMBER_MESSAGES = 100; interface ReadMemberMessagesToolDeps { chatHistoryService: ChatHistoryService; @@ -27,7 +27,6 @@ export const createReadMemberMessagesTool = ({ chatHistoryService, chatMemberSer .number() .int() .min(1) - .max(MAX_MEMBER_MESSAGES) .default(50) .describe(`Сколько последних сообщений участника загрузить (1–${MAX_MEMBER_MESSAGES}).`), }), @@ -45,7 +44,7 @@ export const createReadMemberMessagesTool = ({ chatHistoryService, chatMemberSer return { status: "ambiguous", result: `Под «${member}» подходят несколько человек:\n${formatChatMembers([found, ...others])}` }; } - const messages = chatHistoryService.latestByUser(chatId, found.userId, limit); + const messages = chatHistoryService.latestByUser(chatId, found.userId, Math.min(limit, MAX_MEMBER_MESSAGES)); return { status: "ok",