diff --git a/prompts/system.md b/prompts/system.md index 97daf6d..c2d4359 100644 --- a/prompts/system.md +++ b/prompts/system.md @@ -15,6 +15,7 @@ - list_chat_members — участники чата с именами и никами. Когда человека называют по имени или прозвищу и нужно понять, кто это. - read_member_messages — сообщения конкретного участника по нику или имени. Когда спрашивают, что писал или думает конкретный человек. +Обычно хватает одного-двух вызовов инструментов. Как только данных достаточно для ответа — отвечай, не дочитывай архив «на всякий случай». Не вызывай один и тот же инструмент повторно с теми же параметрами — результат уже есть выше. Если нужного в архиве нет, так и скажи и ответь по тому, что нашёл. diff --git a/src/bot/handlers/question-handlers.ts b/src/bot/handlers/question-handlers.ts index 5fbc517..e818c2f 100644 --- a/src/bot/handlers/question-handlers.ts +++ b/src/bot/handlers/question-handlers.ts @@ -87,7 +87,7 @@ export const createQuestionHandlers = ({ try { const answer = await withTyping(ctx, ask); - await reply(ctx, answer || "Мне нечего ответить 🤷"); + await reply(ctx, answer || "Закопался в архиве и не успел ответить 🤷 Спроси конкретнее — например, про кого или за какой период."); } catch (error) { console.error("Ошибка генерации ответа:", error); await reply(ctx, "Не получилось получить ответ от модели, попробуй ещё раз позже."); diff --git a/src/services/assistant/assistant-service.ts b/src/services/assistant/assistant-service.ts index d306dee..8ece012 100644 --- a/src/services/assistant/assistant-service.ts +++ b/src/services/assistant/assistant-service.ts @@ -31,6 +31,13 @@ interface AssistantServiceDeps { /** Шаги агента: несколько на чтение архива и участников, последний — всегда текстовый ответ. */ const MAX_AGENT_STEPS = 6; +/** + * Дописывается к системному промпту на последнем шаге. Одного снятия инструментов мало: Gemini, видя в этом + * ответе прошлые вызовы, может «выдумать» ещё один вызов — и тогда текста нет вовсе. + */ +const FINAL_STEP_NOTE = + "Это последний шаг: инструменты больше недоступны, не вызывай их. Ответь пользователю сейчас по тому, что уже нашёл."; + /** * Картинки уходят через `context`: модель видит их в этом запросе, но в память они не сохраняются — * иначе байты фото тащились бы в каждый следующий вопрос. @@ -69,7 +76,14 @@ export const createAssistantService = ({ modelSettings: { maxOutputTokens: answerTokenLimit }, // На последнем шаге инструменты запрещены: иначе модель может потратить все шаги на чтение архива // и так и не ответить (в ответе бота было бы пусто). - prepareStep: ({ stepNumber }) => (stepNumber >= MAX_AGENT_STEPS - 1 ? { toolChoice: "none" } : undefined), + prepareStep: ({ stepNumber, systemMessages }) => + stepNumber >= MAX_AGENT_STEPS - 1 + ? { + toolChoice: "none", + activeTools: [], + systemMessages: [...systemMessages, { role: "system", content: FINAL_STEP_NOTE }], + } + : undefined, // Провайдеры (OpenRouter/Gemini) присылают ошибку частью ответа — без этого в логе только «finishReason: other». onError: ({ error }) => console.error("Ошибка провайдера модели:", error), }, diff --git a/src/services/assistant/tools/read-chat-messages-tool.ts b/src/services/assistant/tools/read-chat-messages-tool.ts index 4f50773..a082a44 100644 --- a/src/services/assistant/tools/read-chat-messages-tool.ts +++ b/src/services/assistant/tools/read-chat-messages-tool.ts @@ -4,7 +4,7 @@ import type { ChatHistoryService } from "../../chat-history-service.js"; import { formatChatMessages } from "../format-chat-messages.js"; import { assistantRequestContextSchema } from "./request-context.js"; -const MAX_HISTORY_READ = 300; +const MAX_HISTORY_READ = 150; export const createReadChatMessagesTool = (chatHistoryService: ChatHistoryService) => createTool({ @@ -18,13 +18,12 @@ export const createReadChatMessagesTool = (chatHistoryService: ChatHistoryServic .number() .int() .min(1) - .max(MAX_HISTORY_READ) .default(50) .describe(`Сколько последних сообщений загрузить (1–${MAX_HISTORY_READ}).`), }), requestContextSchema: assistantRequestContextSchema, execute: async ({ limit }, { requestContext }) => { - const messages = chatHistoryService.latest(requestContext.get("chatId"), limit); + const messages = chatHistoryService.latest(requestContext.get("chatId"), Math.min(limit, MAX_HISTORY_READ)); return { count: messages.length, diff --git a/src/services/assistant/tools/read-member-messages-tool.ts b/src/services/assistant/tools/read-member-messages-tool.ts index 10923ee..c92f8ed 100644 --- a/src/services/assistant/tools/read-member-messages-tool.ts +++ b/src/services/assistant/tools/read-member-messages-tool.ts @@ -7,7 +7,7 @@ import { formatChatMembers } from "../format-chat-members.js"; import { formatChatMessages } from "../format-chat-messages.js"; import { assistantRequestContextSchema } from "./request-context.js"; -const MAX_MEMBER_MESSAGES = 200; +const MAX_MEMBER_MESSAGES = 100; interface ReadMemberMessagesToolDeps { chatHistoryService: ChatHistoryService; @@ -27,7 +27,6 @@ export const createReadMemberMessagesTool = ({ chatHistoryService, chatMemberSer .number() .int() .min(1) - .max(MAX_MEMBER_MESSAGES) .default(50) .describe(`Сколько последних сообщений участника загрузить (1–${MAX_MEMBER_MESSAGES}).`), }), @@ -45,7 +44,7 @@ export const createReadMemberMessagesTool = ({ chatHistoryService, chatMemberSer return { status: "ambiguous", result: `Под «${member}» подходят несколько человек:\n${formatChatMembers([found, ...others])}` }; } - const messages = chatHistoryService.latestByUser(chatId, found.userId, limit); + const messages = chatHistoryService.latestByUser(chatId, found.userId, Math.min(limit, MAX_MEMBER_MESSAGES)); return { status: "ok",