Hermes Agent: запуск self-hosted агента за 30 минут

# Установка Ollama (Linux/macOS)
curl -fsSL https://ollama.com/install.sh | sh

# На Windows — скачайте инсталлятор с https://ollama.com/download

# Скачать Hermes 3 (8B — оптимально для агентных пайплайнов)
ollama pull nous-hermes3:8b

# Для более мощного варианта (требует 40+ GB RAM или GPU)
# ollama pull nous-hermes3:70b

# Проверка — модель должна ответить на русском
ollama run nous-hermes3:8b "Привет! Опиши себя в одном предложении."

pip install ollama

import ollama
import json

# Определяем инструменты в формате JSON Schema
tools = [
    {
        "type": "function",
        "function": {
            "name": "get_current_time",
            "description": "Возвращает текущее время в указанном городе",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {
                        "type": "string",
                        "description": "Название города, например 'Москва'"
                    }
                },
                "required": ["city"]
            }
        }
    }
]

# Системный промпт для агентного режима
SYSTEM_PROMPT = """You are a helpful AI assistant with access to tools.
When you need to use a tool, respond with a JSON object in this format:
{"tool": "tool_name", "arguments": {"arg1": "value1"}}
After receiving tool results, provide a helpful response to the user."""

def run_agent(user_message: str):
    messages = [
        {"role": "system", "content": SYSTEM_PROMPT},
        {"role": "user", "content": user_message}
    ]

    response = ollama.chat(
        model="nous-hermes3:8b",
        messages=messages,
        tools=tools
    )

    message = response["message"]

    # Проверяем, вызвала ли модель инструмент
    if message.get("tool_calls"):
        for tool_call in message["tool_calls"]:
            tool_name = tool_call["function"]["name"]
            tool_args = tool_call["function"]["arguments"]
            print(f"[Агент вызывает инструмент]: {tool_name}({tool_args})")

            # Здесь выполняем реальную логику инструмента
            tool_result = execute_tool(tool_name, tool_args)

            # Добавляем результат в контекст
            messages.append(message)
            messages.append({
                "role": "tool",
                "content": str(tool_result)
            })

            # Получаем финальный ответ с учётом результата инструмента
            final_response = ollama.chat(
                model="nous-hermes3:8b",
                messages=messages
            )
            return final_response["message"]["content"]

    return message["content"]


def execute_tool(name: str, args: dict) -> str:
    """Диспетчер инструментов — добавляйте свои функции сюда."""
    if name == "get_current_time":
        # Заглушка — в реальном агенте подключите API
        return f"В городе {args['city']} сейчас 14:30 по местному времени."
    return "Инструмент не найден."


if __name__ == "__main__":
    result = run_agent("Который сейчас час в Москве?")
    print(f"\n[Финальный ответ]: {result}")

import os
import glob

def search_files_tool(pattern: str, directory: str = ".") -> list[str]:
    """Ищет файлы по маске в указанной директории."""
    matches = glob.glob(os.path.join(directory, "**", pattern), recursive=True)
    return matches[:10]  # Ограничиваем вывод

# Добавьте в список tools:
file_search_tool = {
    "type": "function",
    "function": {
        "name": "search_files",
        "description": "Ищет файлы по шаблону имени в файловой системе",
        "parameters": {
            "type": "object",
            "properties": {
                "pattern": {
                    "type": "string",
                    "description": "Шаблон имени файла, например '*.py' или 'config.*'"
                },
                "directory": {
                    "type": "string",
                    "description": "Директория для поиска (по умолчанию текущая)"
                }
            },
            "required": ["pattern"]
        }
    }
}

<|im_start|>system
You are a function-calling AI assistant. You have access to the following tools:

AVAILABLE TOOLS:
{tools_json}

RULES:
1. Analyze the user request and determine if a tool call is needed.
2. If yes, respond ONLY with a valid JSON object:
   {"name": "tool_name", "arguments": {"param": "value"}}
3. If no tool is needed, respond directly in natural language.
4. After receiving a tool result, synthesize it into a helpful response.
5. Never fabricate tool results — always wait for actual execution.
<|im_end|>