and-ray-m-offline-llama

自主管理本地 Ollama 模型，支持健康监控、自动回退与离线自愈。

## 概述（中文）

自主管理本地 Ollama 模型，支持健康监控、自动回退与离线自愈。

## 技能正文

# offline-llama

自主管理并使用本地 Ollama 模型，在无网络依赖的情况下持续运行。包含模型健康监控、自动回退与自愈能力。

## 概述

本技能使本地 Ollama 模型可自主运行。它监控模型健康状态，在出现问题时自动切换模型，并在无网络连接时仍保持功能。技能包含自愈能力，可在需要时重启服务并清理资源。

## 核心功能

### 模型管理
- **健康监控**：持续检查模型可用性与性能
- **自动回退**：主模型失败时切换到备选模型
- **模型切换**：动态选择当前任务的最佳可用模型

### 自愈
- **服务重启**：模型不可用时自动重启 Ollama
- **资源管理**：清理缓存与临时文件以释放资源
- **模型重装**：自动重装有问题的模型

### 连接感知
- **网络检测**：监控互联网连接状态
- **智能回退**：本地模型不可用且有网络时切换到远程模型
- **离线模式**：无网络时保持完整功能

## 配置

### 模型
- **主模型**：llama-3.1-8b-instruct（通用任务）
- **次模型**：mistral-7b-instruct（更快响应）
- **专用**：code-llama-7b（编码任务）

### 健康检查
- **模型状态**：每 30 秒监控可用性
- **延迟跟踪**：每分钟监控响应时间
- **资源使用**：每 5 分钟监控 GPU/CPU 与内存

### 回退策略
1. **模型切换**：自动切换到其他本地模型
2. **响应重试**：指数退避重试失败请求
3. **降级模式**：所有模型不可用时以有限功能继续运行

## 用法

### 有网络时
- 优先使用本地模型
- 本地模型不可用时回退到远程模型
- 保持最佳性能

### 无网络时
- 仅使用本地模型
- 不中断地继续所有操作
- 必要时提供降级功能

## 命令

### 模型管理
- `model_status` - 检查当前模型健康状态
- `switch_model` - 手动切换模型
- `restart_ollama` - 重启 Ollama 服务

### 健康监控
- `check_health` - 运行全面健康检查
- `monitor_resources` - 监控系统资源
- `clear_cache` - 清理模型缓存与临时文件

## 自愈

### 自动操作
- **服务重启**：模型不可用时触发
- **资源清理**：检测到高内存使用时触发
- **模型重装**：持续失败时触发

### 人工干预
- **手动重启**：用户可手动重启服务
- **缓存清理**：用户可手动清理资源
- **模型更新**：用户可按需更新模型

## 安全考量

- 所有操作在本地执行
- 无需外部依赖
- 安全的模型管理
- 默认保护隐私

## 性能优化

- **资源监控**：跟踪 GPU/CPU 使用与内存
- **延迟跟踪**：监控响应时间与性能
- **模型选择**：根据任务需求选择最优模型

## 维护

### 常规任务
- **健康检查**：定期运行健康检查
- **缓存管理**：定期清理未使用缓存
- **模型更新**：尽可能保持模型更新

### 故障排除
- **日志分析**：监控日志以发现问题
- **性能指标**：跟踪长期性能
- **错误处理**：优雅的错误处理与恢复

## 集成

本技能可与以下组件集成：
- **Ollama**：本地模型管理
- **系统资源**：监控并管理系统资源
- **网络**：检测互联网连接
- **OpenClaw**：与现有工具无缝集成

## 未来增强

- **模型训练**：支持自定义模型训练
- **高级路由**：基于任务的智能模型选择
- **多 GPU 支持**：跨多块 GPU 扩展
- **云同步**：可选的云备份与同步

## 许可证

本技能属于 OpenClaw 生态系统，遵循与 OpenClaw 相同的许可条款。