KoboldAI 完全指南

KoboldAI 完全指南

文章目录

    • KoboldAI 完全指南:本地 AI 创意写作的完整生态
      • 一、KoboldAI 是什么?
      • 二、KoboldAI 生态系统:四大组件
      • 三、KoboldAI 的核心功能
        • 3.1 写作辅助工具
        • 3.2 多种游戏/写作模式
        • 3.3 导入 AI Dungeon 存档
      • 四、KoboldAI 各版本的安装与使用
        • 4.1 KoboldCpp(最推荐,最简单)
        • 4.2 KoboldAI United(开发版,支持更多模型)
        • 4.3 KoboldAI Client(原始版本)
        • 4.4 KoboldAI.net(免费云端体验)
        • 4.5 Google Colab(无需本地硬件)
        • 4.6 手把手实操
      • 五、KoboldAI 的 API 与自动化
        • 5.1 REST API
        • 5.2 OpenAI 兼容 API
      • 六、KoboldAI vs 其他工具
      • 七、总结

KoboldAI 完全指南:本地 AI 创意写作的完整生态

在本地运行大语言模型(LLM)的工具有很多——Ollama、LM Studio、llama.cpp……但如果你问一个网文作者或 AI 小说爱好者“哪个工具最适合写故事”,答案几乎肯定是 KoboldAI。

但 KoboldAI 到底是什么?它不是一个单一的程序,而是一个完整的生态系统。本文将从全局视角,全面介绍 KoboldAI 的项目体系、核心功能、安装使用和 API 集成方式。

一、KoboldAI 是什么?

KoboldAI 是一个浏览器端的前端界面,用于 AI 辅助写作,支持多种本地和远程 AI 模型

它的核心理念是:为创意写作、角色扮演和互动叙事提供一个统一、强大的平台。你可以把它理解为一个“AI 写作工作台”——无论你用的是本地下载的模型、Google Colab 上的云端资源,还是 OpenAI 的 API,KoboldAI 都能把它们统一管理起来,为你提供一致的写作体验。

官网对 KoboldAI 的定位是:“Your gateway to GPT writing”——通往 GPT 写作的大门。

二、KoboldAI 生态系统:四大组件

KoboldAI 官方将其生态系统概括为四个坚实的基石

组件定位说明
KoboldCpp本地 LLM API 服务器基于 llama.cpp 的推理后端,负责在本地运行 GGUF 格式模型
KoboldAI Lite轻量级 Web 界面无需安装、零依赖的浏览器端 UI,可直接访问 AI API 端点
KoboldAI.net免费 Web 服务将 KoboldAI Lite 作为免费网络服务提供,拥有与本地运行相同的灵活性
KoboldAI United开发版客户端支持更新的模型格式(如 Huggingface safetensors/pytorch 和 Exllama 平台)

简单来说:

  • KoboldCpp= 发动机(推理引擎)
  • KoboldAI Lite= 驾驶舱(用户界面)
  • KoboldAI.net= 共享汽车服务(免费云端体验)
  • KoboldAI United= 改装版发动机(支持更多车型)

KoboldAI Lite 可以与 KoboldAI United、KoboldAI Client 以及 AI Horde 兼容,并且与 KoboldCpp 捆绑发布。

三、KoboldAI 的核心功能

KoboldAI 不仅仅是一个“聊天框”,它提供了专为叙事设计的一整套工具

3.1 写作辅助工具
功能说明
记忆 (Memory)存储 AI 需要始终记住的长期信息,如世界观设定、角色背景
作者笔记 (Author’s Note)类似于记忆,但插入在文本末尾附近,对控制 AI 的即时情绪和行为更有效
世界信息 (World Info)关键词触发的知识库系统,当特定词汇出现时自动加载对应设定
保存与加载 (Save & Load)完整保存故事状态,包括所有设定、笔记和对话历史
AI 设置调整精细控制温度、Top-P、重复惩罚等生成参数
格式选项