插件介绍
ChatLuna 是一款基于 LangChain 的语言模型聊天服务插件,运行在 Koishi 上。
它可以让用户与目前流行的语言模型或平台进行聊天互动,如 OpenAI(API)、New Bing、ChatGLM 等。项目底层和语言模型交互的模块基于 LangChain,其他 Koishi 插件开发者也可以使用此项目提供的 LangChain Model 和大语言模型进行交互。
特性
- 高扩展性:利用 LangChain 和 Koishi 提供的扩展 API,第三方插件开发者可以轻松地扩展或调用此项目的服务,如添加新的语言模型、调用语言模型等。
- 预设系统:支持设置会话预设,调整模型的行为和风格。
- 黑名单系统:支持全局冷却时间和模型并发请求限制,以及按小时的模型调用额度限制,方便管理模型的调用限额等。
- 多媒体回复:支持语音/文字/图片/图文混合回复,也支持解析生成的 Markdown,实现自然地分割成多条消息来发送。
- 上下文对话:支持长期记忆功能(需要适配器支持),让模型能够记住用户的信息和偏好。
- 三种聊天模式:
chat
、browsing
、plugin
,后两种模式可以让模型调用外部提供的某些工具,使得模型能够获取到外部信息。 - 内容安全过滤:基于 Koishi 的 censor 服务,防止模型返回不良内容。