OpenChatKit

OpenChatKit 提供了一个强大的开源基础，可以为各种应用程序创建专用和通用聊天机器人。该套件包括一个指令调整的语言模型、一个调节模型和一个可扩展的检索系统，用于包含来自自定义存储库的最新响应。 OpenChatKit 模型在 OIG-43M 训练数据集上进行训练，这是 Together、LAION 和 Ontocord.ai 之间的合作。 在此 repo 中，您将找到以下代码： 训练 GPT-NeoXT-Chat-Base-20B，一个 20B 参数的聊天模型（参见 docs/GPT-NeoXT-Chat-Base-20B.md） 训练 Pythia-Chat-Base-7B，一个 7B 参数的聊天模型 使用任一聊天模型测试推理 使用来自检索索引的额外上下文来扩充模型