Microsoft 推出 TypeChat 库,用于使用自然语言的大型语言模型接口

Microsoft发布了TypeChat,这是一个开源库,旨在促进大型语言模型(LLM)的自然语言接口的开发,如GPT-4,PaLM 2或LLaMa。该库可在 GitHub 上找到,利用 TypeScript 和生成式 AI 来桥接自然语言、应用程序架构和 API。

桥接自然语言和 API

最近对LLM的兴趣激增给开发人员提出了许多问题。虽然ChatGPT,Bing Chat或Google Bard等聊天助手是最直接的应用程序,但如何将这些模型集成到现有的应用程序界面中一直存在挑战,例如如何使用自然语言界面增强传统UI,以及如何使用AI将用户请求转换为应用程序可以操作的形式。

TypeChat 使用应用程序中的类型定义来检索结构化、类型安全的 AI 响应。该库于 20 月 <> 日由 Anders Hejlsberg 领导的团队推出,Anders Hejlsberg 是 C# 和 TypeScript 的Microsoft技术研究员和首席开发人员。该团队旨在解决开发自然语言界面的挑战,这些界面通常依赖于复杂的决策树来确定意图并收集所需的操作输入。

TypeChat是开源的,与模型无关。它旨在与任何聊天完成样式的 API 配合使用,尽管它最适合通过散文和代码训练的模型。该库可在 npm 上找到,团队欢迎在 GitHub 上提供反馈和贡献。

将提示工程替换为模式工程

TypeChat 的创建者已经用模式工程取代了提示工程。开发人员可以定义表示自然语言应用程序中支持的意向的类型。这些范围可以从用于对情绪进行分类的简单界面到用于购物车或音乐应用程序等应用程序的更复杂的类型。

开发人员定义类型后,TypeChat 将使用这些类型构造对 LLM 的提示,并验证 LLM 响应是否符合架构。如果验证失败,则使用进一步的语言模型交互来修复不符合的输出。TypeChat 还会汇总实例并确认它与用户意图一致。

安装与使用

开发人员可以使用以下命令通过 Node Package Manager 安装 TypeChat。npm install typechat.该库也可以使用npm run build.

正文完