社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Python

微软官方出品:GPT大模型编排工具,支持C#、Python等多个语言版本

dotNET跨平台 • 5 月前 • 103 次点击  

着ChatGPT的火热,基于大模型开发应用已经成为新的风口。虽然目前的大型模型已经具备相当高的智能水平,但它们仍然无法完全实现业务流程的自动化,从而达到用户的目标。

微软官方开源的Semantic Kernel的AI编排工具,就可以很好的满足我们自定义开发。

 

01
项目简介

Semantic Kernel是一个轻量级的SDK,最基本的功能就是帮我们完成与OpenAI、Azure OpenAI和Hugging Face大模型的API的对接,并且支持C#、Python、Java版本。

Semantic Kernel提供自定义插件、编排计划、信息存储至数据库(如SQLite、MongoDB、Redis、Postgres等)。

总的来说,Semantic Kernel就是可以把用户输入的prompt,经过分解为多个步骤、获取外部数据、执行自定义操作等,转换为一个更好的prompt,再调用大模型API,从而获取结果。

 

02
使用示例

以下是C#使用示例:

using Microsoft.SemanticKernel;using Microsoft.SemanticKernel.Connectors.OpenAI;
var builder = Kernel.CreateBuilder();
//OpenAI模型builder.AddOpenAIChatCompletion( "gpt-3.5-turbo", "...your OpenAI API Key...");
var kernel = builder.Build();
//等待用户输入Console.Write("用户:");var input = Console.ReadLine();
//循环对话while (input != "quit"){ var prompt = @$""user"">{input}"; var summarize = kernel.CreateFunctionFromPrompt(prompt, executionSettings: new OpenAIPromptExecutionSettings { MaxTokens = 100 }); var result = kernel.InvokeStreamingAsync(summarize); Console.Write("OpenAI:"); await foreach (var item in result) { Console.Write(item.ToString()); } Console.WriteLine(); Console.WriteLine(); Console.Write("用户:"); input = Console.ReadLine();}

 

03
核心组件

语义引擎:核心组件,用于理解用户的输入的语义,并将这些输入转化为机器可读的格式;

LLM API包装器:将传统的编程语言(如C#、Python、Java)与AI大模型集成,使得开发人员无需过多的关注大模型API,只需关心具体的业务开发;

可扩展编程模型:整合了自然语言语义功能、传统编程语言的native function以及基于embedding的存储,可以为大模型增强功能与数据。


04
项目地址

https://github.com/microsoft/semantic-kernel

从今天开始,在公众号即将编写:Semantic Kernel系列教程,欢迎关注

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/165999
 
103 次点击