40 lines
1.7 KiB
C#
40 lines
1.7 KiB
C#
// Admin.NET 项目的版权、商标、专利和其他相关权利均受相应法律法规的保护。使用本项目应遵守相关法律法规和许可证的要求。
|
|
//
|
|
// 本项目主要遵循 MIT 许可证和 Apache 许可证(版本 2.0)进行分发和使用。许可证位于源代码树根目录中的 LICENSE-MIT 和 LICENSE-APACHE 文件。
|
|
//
|
|
// 不得利用本项目从事危害国家安全、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动!任何基于本项目二次开发而产生的一切法律纠纷和责任,我们不承担任何责任!
|
|
|
|
namespace Admin.NET.Plugin.Ai;
|
|
|
|
/// <summary>
|
|
/// LLM注册扩展类
|
|
/// 注意:此扩展不能切换模型,只能使用一个模型
|
|
/// </summary>
|
|
public static class LLMRegisterExtention
|
|
{
|
|
/// <summary>
|
|
/// 注册LLM大模型,获取Kernel实例
|
|
/// </summary>
|
|
/// <param name="services"></param>
|
|
/// <returns></returns>
|
|
public static IServiceCollection AddLLM(this IServiceCollection services)
|
|
{
|
|
services.AddTransient((serviceProvider) =>
|
|
{
|
|
ILLMFactory llmFactory = serviceProvider.GetRequiredService<ILLMFactory>();
|
|
var llmOptions = App.GetOptions<LLMOptions>();
|
|
var modelProvider = llmOptions.ModelProvider;
|
|
var provider = llmOptions.Providers.FirstOrDefault(p => p.ProductName == modelProvider);
|
|
if (provider == null)
|
|
{
|
|
throw new Exception($"未找到{modelProvider}模型提供者");
|
|
}
|
|
return llmFactory.CreateKernel(new LLMModelInput
|
|
{
|
|
ProductName = provider.ProductName,
|
|
ModelId = provider.ChatCompletion.ModelId
|
|
});
|
|
});
|
|
return services;
|
|
}
|
|
} |