C# 使用 OllamaSharp 调用 Llama 3、Phi 3 等大语言模型

在 C# 开发中，使用 OllamaSharp 调用 Llama 3、Phi 3 等大语言模型，可以让你的桌面程序轻松对接这些强大的语言模型，实现各种智能化的功能。本文将详细介绍如何使用 OllamaSharp 调用 Llama 3、Phi 3 等大语言模型，并通过实际示例展示其使用方法。

一、安装 OllamaSharp

首先，需要确保已经在本地安装了 Ollama。如果没有安装，可以在 Ollama 官网下载并安装。默认情况下，Ollama 运行在 http://localhost:11434。

然后，在你的 C# 项目中安装 OllamaSharp。可以通过 NuGet 包管理器进行安装：

Install-Package OllamaSharp

二、调用 Llama 3、Phi 3 等大语言模型

1. 创建 OllamaApiClient 实例

using OllamaSharp;

var uri = new Uri("http://localhost:11434");
var ollama = new OllamaApiClient(uri);

2. 选择模型

ollama.SelectedModel = "llama3"; // 选择 Llama 3 模型
// ollama.SelectedModel = "phi3"; // 选择 Phi 3 模型

3. 调用模型

使用 GenerateAsync 方法

private async void btnSend_Click(object sender, EventArgs e)
{
    bool bThink = false;
    await foreach (var response in ollama.GenerateAsync(richTextBox2.Text))
    {
        if (response == null) return;

        string text = response.Response;
        if (text.Contains("<think>"))
        {
            bThink = true;
            continue;
        }
        if (text.Contains("</think>"))
        {
            bThink = false;
            continue;
        }
        if (bThink == false)
        {
            richTextBox1.AppendText(text);
        }
    }
}

使用 StreamCompletion 方法

private async void Ask()
{
    var uri = new Uri("http://localhost:11434");
    var ollama = new OllamaApiClient(uri);
    ollama.SelectedModel = "llama3";
    var prompt = "WPF 和 Winform 的区别是啥";

    ConversationContext context = null;
    await foreach (var stream in ollama.StreamCompletion(prompt, context))
    {
        Debug.Write(stream.Response);
    }
}

4. 管理模型

下载模型

await ollama.PullAsync("llama3");
Console.WriteLine("模型下载完成");

获取可用模型列表

var models = await ollama.ListLocalModelsAsync();
foreach (var model in models)
{
    Console.WriteLine(model.Name);
}

删除模型

await ollama.DeleteAsync("llama3");
Console.WriteLine("模型已删除");

三、实际应用示例

1. 创建一个简单的桌面程序

using System;
using System.Windows.Forms;
using OllamaSharp;

namespace OllamaSharpApp
{
    public partial class Form1 : Form
    {
        OllamaApiClient client;
        public Form1()
        {
            InitializeComponent();
        }

        private async void btnSend_Click(object sender, EventArgs e)
        {
            bool bThink = false;
            await foreach (var response in client.GenerateAsync(richTextBox2.Text))
            {
                if (response == null) return;

                string text = response.Response;
                if (text.Contains("<think>"))
                {
                    bThink = true;
                    continue;
                }
                if (text.Contains("</think>"))
                {
                    bThink = false;
                    continue;
                }
                if (bThink == false)
                {
                    richTextBox1.AppendText(text);
                }
            }
        }

        private void Form1_Load(object sender, EventArgs e)
        {
            client = new OllamaApiClient(new Uri("http://localhost:11434"));
            client.SelectedModel = "llama3"; // 选择 Llama 3 模型
            richTextBox2.Text = "介绍一下你自己";
        }
    }
}

2. 进行聊天交互

private async void btnSend_Click(object sender, EventArgs e)
{
    bool bThink = false;
    await foreach (var response in client.GenerateAsync(richTextBox2.Text))
    {
        if (response == null) return;

        string text = response.Response;
        if (text.Contains("<think>"))
        {
            bThink = true;
            continue;
        }
        if (text.Contains("</think>"))
        {
            bThink = false;
            continue;
        }
        if (bThink == false)
        {
            richTextBox1.AppendText(text);
        }
    }
}

四、总结

通过 OllamaSharp 调用 Llama 3、Phi 3 等大语言模型，可以在 C# 中实现各种智能化的功能。OllamaSharp 提供了简单易用的 API，可以方便地与这些大语言模型进行交互。无论是用于桌面程序还是其他应用场景，OllamaSharp 都是一个强大的工具。希望本文能够帮助你更好地理解和使用 OllamaSharp。

最后，如果你对python语言还有任何疑问或者需要进一步的帮助，请访问https://www.xin3721.com 本站原创，转载请注明出处：https://www.xin3721.com