Библиотека шарписта | C#, F#, .NET, ASP.NET: “🤩 Работа с LLM в .NET Microsoft выпустили разбор про то, как работать…”

🤩 Работа с LLM в .NET

Microsoft выпустили разбор про то, как работать с AI в .NET. Если вы думали, что интеграция LLM — это боль и каша из разных SDK, вот хорошие новости.

Microsoft.Extensions.AI — один API для всех

Работаете с OpenAI — один SDK. Решили попробовать Ollama — другой API. Захотели Azure OpenAI — третий подход. Microsoft решили эту проблему радикально: один интерфейс для всех провайдеров.

IChatClient client = ...; // любой провайдер
await foreach (var update in client.GetStreamingResponseAsync("How are you?"))
{
    Console.Write(update);
}

Раньше, чтобы получить структурированный JSON, нужно было плясать с бубном и JSON Schema. Теперь:

record Family(List<Person> Parents, List<Person>? Children);
record Person(string Name, int Age);

var family = await client.GetResponseAsync<Family>(
    [
        new ChatMessage(ChatRole.System, "You are an AI assistant..."),
        new ChatMessage(ChatRole.User, "Create a family with 2 parents...")
    ]);

Схему сгенерируют за вас, JSON распарсят, десериализуют.

Хотите отправить фото для анализа? Обойдёмся без сотни строк:

var image = new DataContent(File.ReadAllBytes(@"photo.jpg"), "image/jpeg");
var messages = new List<ChatMessage>
{
    new(ChatRole.System, "You are a photo analyst..."),
    new(ChatRole.User, [prompt, image])
};

record ImageAnalysis(string Description, string[] Tags);
var analysis = await client.GetResponseAsync<ImageAnalysis>(messages);

Работает с изображениями, аудио и видео.

Один API, middleware, типизация, телеметрия. Можно не изобретать велосипед при каждой смене провайдера.

📍 Навигация: Вакансии • Задачи • Собесы

🐸Библиотека шарписта

#sharp_view