Гарантированный валидный JSON из локальных LLM: Ограничение грамматик в Ollama и Pydantic v2

from pydantic import BaseModel, Field
from typing import List, Literal
from openai import OpenAI
import instructor

# Определение строгой схемы данных
class UserProfile(BaseModel):
    full_name: str = Field(description="Полное имя пользователя")
    experience_years: int = Field(ge=0, le=50, description="Опыт работы в годах")
    primary_skills: List[str] = Field(min_length=1, description="Список ключевых навыков")
    seniority: Literal["Junior", "Middle", "Senior", "Lead"]

# Оборачиваем клиент Ollama через Instructor
client = instructor.from_openai(
    OpenAI(base_url="http://localhost:11434/v1", api_key="ollama"),
    mode=instructor.Mode.JSON
)

# Запрос с гарантированным парсингом прямо в объект Pydantic
user: UserProfile = client.chat.completions.create(
    model="qwen2.5-coder:14b",
    response_model=UserProfile,
    messages=[
        {"role": "user", "content": "Артур Моисеев, работает системным архитектором 8 лет, эксперт в Python, Go и LangGraph"}
    ]
)

print(f"Имя: {user.full_name}")
print(f"Уровень: {user.seniority}")
print(f"Стек: {', '.join(user.primary_skills)}")