کد زیر یه مدل PyTorch رو برای پیشبینی با TorchServe آماده میکنه و یه درخواست API میفرسته.
import torch
import requests
from torchvision import models
# 1. ذخیره مدل
model = models.resnet18(pretrained=True)
model.eval()
torch.jit.save(torch.jit.script(model), "model.pt")
# 2. فرض کنید TorchServe اجرا شده و مدل لود شده
# دستورات ترمینال (برای آمادهسازی و اجرا):
# torch-model-archiver --model-name resnet18 --version 1.0 --model-file model.pt --handler image_classifier
# torchserve --start --model-store model_store --models resnet18=resnet18.mar
# 3. ارسال درخواست پیشبینی
response = requests.post("http://localhost:8080/predictions/resnet18", files={"data": open("cat.jpg", "rb")})
result = response.json()
# فرض کنید خروجی JSON اینه: {"class": "tabby_cat", "confidence": 0.85}
print(result["confidence"])
با فرض اینکه درخواست API به درستی کار میکنه و خروجی JSON شامل
{"class": "tabby_cat", "confidence": 0.85}
باشه، مقدار چاپشده توسط خط زیر چیست ؟
print(result["confidence"])