tao-run-inference-service
نگهدارنده nvidia
اجرای سرویس استنتاج TAO مبتنی بر شبکه
- نسخه فعلی
- نامشخص
- مجوز
- Apache-2.0
- دسترسی شبکه
- نامشخص / ارزیابینشده
- وضعیت بررسی
- تأیید نشده
چه مسئلهای را حل میکند؟
چرخهٔ آغاز، query و توقف سرویس استنتاج TAO و ساخت payload و registry لازم را مدیریت میکند.
چه زمانی مناسب است؟
برای استنتاج checkpoint TAO با microservice container، deploy endpoint یا توقف container استنتاج استفاده کنید.
microservice استنتاج TAO ویژهٔ شبکه با نام {network_arch}-inference-microservice را آغاز، query و متوقف میکند و اجرای container را به مهارت platform مناسب واگذار میکند. resolution image کانتینر، ساخت job-payload JSON و service registry را مدیریت میکند. وقتی کاربر میخواهد روی checkpoint مدل TAO با microservice container استنتاج اجرا کند، endpoint استنتاج TAO deploy کند یا container استنتاج در حال اجرا را متوقف کند، استفاده کنید.
نصب و بهروزرسانی
این دستورها فقط برای کپی نمایش داده میشوند و روی سرور RefHub اجرا نمیشوند. پیش از اجرا، منبع بالادستی پیوندشده را بررسی کنید.
دستور نصب
npx skills add nvidia/skills --skill tao-run-inference-service -yسازگاری با ایجنتها
هنوز تست سازگاری ثبت نشده است
تا وقتی شواهد تست ثبت نشده، سازگاری این مهارت با ایجنتها را تأییدشده فرض نکنید.