redis-semantic-cache
نگهدارنده redis
راهنمای Redis LangCache برای cache معنایی پاسخهای LLM در Redis Cloud.
- نسخه فعلی
- نامشخص
- مجوز
- MIT
- دسترسی شبکه
- نامشخص / ارزیابینشده
- وضعیت بررسی
- تأیید نشده
چه مسئلهای را حل میکند؟
کاهش هزینه و تأخیر پاسخهای LLM یا RAG با cache معنایی Redis LangCache را پشتیبانی میکند.
چه زمانی مناسب است؟
برای تنظیم cache معنایی Redis Cloud برای پاسخهای LLM یا RAG، آستانهٔ شباهت یا تفکیک cacheها از آن استفاده کنید.
راهنمای Redis LangCache برای cache معنایی پاسخهای LLM در Redis Cloud است: فراخوانی `search`/`set` با SDK یا REST API، تنظیم آستانهٔ شباهت، جداسازی cacheها بهازای نوع task و فیلتر با ویژگیهای سفارشی. برای cacheکردن completionهای LLM یا پاسخهای RAG برای کاهش هزینه و تأخیر API، ساخت لایهٔ cache-aside جلوی OpenAI / Anthropic / etc.، تنظیم نسبت hit rate و precision، یا تفکیک workloadهای LLM یک برنامه در چند LangCache بهکار میرود.
نصب و بهروزرسانی
این دستورها فقط برای کپی نمایش داده میشوند و روی سرور RefHub اجرا نمیشوند. پیش از اجرا، منبع بالادستی پیوندشده را بررسی کنید.
دستور نصب
npx skills add redis/agent-skills --skill redis-semantic-cache -yسازگاری با ایجنتها
هنوز تست سازگاری ثبت نشده است
تا وقتی شواهد تست ثبت نشده، سازگاری این مهارت با ایجنتها را تأییدشده فرض نکنید.