コンテンツへスキップ
用語集に戻る

デプロイメント

Prompt Cache

定義

A technique that reuses cached computation for a repeated prompt prefix, such as attention key-value states. Benefits depend on cache eligibility, hit rate, eviction, implementation and any provider pricing rules. A cache does not remove the need to check access boundaries and treatment of sensitive prompt data.

AIの理解にお困りですか?

Physical AI 適合性コールをご予約いただき、これらのAI概念が貴社の業界や課題にどう適用されるかをご相談ください。