JAPANESE
Vertex AI Gemini コンテキストキャッシング
バーテックスエーアイジェミニコンテキストキャッシング
KOREAN
Vertex AI Gemini 컨텍스트 캐싱
[ボテクス エイアイ ジェミニ コンテクストゥ ケシン]
ハングル読み: 바텟쿠스에아이제미니콘테키스토캿신구
解説
大規模なシステムプロンプトやドキュメントをキャッシュして再利用するGemini APIの機能。同じコンテキストを繰り返し送信する必要がなくなり、入力トークンのコストとレイテンシを大幅に削減する。
대규모 시스템 프롬프트나 도큐먼트를 캐시하여 재사용하는 Gemini API의 기능이다. 같은 컨텍스트를 반복 전송할 필요가 없어져 입력 토큰 비용과 레이턴시를 대폭 삭감한다.
例文
100ページの仕様書をコンテキストキャッシングに格納してAPI呼び出しコストを75%削減した。
100페이지의 사양서를 컨텍스트 캐싱에 저장하여 API 호출 비용을 75% 삭감했다.