AIのトークン価格を10分の1にできる「プロンプトキャッシュ」の仕組みとは？GIGAZINE（ギガジン）

AIのトークン価格を10分の1にできる「プロンプトキャッシュ」の仕組みとは？

by ライブドアニュース編集部

ざっくり言うと

この記事の見出しと要約はライブドア社が開発したAIにより自動生成されたものです。実験的な機能のため、記事本文と併せてご確認ください。
  • ngrokがAIのプロンプトキャッシュの仕組みを詳しく解説した
  • LLM内部でTransformerが計算したKVキャッシュを保存し再利用する仕組みで
  • OpenAIは自動管理、Anthropicは開発者が制御できる方式で設計が異なる
記事を読む

ランキング

  • 総合
  • 国内
  • 政治
  • 海外
  • 経済
  • IT
  • スポーツ
  • 芸能
  • 女子
  1. 1. 清水アキラ「無念」息子の死去に
  2. 2. タレントの清水良太郎さん死去
  3. 3. イオン熊本爆発「真実を話して」
  4. 4. 大谷が24号ボールを欲しがった訳
  5. 5. オグシオ「不仲説」の真相明かす
  6. 6. 集団暴行死「この女が元凶」糾弾
  7. 7. 岡山で行方不明の2歳児 無事発見
  8. 8. 明美 被災地支援への指摘に回答
  9. 9. 車中泊避難の70代死亡 熱中症か
  10. 10. 大谷3年ぶり「二刀流」完全復活
  1. 11. 電撃辞任 阿部慎之助氏の現在
  2. 12. 24歳女優が芸能界引退へ 発表
  3. 13. 警察署に砲弾持ち込み? 北海道
  4. 14. 星野真里 難病の11歳娘が手術へ
  5. 15. 錦鯉・長谷川 ついにおむつ着用
  6. 16. 常田大希に「態度悪過ぎ」呆れ声
  7. 17. 高校時代に性被害20回超 再調査
  8. 18. 生き埋めの妻を救出「今も涙が」
  9. 19. 仲野太賀 恋人とフジロック満喫?
  10. 20. 岡山で2歳不明 祖母の家に帰省中
  1. 1. タレントの清水良太郎さん死去
  2. 2. イオン熊本爆発「真実を話して」
  3. 3. 集団暴行死「この女が元凶」糾弾
  4. 4. 岡山で行方不明の2歳児 無事発見
  5. 5. 車中泊避難の70代死亡 熱中症か
  6. 6. 警察署に砲弾持ち込み? 北海道
  7. 7. 生き埋めの妻を救出「今も涙が」
  8. 8. 岡山で2歳不明 祖母の家に帰省中
  9. 9. 再建へ? イオンモール熊本今後は
  10. 10. 吉本が誤報で激怒、出禁発令か
  1. 11. 地味なベタが2年半で男前に成長
  2. 12. 知らないと損する隠れ年金5制度
  3. 13. 孫に貸したスマホ 課金が膨らむ
  4. 14. 木村拓哉の投稿にツッコミ殺到
  5. 15. 佳子さま「リピ買い」するワンピ
  6. 16. 地震で商品落下 コストコの見解
  7. 17. イオン爆発で妻犠牲 夫の胸の内
  8. 18. 愛子さまが伊勢神宮へ 白ドレス
  9. 19. マンジャロ 2度目の失神も依存
  10. 20. 突然「ドン!」銃弾が耳かすめる
  1. 1. 無糖でも? コーヒー暴飲のリスク
  2. 2. 首相が強める財務省への不信感
  3. 3. 肉や魚は食べれず…夏休みの悲哀
  4. 4. 高額療養費制度の見直し 懸念は?
  5. 5. 「地雷女」と結婚 最悪の結末
  6. 6. 「ギラン・バレー症候群」の症状
  7. 7. 支持率急落の高市政権がV字回復画策 内閣改造でクビ切り不可避な“ポンコツ”5大臣の名前
  8. 8. オンワード イオン熊本で1人死亡
  9. 9. 高市首相があす3日に被災地訪問
  10. 10. 「駐禁シール」ペタペタ…猛批判
  1. 11. クマ殺すな 自治体4割の業務支障
  2. 12. 日本全国「奈良公園化」の危機
  3. 13. オンワード従業員の死者3人に
  4. 14. 「愛子天皇」潰しは賛成で、消費税減税はなぜ反対？ 玉木国民民主の「公約違反」がネットで袋叩き
  5. 15. 実父の性的虐待で「制度」を問う
  6. 16. イオン熊本でガス臭がしたと報告
  7. 17. みい山アニメ 発表時期にも批判
  8. 18. 自民党内でも賛否分かれる食品消費税「１％」、小林政調会長が試される「まとめる手腕」
  9. 19. ガス爆発の可能性含めイオン調査
  10. 20. 九州新幹線運休で JALなど臨時便
  1. 1. 女性の告発動画 夫射殺後も拡散
  2. 2. 米7州の水道にサイバー攻撃
  3. 3. 米軍 イスラエル防空に戦力不足
  4. 4. 半透明の洞窟魚 米で新種を発見
  5. 5. ジェニー「スケスケ衣装姿」投稿
  6. 6. トランプ氏、大規模攻撃を中止
  7. 7. 反捕鯨活動の船 21人が身柄拘束
  8. 8. 女が運んだ爆弾 モスクワで爆発
  9. 9. モスクワ中心部 爆発でテロ捜査
  10. 10. マット・デイモン 韓国球場へ
  1. 11. 東野圭吾さん作品に何度も涙 中
  2. 12. 米在住者 屋根裏DIYで猛暑を攻略
  3. 13. エボラ熱 コンゴで史上最大規模
  4. 14. モスクワ中心部で爆発 3人死亡
  5. 15. ウへパトリオット技術供与 困難
  6. 16. 北朝鮮ミサイル 一家10人が犠牲
  7. 17. 梁山41.4度 韓国の観測記録更新
  8. 18. ウ首都にミサイル攻撃 9人死亡
  9. 19. 米 イラン攻撃中止 合意が条件に
  10. 20. ウソでしょ? 米美女が巨大魚捕獲
  1. 1. 給与明細売って1000万稼ぐXアカ
  2. 2. 孫の帰省「もはや重荷」の現実
  3. 3. 窮地のWOWOW 純利益は倍増も?
  4. 4. 毎朝「通勤電車でスマホ」は損?
  5. 5. 自宅駐車場を有料貸出 問題ない?
  6. 6. 電通上層部の「大いなる誤解」
  7. 7. 妻がパート拡大 扶養外れの損益
  8. 8. 熊本から新水俣 新幹線再開困難
  9. 9. 年金の大誤解 放置で大損リスク
  10. 10. 50代会社員 家賃保証の落とし穴
  1. 11. 親の12億円 相続税で大半消える
  2. 12. 4万円の東芝製便座 DIY交換レポ
  3. 13. 日米が15年ぶり協調介入 円急伸
  4. 14. 74歳夫婦 持ち家を手放した理由
  5. 15. 退職金 一括か分割か 手取りの差
  6. 16. 年収665万以下 所得税が大幅軽減
  7. 17. AIが税務調査先を選ぶ時代が来る
  8. 18. 映画「ちいかわ」大ヒットの要因
  9. 19. NISA 2年で120万円溶かした理由
  10. 20. のぞみ全席指定 家族4人の影響は
  1. 1. 突然のiPhone値上げ 買いどきは?
  2. 2. モンベルがAmazonでセール価格に
  3. 3. ボトル飲料がAmazonで最大半額に
  4. 4. 楽天モバイル 知らずに対象外も
  5. 5. 中年男性 デートで幻滅される癖
  6. 6. 神奈川などで「PayPay」還元施策
  7. 7. セブンとPayPay 総額3000億提携
  8. 8. ダサい中年に共通「時代遅れ感」
  9. 9. USB-C有線で「ノイキャン・外音取り込み」が使える AVIOT コスパ重視のイヤホンを発売へ
  10. 10. ポケモンのイーブイをベージュ＆ブラウンカラーで表現したイヤーカフ型イヤホン「Soundcore C50i イーブイモデル」フォトレビュー
  1. 11. 「iOS14」さっそく脱獄される?
  2. 12. Anker製品がAmazonで最大37%OFF
  3. 13. ホンダ「フォルツァ Z」をモデルチェンジ
  4. 14. コンピューター用語の「ハッカー」はいつ頃から使われるようになったのか？
  5. 15. iPS細胞を用いた家族性地中海熱の新しい診断法を開発　京大の研究
  6. 16. モニターに取り付けて省スペース＆広い範囲を明るく照らすBenQの「ScreenBarモニターライト」レビュー、15段階の明るさと8段階の色温度を調整可能
  7. 17. [山根康宏の「言っチャイナよ」] XREALがARグラス対応5Gスマホ発表、vivoは最強カメラフォンを投入
  8. 18. ドゥーロフ氏 ロシアに指名手配
  9. 19. 『ガメラ（1996）』をリアルな造形と彩色で表現！ハイクオリティなヘッドモデルが登場
  10. 20. トヨタが100億ドルを投じたプライベート・ユートピア「Woven City」
  1. 1. 大谷が24号ボールを欲しがった訳
  2. 2. 電撃辞任 阿部慎之助氏の現在
  3. 3. 権藤博 球宴の「お遊び」に苦言
  4. 4. バレー男子の中継巡りTBSが謝罪
  5. 5. ド軍 スクバルをトレードで獲得
  6. 6. 佐野海舟 帰国後に銭湯で黒湯浴
  7. 7. バレー準決勝 日本激闘も敗戦
  8. 8. 八村塁 日本代表に戻る決意語る
  9. 9. 中島イシレリ引退 新制度に怒り
  10. 10. りくりゅう 一緒に寝転んで撮影?
  1. 11. プロで見たかった 始球式で騒然
  2. 12. 男子バレー 苦戦わかる1枚に衝撃
  3. 13. 敗退してくれてよかった 安堵か
  4. 14. 村上宗隆 復帰でチームが上昇中
  5. 15. 陽岱鋼が会見 大先輩の登場に涙
  6. 16. 鈴木彩艶 PSGが争奪戦でリード
  7. 17. 日本男子バレー 米国に逆転負け
  8. 18. FIFA会長選 対立候補が急浮上か
  9. 19. 横浜 初戦から沖縄尚学と対決へ
  10. 20. FIFA W杯権益売却 計画を撤回
  1. 1. 清水アキラ「無念」息子の死去に
  2. 2. オグシオ「不仲説」の真相明かす
  3. 3. 明美 被災地支援への指摘に回答
  4. 4. 大谷3年ぶり「二刀流」完全復活
  5. 5. 24歳女優が芸能界引退へ 発表
  6. 6. 星野真里 難病の11歳娘が手術へ
  7. 7. 錦鯉・長谷川 ついにおむつ着用
  8. 8. 常田大希に「態度悪過ぎ」呆れ声
  9. 9. 仲野太賀 恋人とフジロック満喫?
  10. 10. 横浜流星「人相変わりすぎ」衝撃
  1. 11. あさこ 身長&体重をぶっちゃけ
  2. 12. マガジン新人漫画大賞は最年少17歳の高校生が受賞　同級生にバカにされた経験「見返してやる！」漫画家を決意…青春謳歌の執筆日々
  3. 13. 震度6強も「被害ほぼ0」町の教訓
  4. 14. 錦鯉・長谷川 クレカ停止のワケ
  5. 15. 義援金と寄付金の違い 投稿反響
  6. 16. 草なぎ剛の韓国語「凄い完璧」
  7. 17. 「T乾」不明の夫から手紙 SNS涙
  8. 18. 「早発閉経」を告白 返答に驚き
  9. 19. 吉川晃司 福岡公演を途中で中止
  10. 20. 良太郎さん 最後のTikTokは脱毛
  1. 1. Olive切替で8千円相当が手に入る
  2. 2. ワークマンにて可愛い掘り出し品
  3. 3. 1年で12キロ激ヤセ 53歳女優吐露
  4. 4. ただの平行眉はちょっと古いかも！今っぽアーチ眉の作り方完全ガイド
  5. 5. 磯野貴理子 終活で驚きの行動に
  6. 6. 『ヒロアカ』×「マリオンクレープ」がコラボ！　“パティシエ姿”の描き下ろしグッズやコラボクレープ発売
  7. 7. 「しゃぶ禅」国産肉食べ放題半額
  8. 8. 「鳥貴族」新作スイーツを紹介
  9. 9. 夫の不倫相手「騙されてる」同情
  10. 10. 小倉優子が血液検査 衝撃の数値
  1. 11. 熱海に温泉＆サウナ完備の新ホテル「ヴィラージュ熱海」開業 花火大会を満喫できる宿泊者専用ルーフトップも
  2. 12. 「助けてほしい」母 悲劇に直面
  3. 13. お局を手なずける技術と対処法
  4. 14. サンリオ 渋谷で体験型イベント
  5. 15. リプトンの「ギフトボックス」
  6. 16. 金田朋子 結婚14年目に夫に告げた苦しさ「僕が夢を諦めれば」の提案も「夫婦が人生をまっとうするため離婚を選んだ」
  7. 17. ROSE BUD×MARY QUANTの限定コレクション登場！大人可愛い別注アイテムに注目
  8. 18. 「おさしみは痩せる」意味深タグ
  9. 19. 【まさかの展開】「あの頃とずいぶん変わったな」卒業後、ダイエットに成功。同窓会で【予想外の事態】が...！？
  10. 20. 【衝撃展開】推しが10人いる友だち。話を聞いていたら、主人公には“ある疑問”が浮上して...！？