プロンプトキャッシングについて調査してみた記録です。 生成AI系のAPIはたくさんあると思うんですが、そのコスト削減策について調べていました。 少し調べてみるとわかったこととして、2024年ごろからプロンプトのキャッシュを効かせる機能が登場したようで…

（雑記です） 表題の件について、ちょっと気になって夜も眠れなくなってしまったのでブログに書いてみます。