Caching de Prompts en la API

La API de OpenAI ofrece descuentos automáticos en los inputs que el modelo ha visto recientemente. Este nuevo recurso permite a los desarrolladores ahorrar costos y mejorar la eficiencia de sus aplicaciones.

Resumen elaborado por Kernelia a partir del artículo original de OpenAI News. La noticia y sus derechos pertenecen a su autor.