高效快速的代码对于在软件应用程序中创造出色的用户体验至关重要。无论是加载网页、训练机器学习模型还是运行脚本，用户都不喜欢等待缓慢的响应。加快代码速度的一种方法是缓存。

缓存的目的是临时缓存常用数据，以便您的程序可以更快地访问这些数据，而无需多次重新计算或检索。缓存可以加快响应时间、减少负载并改善用户体验。

本博客将介绍缓存原理、其作用、用例、策略以及 Python 中缓存的真实示例。让我们开始吧！

目录

  1. 编程中的缓存是什么？
  2. 缓存的目的
  • 减少访问时间
  • 减少系统负荷
  • 提升用户体验
  1. 缓存的常见用例
  • Web应用程序
  • 机器学习
  • CPU优化
  1. 缓存策略
  • 先进先出 (FIFO)
  • 后进先出 (LIFO)
  • 最近最少使用 (LRU)
  • 最近使用 (MRU)
  • 最不常用 (LFU)
  1. 在 Python 中实现缓存
  • 手动缓存装饰器
  • 使用Python的functools.lru_cache
  1. 缓存策略性能比较
  2. 总结
  3. 常见问题

编程中的缓存是什么？

缓存是用于频繁检索数据的临时存储位置。此数据保存在更快的存储介质上，因此可以比从原始源更快地检索这些数据。

该图展示了“编程解释”中的缓存

缓存的目的

缓存可让您通过减少获取数据所需的时间和资源来加快应用程序的速度。以下是使用缓存的主要原因：

1. 更快的访问速度

缓存可减少检索数据所需的时间。当应用从缓存而不是数据库或 API 等较慢的来源获取数据时，其响应时间会缩短，整体性能也会提高。

2. 减少系统负载

通过将常用数据存储在缓存中，您可以最大限度地减少对数据库或其他数据源的请求次数。这可以减轻系统负担，有助于避免瓶颈并提高整体系统性能。

3.更好的用户体验

缓存允许用户快速检索数据，这对于实时应用程序和网页非常重要。更快的加载时间意味着更流畅的交互和更好的用户体验。

缓存是构建快速且用户友好的应用程序的关键。它可以节省时间、减少系统压力并让用户满意。

缓存的常见用例

缓存可用于许多地方来提高速度。以下是一些常见的缓存用例：

该图显示了缓存的常见用例

1. Web应用程序

Web 应用中的缓存可减少从数据库或其他 API 提取数据所需的时间。通过缓存产品列表或用户设置等常用数据，应用无需多次访问数据库即可处理请求。这意味着页面加载速度更快，用户体验更好。

2。 机器学习

机器学习模型需要大数据集。缓存有助于存储常用数据或模型输出，从而减少处理数据所需的时间。缓存可用于缓存昂贵的计算结果或预处理数据，从而加快训练和模型预测速度。

3. CPU优化

CPU 存储常用指令和数据。这通过减少在较慢内存中花费的时间来加快程序运行速度。CPU（L1、L2、L3）中的缓存是高吞吐量任务中性能优化的关键。

缓存用于 Web 应用程序、机器学习和 CPU 密集型任务，以加速、减少延迟和提高整体系统性能。

缓存策略

可以根据数据的访问和存储方式进行缓存。以下是一些缓存策略：

1.先进先出（FIFO）

FIFO 是一种简单的缓存策略，其中最先添加到缓存中的项是缓存已满时最先被删除的项。这对于数据访问顺序很重要的系统（如消息队列）非常有效。

2.后进先出（LIFO）

LIFO 是指最新添加的项目最先从缓存中删除。当最新数据很可能很快再次使用时（例如在基于堆栈的应用程序中），这很有用。

3.最近最少使用（LRU）

LRU 会从缓存中删除最近最少使用的项目。这在需要优先处理频繁访问的数据而非较旧、较少使用的数据的情况下非常有用。LRU 用于 Web 应用和数据库，以快速访问热门数据。

4.最近使用（MRU）

MRU 与 LRU 相反。它会先删除最常用的数据。当一段时间内未使用的信息很有可能再次需要时，这很有用。

5. 最不常用（LFU）

LFU 会删除使用次数最少的数据。这有助于优先处理使用次数较多的数据并删除使用次数较少的数据，从而提高缓存命中率。

选择正确的缓存策略将提高性能并确保可以快速访问正确的数据。

在 Python 中实现缓存

在 Python 中，缓存有多种实现方式。我们来看看两种常用方法：使用手动装饰器进行缓存和 Python 内置的 functools.lru_cache。

1. 手动缓存装饰器

装饰器是一个包裹另一个函数的函数。我们可以创建一个缓存装饰器，将函数调用的结果存储在内存中，并在再次调用相同输入时返回缓存的结果。以下是示例：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
进口 要求

# 手动缓存装饰器
DEF 记住(FUNC):
    缓存 = {}
    DEF 包装纸(*参数):
        if ARGS in 缓存：
            回报 缓存[参数]
        结果 = 函数（*args）
        缓存[参数] = 结果
        回报 导致
    回报 包装纸

# 从 URL 获取数据的函数
@memoize
DEF 获取html(网址):
    响应 = requests.get(url)
    回报 响应文本

# 用法示例
打印（获取html（'https://crawlbase.com'))

在这个例子中，第一次 get_html 被调用时，它会从 URL 中获取数据并缓存。在后续使用同一 URL 的调用中，将返回缓存的结果。

  1. 使用Python的 functools.lru_cache

Python 提供了一种内置的缓存机制，称为 lru_cache 来自 functools 模块。此装饰器缓存函数调用，并在缓存已满时删除最近最少使用的项目。以下是使用方法：

1
2
3
4
5
6
7
8
在 功能工具 进口 lru_缓存

@lru_缓存（最大尺寸=128)
DEF 昂贵的计算(x，y):
    回报 x * y

# 用法示例
打印（昂贵的计算（5, 6))

在这个例子中， lru_cache 缓存结果 expensive_computation如果使用相同的参数再次调用该函数，它将返回缓存的结果而不是重新计算。

缓存策略性能比较

选择缓存策略时，需要考虑它们在不同条件下的表现。缓存策略的性能取决于缓存命中次数（在缓存中找到数据时）和缓存的大小。

以下是常见缓存策略的比较：

该图显示了缓存策略的性能比较

选择正确的缓存策略取决于应用程序的数据访问模式和性能需求。

总结

缓存对于您的应用非常有用。它可以减少数据检索时间和系统负载。无论您是在构建 Web 应用、机器学习项目，还是只想加快系统速度，智能缓存都可以让您的代码运行得更快。

FIFO、LRU 和 LFU 等缓存方法有不同的使用情况。例如，LRU 适用于需要保留频繁访问的数据的 Web 应用程序，而 LFU 适用于需要随时间存储数据的程序。

正确实现缓存将使您设计更快、更高效的应用程序并获得更好的性能和用户体验。

常见问题

问：Python 中的缓存是什么？

Python 中的缓存是一种存储昂贵函数调用或数据检索结果的方法，以便将来对相同数据的请求可以更快地得到满足。通过将常用数据存储在临时内存（缓存）中，您可以更快地加载数据并加快应用程序的速度。

问：如何选择最佳的缓存策略？

这取决于您的应用及其使用数据的方式。例如：

  • LRU（最近最少使用） 适用于经常使用但很快过期的数据。
  • FIFO（先进先出） 当顺序很重要时。
  • LFU（最不常用） 当某些数据的使用比其他数据多得多时。

选择正确的一个，您将获得更好的数据访问和性能。

问：如何在 Python 中实现缓存？

您可以使用多种方式在 Python 中进行缓存。以下是其中一些：

  • 手动装饰器：创建一个带有装饰器的自定义缓存系统来存储和检索函数结果。
  • functools.lru_cache：这是一个执行 LRU 缓存的内置 Python 装饰器。

两者都将根据您的使用情况加快您的代码速度。