Программа курса Урок 53 из 148 · Скорость без кэша
Скорость без кэша

Почему бы просто не закэшировать?

Почему это важно Попросите ассистента ускорить что-нибудь, и первый ответ очень часто - "добавьте кэш". Иногда это верно. Часто у задачи есть правило, которое делает это неверным, и быстрее сделать меньше работы, а не запомнить больше её результатов.

Кэш обменивает память на повторную работу. Он окупается, когда один и тот же вопрос возвращается много раз, ответ не устаревает и есть место хранить ответы. Уберите любое из этих условий, и кэш становится издержкой: он растёт без предела, отдаёт старые данные или ни разу не срабатывает.

Кэш: хранилище уже вычисленных ответов, чтобы на тот же вопрос можно было ответить снова без работы.

Пути, которым не нужен кэш

  • Предвычислите один раз: один проход, строящий ровно то, что нужно вопросам, например накопленные суммы.
  • Используйте данный вам порядок: отсортированные данные позволяют двум указателям или двоичному поиску пропустить большую их часть.
  • Обрабатывайте потоком: держите текущую сводку и никогда не храните весь вход.
  • Ограничьте поиск: остановитесь, как только ничто оставшееся не может превзойти лучший ответ на данный момент.

В этом модуле данные приходят как Tape, который считает каждое прочитанное значение, а некоторые задачи ограничивают память, которую ваша функция может использовать во время работы. Предел измеряется собственным tracemalloc Python, который видит и копии, сделанные внутри встроенных функций: list(tape) и set(tape) не бесплатны.

import tracemalloc
tracemalloc.start()
result = my_function(tape)
peak_bytes = tracemalloc.get_traced_memory()[1]
tracemalloc.stop()

Итоги Кэшу нужны повторы, свежесть и место. Когда задача исключает одно из них, ищите работу, которую можно пропустить, а не работу, которую можно запомнить.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.