Я думаю, что в конфигурации redis есть настройка размера хранилища, которая не позволит вам добавлять больше данных, чем может поместиться в созданном вами хранилище. Если вы настроите хранилище, которое не умещается в физической памяти, оно просто запросит у ОС больше памяти, и некоторая ее часть будет выгружена на диск с очевидными последствиями для производительности.
Следующая версия Redis имеет собственную реализацию виртуальной памяти, которая может хранить на диске менее часто используемые ключи - http://antirez.com/post/redis-virtual-memory-story.html