На мой взгляд вы немножко о разном говорите:
Информация (измеряемая в битах) - да, хранится в материальных носителях (от нейронов головного мозга до компьютерных дисков).
Но память есть явление самосознания: осознаваемая временная дистанция между настоящим и прошлым. Там где нет самосознания, нет и памяти. В этом смысле материя существует вне времени - для неё есть только мгновения настоящего "сейчас".