La Chiesa di Santa Elisabetta ha subito gli effetti delle ripetute frane che nel corso dei secoli hanno afflitto Celle sul Rigo, fino a ridurla ai ruderi ad oggi visibili. L’edificio attirò l’attenzione di Ranuccio Bianchi Bandinelli, famoso archeologo che da giovane lanciò un appello per questa chiesetta “abbandonata e minacciata”. Dalla sua descrizione risulta la presenza di un loggiato, la cui memoria è rimasta a lungo viva tra gli abitanti di Celle. Della chiesetta quattro-cinquecentesca sono oggi visibili solo la pianta, parte di una parete, i resti di un altare e una finestra a destra dell’ingresso. Il dossale dell’altare maggiore, insieme al portale, furono invece spostati nella Chiesa di San Paolo Converso, che si trova in paese. Il pezzo più bello e caratteristico è però fortunatamente giunto ai giorni nostri: si tratta di una pila per l’acqua santa in marmo sorretta da un fusto in travertino, sul cui fondo sono scolpiti pesci guizzanti.