L'ermita de Sant Joan fa cantó amb els carrers Pontevedra i Ferrol, aquest últim paral·lel i molt pròxim a la transitada avinguda d'Ondara. Entre aquests carrers queda delimitat l'espai ocupat per l'antic cementeri de Xàbia, situat als afores del nucli urbà pel sud.
És un altre dels temples més antics de la vila, que es va construir a la fi del segle XV o principis del segle XVI. Lloc sota l'advocació de sant Joan, molt venerat a Xàbia, a partir de 1817 va passar a ser la capella funerària del cementeri. De fet, sota terra s'hi han trobat enterraments des d'aleshores fins al 1849.
L'ermita no manté culte religiós i des de finals del segle passat es beneficia d'un projecte de rehabilitació que pretén fer visitable el monument, el qual s'ha obert ja al públic en les últimes festivitats de Tots Sants.
És un edifici rectangular amb coberta de teules a doble vessant poc pronunciada. La façana forma angle recte pel costat dret, el qual dona a l'accés del recinte del cementeri. Aquesta façana té la meitat superior blanquejada —com la resta de paraments—, mentre que la inferior és de carreus irregulars deixats a la vista i que emmarquen també la porta rectangular i una finestra reixada a cada costat. En les fulles xapades de la porta es distingeixen, entre filigranes florals, el gravat de dues calaveres amb les tíbies creuades. Tot això va eixir, segurament, d'alguna intervenció feta per a convertir-la en capella funerària, ja que l'entrada devia ser originàriament de mig punt. Per damunt, en el frontó i desplaçat cap a l'esquerra respecte a l'eix de la façana, s'hi obri un òcul redó menut.
La nau està dividida en tres trams per dos arcs, un de mig punt i un altre apuntat, encara que primerament degueren ser els dos d'aquest últim estil. El sostre és de barraca, amb les bigues de fusta a la vista. La capçalera és llisa i nua, sense cap imatge ni objectes de culte. Des de les excavacions arqueològiques fetes en 2010, s'hi han deixat obertes en terra les tombes corresponents als trenta enterraments descoberts.