Hier am nördlichen Ende der Rinderbachstraße stand im Mittelalter eine überdachte Doppeltoranlage. Sie regelte den Zugang von und nach Nieder-Ingelheim und führte im Verlauf direkt zum sog. kleinen Markt nahe St. Remigius.
Die Reste des alten Tores wurden Anfang des 19. Jahrhunderts zu Wohnzwecken in der Art eines Torhauses überbaut; inzwischen musste aber auch diese Veränderung wegen Baufälligkeit abgetragen werden. Als einziger Rest blieb noch ein Seitenpfeiler erhalten, der mit den Außenmauern des früheren Apotheker-Anwesens verbunden ist.
Etwa zur Mitte der Rinderbach steht, durch einen kleinen Stichweg, der Spitalgasse, erschlossen, die ehemalige, dem hl. Justus (auch „St. Jost“, „St. Jodokus“) geweihte Spitalkapelle“, 1387 gestiftet von der Witwe von Johann von Melwald. Das kleine, nach Osten ausgerichtete Gotteshaus wurde im Zuge der Reformation 1565 profaniert und dem Verfall preisgegeben. Für die Nutzung als Wohngebäude wurden einige bauliche Veränderungen vorgenommen. Dennoch gilt das Gebäude in der Region als seltenes, noch in bedeutenden Teilen erhaltenes Beispiel einer mittelalterlichen Spitalkapelle.
Das verschwundene Spitalgebäude, im 12./13. Jahrhundert an einer ergiebigen Quelle gegründet, diente über Jahrhunderte hinweg, bis zur Französischen Revolution, als Herberge für Arme, Pflegebedürftige, Waise, Alte und auch Durchreisende.
