Unweit der Burg entwickelte sich an einer Emsschleife eine Rundsiedlung, die 1289 Stadtrechte erhielt. Diese Strukturen sind noch heute in der historischen Altstadt sichtbar. Prächtige Fachwerkhäuser prägen das Bild der “Stadt der schönen Giebel”, die ebenso wie das Franziskanerkloster auf der Klosterinsel aus dem 17. Jahrhundert stammen.
Als Ausgangspunkte eines historischen Rundganges empfehlen sich die Kath. Pfarrkirche St. Johannes Baptista, das Hofbeamtenhaus und das Rathaus, erbaut 1806. Das alte Gericht, das ‘Grafliche Conductionshaus’, das Heimathaus sowie das Kloster und das Wohnhaus des Hofmalers Ludwig Bartscher gehören ebenso zu Rietbergs bauhistorischen Kostbarkeiten.
Südlich des Ortszentrums befindet sich am Johannesweg ein alter Prozessionsweg, der dem historischen Verlauf der Straße von Rietberg nach Paderborn folgt. Der Johannesweg verläuft unter einer mächtigen Allee aus Kastanien, Linden und Ahornbäumen.
Bereits 1723 wurde am Ende des Weges eine barocke Nepomuk-Statue von der gräflichen Familie gestiftet. Seit dieser Zeit findet jedes Jahr am Sonntag nach Pfingsten eine traditionelle Prozession statt.