Im 13. Jahrhundert spitzten sich die Rivalitäten zwischen der erstarkenden und selbstbewussten Bürgerschaft von Paderborn und ihrem bischöflichen Landesherren derart zu, dass Simon I. zur Lippe (1247-1277) beim Papst das Burgenbaurecht erwirkte und 1257 die Genehmigung erhielt, in der Nähe des bischöflichen Haupthofes eine Burganlage zu errichten.
Während der Regierung von Fürstbischof Dietrich von Fürstenberg (1585-1618) wurde die Residenz zu einem repräsentativen Schloss ausgebaut. Das Schloss ist heute die älteste erhaltene Vierflügelanlage der Renaissance in Deutschland.