Schon in vorgeschichtlicher Zeit war das Gebiet um Weilheim besiedelt. Um 15 vor Christus kamen die Römer in das Gebiet des heutigen Oberbayern und unterwarfen die rätischen Alpenbewohner sowie die nördlich davon lebenden Kelten. Sie bauten die wichtige Straße über den Brenner, die über Parthanum (Partenkirchen) und die heutige Weilheimer Flur über Raisting in ihre Provinzhauptstadt Augusta Vindelicorum (Augsburg) führte. Von römischen Gutshöfen, den villae rusticae, soll das spätere Dorf seinen Namen "Wilhaim" erhalten haben.
Erstmals urkundlich erwähnt wird der Ortsname in einer Urkunde des Königs und späteren Kaisers Heinrich II. von Bamberg aus dem Jahre 1010, in der er den Besitz des Gutshofes im Dorf Wilhaim dem nahe gelegenen Kloster Polling zuspricht. Die Herren über den Ort waren ab dem 11. Jahrhundert die Edelfreien von Wilhaim, Lehensmänner der Grafen von Andechs-Meranien, deren Stammeswappen drei Halbringe in den Farben blau, rot und grün auf weißem Grund zeigt. Bereits 1176 besaß der Ort das Marktrecht.
Mit dem Sturz des Hauses Andechs-Meranien 1208 wurden die Wittelsbacher Herrscher über das Herzogtum Bayern und errichteten 1224 einen herzoglichen Amtssitz in Weilheim. Als Stadt wird Weilheim erstmals 1238 in einer Klosterurkunde von Steingaden bezeichnet, päpstliche Richter entschieden in einer Streitsache zwischen den Pröbsten der Klöster Rottenbuch und Steingaden und stellten darüber eine Urkunde aus, in der der Verhandlungsort Weilheim als "oppdowilhaim" bezeichnet wurde.
Das älteste erhalten gebliebene Stadtwappen aus dem Jahre 1261 zeigt einen Viertelmond mit drei Sternen. Seinen wehrhaften Charakter als Stadt bringt das zweite, heute noch gültige Stadtwappen mit der Darstellung von drei Zinnentürmen mit geöffnetem Tor symbolisch zum Ausdruck. Das älteste noch erhaltene Exemplar in Form eines Wachssiegels befindet sich im Bayerischen Hauptstaatsarchiv in München und stammt aus dem Jahre 1314.
Dem römischen Märtyrer St. Hippolyt ist die wohl älteste Weilheimer Pfarrkirche Sankt Pölten geweiht, deren Ursprung bis in das frühe 8. Jahrhundert zurück reicht, wie ein Gräberfund 1996 im Zusammenhang mit der Kirchenrenovierung belegt. Bis in das 14. Jahrhundert zurück reicht der Unterbau des Turmes der Pfarrkriche Mariae Himmelfahrt, die Kirche selbst entstand als Saalbau bereits um 1200, deren Name bis zu Beginn des 19. Jahrhunderts meist mit "zu unserer lieben Frau" wiedergegeben wurde. Nach einem Blitzschlag erhielt der Turm 1573 ein achteckiges Obergeschoss und eine so g. welsche (=italien.) Haube. Als die gotische Kirche baufällig war, wurde sie 1624 abgetragen und es entstand eine Wandpfeilerkirche mit frei tragendem Tonnengewölbe.
