Märkisch Buchholz entstand im Zuge der deutschen Ostsiedlung im 12. Jahrhundert, wobei eine Burg und Siedlung angelegt wurden, die erstmals am 3. August 1301 als Castrum et oppidum Bucholt urkundlich erwähnt wurden. Die Markgrafen von Meißen und die Askanier konkurrierten um die Region, bis der Ort 1443 endgültig unter brandenburgische Herrschaft kam.

Im 18. Jahrhundert erwarb Preußen die Herrschaft Buchholz, und unter Friedrich Wilhelm I. wurden 1734 Handwerksinnungen wie Tischler und Fleischer gegründet, die die Wirtschaft stärkten. Ein Stadtbrand zerstörte 1752 die mittelalterliche Kirche, die als barocke Kronenkirche wiederaufgebaut wurde.

1937 erfolgte die Umbenennung von Wendisch Buchholz zu Märkisch Buchholz im Zuge der nationalsozialistischen Politik zur Tilgung sorbischer Kultur. Im April 1945 wurde die Stadt während der Kesselschlacht von Halbe zu 70 % zerstört, wobei 13 % der Bevölkerung starben.

In der DDR-Zeit lag die Stadt in militärischen Sperrgebieten, darunter ein Bunkerkomplex der NVA und ein Diplomatenjagdgebiet.

Heute entwickelt sich der Ort wie schön früher als ein beliebtes Berliner Ausflugsziel.