Placówka powstała w 1946 r. jako Powiatowa i Miejska Biblioteka Publiczna. Jej zalążkiem był księgozbiór liczący 364 woluminy. Początkowo opiekował się nim inspektor szkolny Andrzej Krzemiński, ale już w 1947 roku funkcję dyrektora objęła Halina Olszewska. Od tamtej pory datuje się szybki rozwój książnicy i jej agend terenowych. W następnym roku na Wólce została otwarta filia biblioteki. W 1956 r. w skład PiMBP wchodziło 14 bibliotek wiejskich i aż 126 punktów bibliotecznych.

Cztery lata później patronem książnicy został Bolesław Prus. Wybrano to imię nieprzypadkowo. Otóż, w 1887 roku pisarz oglądał — w towarzystwie kilkuset warszawian — pod mławskim laskiem zaćmienie Słońca. Jak zwierzył się na łamach „Kuriera Codziennego”, ten trwający półtorej minuty seans był dla niego wstrząsającym przeżyciem, dotknięciem sacrum. Badacze twórczości Prusa przypuszczają, że znakomite sceny zaćmienia słońca zawarte w Faraonie jego autor skonstruował na podstawie swych obserwacji i doznań w Mławie.

Z myślą o najmłodszych czytelnikach, mławska biblioteka otworzyła w 1966 r. dział dziecięcy z wypożyczalnią i czytelnią. Było to możliwe dzięki temu, że rok wcześniej przeprowadziła się do dużego, wyremontowanego lokalu, który zajmuje do dzisiaj.

W 1971 roku stanowisko dyrektora (w międzyczasie biblioteką kierowała Irena Zaboklicka) objął Józef Bartkowski. Reforma administracyjna kraju w 1975 r. spowodowała, że książnica przestała być instytucją powiatową, ale nadal sprawowała opiekę metodyczną nad bibliotekami gminnymi, a było ich wtedy razem z filiami (w 1974 r. powstała Filia nr 2) — 23. Z pełnienia tej pożytecznej funkcji musiała w końcu zrezygnować, kiedy w Polsce zaczął się odradzać samorząd terytorialny. Miejska Biblioteka Publiczna, przechodząc na „garnuszek” gminy miejskiej, zerwała więzi z bibliotekami wiejskimi. Niektóre z nich, niestety, przestały istnieć, inne ograniczyły działalność.

Od 1986 roku dyrektorką placówki jest mgr Maria Świtoń.