Mikroskopa vēsture ir diezgan gara, aptverot daudzas dažādas kultūras un gadsimtus. Var būt grūti precīzi noteikt mikroskopa agrīno vēsturi vienkārši tāpēc, ka to, ko var pamatoti uzskatīt par mikroskopu, var interpretēt. Tomēr tā ir bagāta un stāstiem bagāta vēsture, un vēl šodien to var redzēt fizisko antīko mikroskopu mantojumā, kas daudziem zinātniekiem kalpo kā kolekcionāra priekšmeti.
Agrīnās lēcas var atrast jau 7. gadsimtā pirms mūsu ēras Asīrijā, kur tika izmantoti pulēti kristāli. Slavenākais no tiem ir tā sauktais Nimrūda objektīvs, kas atrasts Nimrūda pilī. Šo objektīvu ļoti labi varēja izmantot kā palielināmo stiklu, kas daudzējādā ziņā ir vienkāršs mikroskops, vai arī tas var būt vienkārši izmantots kā objektīvs, lai ar saules gaismu izraisītu ugunsgrēkus. Daži cilvēki pat uzskata, ka Nimruda objektīvs bija daļa no ļoti vienkārša teleskopa, palīdzot asīriešiem sarežģītā astronomijas izpratnē.
10. gadsimtā islāma zinātnieks Ibn al Haithams radīja revolūciju optikas izpētē un sniedza ieguldījumu daudzās jomās, tostarp zinātniskas metodes formulēšanā. Savā pamattekstā “Optikas grāmata” viņš runā par “palielinošo ierīci, izliektu lēcu, kas veido palielinātu attēlu”. Šo aprakstu var uzskatīt par formāla palielināmā stikla vai mikroskopa agrīnu piemēru. Viduslaikos šāda veida ierīces tika plaši izmantotas, tostarp klosteriskajā Eiropā nolasīšanas akmeņu veidā, kam bija izšķiroša nozīme mikroskopa vēsturē, jo ikdienas lietošanas laikā tika atklātas seklākas lēcas, kas tika palielinātas ar lielāku efektivitāti.
16. gadsimta beigās Holandē vairāki dažādi briļļu ražotāji sāka ražot to, ko var uzskatīt par mūsdienu mikroskopa tiešo priekšteci. Visiem trim ir piešķirts tā izgudrojums, un tas, kurš bija pirmais, kurš izveidoja mikroskopu, tiek apspriests. Viens no šiem izgudrotājiem Hanss Liperšijs ir arī atzīts par pirmā īstā teleskopa izgudrošanu, padarot viņu par iespējamu kandidātu. Pārējie divi, Hanss Jansens un viņa dēls Zahariass, abi darbojās optikas pasaulē un, iespējams, varēja izveidot mikroskopu. Tomēr pats termins tika ieviests tikai ap 1625. gadu, lai aprakstītu Galileo Galileja salikto mikroskopu.
Visā 18. gadsimtā mikroskopa vēsture bija nepārtraukta pilnveidošanās. Tā kā hromatisko aberāciju samazināšanai tika izmantoti vairāki stikli, un jaunas slīpēšanas metodes, kas ļauj veikt vēl lielāku palielinājumu, mikroskops turpināja kļūt arvien jaudīgāks. Līdz 19. gadsimta beigām Ernsts Abbe savā pamatdarbā Abbe Sine Condition bija noteicis teorētiskos mikroskopa izšķirtspējas maksimumus.
20. gadsimts piedzīvoja lielākos lēcienus mikroskopa vēsturē, sākot ar mikroskopu izstrādi, kas spēj aplūkot objektus, kas ir mazāki par gaismas viļņu garumiem, ko izstrādāja Ričards Zsigmondijs, kurš vēlāk ieguva Nobela prēmiju ķīmijā. Līdz 1932. gadam tas tika uzlabots, izveidojot fāzes kontrasta mikroskopu, kas ļāva aplūkot objektus, kuriem nebija krāsu, par ko Fritss Zernike 1953. gadā ieguva Nobela prēmiju fizikā. Aptuveni tajā pašā laikā tika izgudrots elektronu mikroskops, kas ļāva daudz, daudz lielākiem palielinājumiem līdz pat atomu līmenim, par ko Ernsts Ruska 1986. gadā ieguva Nobela prēmiju fizikā.
Pavisam nesen Gerds Binigs un Heinrihs Rors izgudroja skenējošo tunelēšanas mikroskopu, kas ļauj ne tikai palielināt objektus līdz atomu līmenim, bet arī apskatīt tos trīs dimensijās. Par šī modernākā mikroskopa izgudrošanu Binigs un Heinrihs saņēma Nobela prēmiju fizikā arī 1986. gadā.