ქ.თბილისის მთავარი ბიბლიოთეკა ქალაქის ერთ–ერთი უძველესი ბიბლიოთეკაა, რომელიც 1909 წლის 18 მაისს დაარსდა. ბიბლიოთეკის დამფუძნებლები იყვნენ ცნობილი ქართველი მეცენატი ძმები სტეფანე, ლევან, პეტრე და იაკობ ზუბალაშვილები. ბიბლიოთეკა მდებარეობდა ამჟამინდელი კ.მარჯანიშვილის სახელობის სახელმწიფო დრამატულ თეატრში. ბიბლიოთეკის დაფინანსების წყარო იყო ქალაქის მხრიდან სახელმწიფო ფულადი დახმარება, ბიბლიოთეკით სარგებლობის გადასახადი, წიგნის დაგვიანებით დაბრუნებისათვის აკრეფილი ჯარიმა და შემოწირულობანი. წერა-კითხვის გამავრცელებელი საზოგადოება მუდმივად ზრუნავდა ბიბლიოთეკის ფონდის გამდიდრებაზე და სისტემატურად ამარაგებდა მას ახალი წიგნებით.
1909 წელს ბიბლიოთეკის ფონდში 3.438 წიგნი ირიცხებოდა. 1928 წელს წიგნადი ფონდი ისე გაიზარდა, რომ საჭირო გახდა ბიბლიოთეკის გაფართოება. იგი განთავსდა აღმაშენებლის გამზირსა და შეროზიას ქუჩაზე (ახლანდელი ზ.ჭავჭავაძის ქ.).
ბიბლიოთეკის სტრუქტურა მუდმივად ვითარდებოდა. დაარსდა აბონემენტის, სამკითხველო დარბაზის, საბავშვო, დაკომპლექტების, დამუშავების, საცნობო-ბიბლიოგრაფიული, თბილისმცოდნეობის, ხელოვნებისა და მეთოდური განყოფილებები.
1928 წელს ბიბლიოთეკას მიენიჭა რევოლუციონერ პროკოფი (ალიოშა) ჯაფარიძის სახელი და გახდა ალ. ჯაფარიძის სახელობის თბილისის საქალაქო მასობრივი ბიბლიოთეკა №1. 1933 წლიდან იგი გარდაიქმნა თბილისის მასობრივ სანიმუშო–საჩვენებელ ბიბლიოთეკად, ხოლო 1944 წლიდან ეწოდა თბილისის ალ. ჯაფარიძის სახელობის სახელმწიფო სამეცნიერო ბიბლიოთეკა. მასვე დაეკისრა ქალაქის ბიბლიოთეკების მეთოდური ხელძღვანელობა.
1980 წლიდან ბიბლიოთეკა იქცა ქალაქის ცენტრალურ დაწესებულებად და თბილისის სხვადასხვა რაიონისა და უბნის 60 ბიბლიოთეკა მას დაექვემდებარა. ამან გამოიწვია ბიბლიოთეკის ფუნქციებისა და მოვალეობების გაზრდა.
1994 წლის მაისში მწერალთა ერთი ჯგუფის წინადადებით ბიბლიოთეკას მიხეილ ჯავახიშვილის სახელი მიენიჭა. 2006 წლის 9 ნოემბერს ძალაში შევიდა საქართველოს პრეზიდენტის №673 ბრძანებულება „საჯარო სამართლის იურიდიული პირის – ქ.თბილისის მთავარი ბიბლიოთეკის შექმნის შესახებ“, რომლის საფუძველზეც ბიბლიოთეკას ეწოდა ქ. თბილისის მთავარი ბიბლიოთეკა.
2007 წელს მთავარ ბიბლიოთეკას ფილიალების სტატუსით დაექვემდებარა ლადო ასათიანის სახელობის თბილისის საბავშვო ბიბლიოთეკა და მირზა გელოვანის სახელობის ახალგაზრდული ბიბლიოთეკა.
2008 წელს მერიის მხარდაჭერით თბილისის მთავარი ბიბლიოთეკა განთავსდა გ.ტოვსტონოგოვის ქუჩაზე და აღიჭურვა თანამედროვე ტექნოლოგიებით.
ქ.თბილისის მთავარი ბიბლიოთეკა პერიოდულად გამოსცემდა ბიბლიოგრაფიულ სიებს, მეთოდურ ლიტერატურას, ატარებდა სემინარებსა და მასობრივ ღონისძიებებს.
ამჟამად ქ.თბილისის მთავარი ბიბლიოთეკის გაერთიანებაში შედის ქალაქის 35 და დიღმის, კოჯრის, წავკისის, დიდი ლილოსა და სოფელ ფონიჭალის ბიბლიოთეკები.