1. Giai đoạn trước năm 1968:

    Năm 1868, Thư viện các Đô đốc, Thống đốc Nam Kỳ (hay Thư viện Soái phủ Nam Kỳ) được thành lập theo sắc lệnh của Phó Đô đốc Ohier.
    Năm 1882, Thư viện đổi tên thành Thư viện Tư liệu Chính phủ Nam Kỳ thuộc Pháp (Bibliothèque de Documentation du Gouvement de la Cochinchine Francaise) và trở thành thư viện công cộng đầu tiên của Việt Nam.
    Năm 1902, Thư viện được tách ra thành một sở tự trị gọi là Thư viện Nam Kỳ Soái phủ (hay Thư viện Sài Gòn) trực thuộc Tòa Thượng thư đặt ở tầng một của Tòa Thư ký Chính phủ (số 27 đường Lagrandìere nay là đường Lý Tự Trọng). Năm 1909, ông Riffa là giám thư đầu tiên được bổ nhiệm chính thức điều khiển thư viện.
    Năm 1946, Thư viện Nam Kỳ Soái phủ dời sang số 34 đường Gia Long và được Pháp trao lại cho Chính phủ lâm thời Việt Nam, đến năm 1949 được đổi tên là Thư viện Nam phần.
    Ở Sài Gòn có 3 thư viện công quyền gồm: Thư viện Nam phần; Tổng Thư viện với trụ sở tạm thời trong trường Pétrus Ký, đường Trần Bình Trọng, trực thuộc Viện Đại học Sài Gòn; Thư viện cho mượn và phòng đọc thiếu nhi tại 194D Pasteur, trước đây là bộ phận của Thư viện Nam phần.
    Ngày 01-07-1957, theo công lệnh số 544/GD-CL của Bộ giáo dục, Tổng Thư viện trực thuộc Viện Đại học Sài Gòn chuyển sang thuộc quyền quản lý của Bộ Quốc Gia Giáo Dục.
    Ngày 04-08-1964, Nghị định số 1354/GD/PC/ND, Tổng Thư viện Sài Gòn trực thuộc Nha Văn Khố và Thư viện Quốc Gia; Thư viện Nam Phần chuyển sang trực thuộc Bộ Quốc Gia Giáo Dục.
    Bộ Quốc Gia Giáo Dục tổ chức cuộc thi vẽ đồ án trụ sở Thư viện Quốc Gia đặt tại số 69 Gia Long (nay là 69 đường Lý Tự Trọng). Chính quyền Sài Gòn mở 4 kỳ xổ số đặc biệt để lấy kinh phí xây dựng Thư viện Quốc Gia. Trong năm 1955, công trình xây dựng Thư viện Quốc Gia được khởi công với sự chủ tọa của Ngô Đình Diệm, nhưng dự án bị bỏ dở cho đến ngày 28-12-1968.
    Điểm này trước kia là xưởng đúc tiền, sau đó là Khám lớn Sài Gòn được đầu tư xây dựng từ năm 1886 đến năm 1890 khám được hình thành và đi vào hoạt động. Đến năm 1953 thì bị phá bỏ, sau đó ngay trên nền khám cũ được xây dựng trường Đại học Văn Khoa (1948-1967) rồi Thư viện Quốc Gia.
 

2. Giai đoạn từ năm 1968 đến trước 30/04/1975:

    Khám lớn Sài Gòn được khởi công xây dựng thành Thư viện Quốc Gia dựa vào đồ án thiết kế của hai kiến trúc sư Bùi Quang Hạnh và Nguyễn Hữu Thiện với sự cộng tác của cố vấn kỹ thuật – Kiến trúc sư Lê văn Lắm. Thủ tướng Trần Văn Hương đã đặt viên đá đầu tiên để khởi công và công trình hoàn thành vào cuối năm 1971.  Ngày 23-12-1971, Thư viện Quốc Gia được khánh thành và đi vào hoạt động tháng 2-1972.
    Kinh phí xây dựng lên đến 177 triệu đồng, nhà thầu xây cất phải dùng tới 100.000 công thợ, 500 tấn sắt và 27.000 bao xi măng ròng rã 3 năm công việc xây cất mới hoàn thành với diện tích 7070 m2 bao gồm hai khối:
      - Khối thứ nhất là một dãy nhà dài 71 m, ngang 23 m gồm một tầng hầm, một tầng trệt và hai lầu, một sân thượng ở lầu hai.
      - Khối thứ hai nằm ở trung tâm, hình vuông và vươn lên cao như một ngọn tháp với 14 tầng, cao 43m, chứa tài liệu.
    Đây là thư viện lớn nhất Việt Nam vào thời bấy giờ, có kiến trúc hiện đại kết hợp với tính dân tộc. Lúc này thư viện có 53 nhân viên phục vụ với khoảng 100.000 bản tài liệu.

 

KHÁM LỚN SÀI GÒN

                                              
3. Giai đoạn sau ngày 30/04/1975 đến năm 1990
     Sau 30/04/1975, Thư viện Quốc Gia Sài Gòn đổi tên thành Thư viện Quốc Gia II trực thuộc Bộ Văn hóa theo quyết định số 1018/VH/QĐ ký ngày 01/11/1976. Thư viện đã tiếp nhận được nguồn bổ sung tài liệu phong phú của Thư viện Quốc gia Việt Nam, Thư viện Khoa học Kỹ thuật Trung Ương, Thư viện kết nghĩa Hòa Bình.

    Ngày 14/04/1978, Ủy Ban Nhân dân Thành phố Hồ Chí Minh đã ra quyết định số 57/QĐ/UB đổi tên  “Thư viện Quốc gia II” thành “Thư viện Khoa học Tổng hợp Tp. Hồ Chí Minh”.
    Từ năm 1976, Thư viện mở rộng mạng lưới của mình đến các quận, huyện.  Ngoài việc phục vụ tại chỗ, thư viện còn phục vụ  xe thư viện lưu động (xe có trước 1975) đã đưa sách đến phục vụ vùng biên giới Tây Nam, vùng sâu vùng xa như căn cứ Dương Minh Châu, các nông trường Thanh niên xung phong, các đơn vị thuộc quân khu 7, thủy điện Trị An, khu công nghiệp Biên Hòa.

Xe thư viện lưu động (có trước năm 1975)

                                    
     Vốn tài liệu của thư viện được bổ sung phong phú và đa dạng từ nhiều nguồn. Ðặc biệt thư viện có bộ sưu tập khá đầy đủ xuất bản phẩm in ở Ðông dương cuối thế kỷ 19 đầu thế kỷ 20, các tài liệu xuất bản trong vùng tạm chiếm, những năm chống Pháp và Mỹ (1954-1975); một số tài liệu quý hiếm trải qua thời gian phục vụ đã giòn nát cần phải có chế độ bảo quản đặc biệt.
     Các hoạt động chuyên môn được duy trì cho đến ngày nay như là: công tác thông tin-thư mục: làm thư mục chuyên đề, thư mục địa chí TP. Hồ Chí Minh, bản tin phục vụ lãnh đạo, mục lục liên hợp sách tạp chí, mục lục liên hợp sách xuất bản của các tỉnh phía Nam, thường xuyên tổ chức các cuộc triển lãm sách theo chuyên đề nhân các ngày Lễ, cung cấp tài liệu cho các TV tỉnh làm thư mục địa chí, thư mục chuyên đề. Về nghiệp vụ, thư viện là nơi tổ chức và thực hiện các khóa đào tạo, bồi dưỡng nghiệp vụ, hội thảo chuyên đề cho các thư viện cơ sở và thư viện các tỉnh. Trong quan hệ trao đổi, thư viện là đơn vị ký gởi (deposit library) của UNESCO (1987-1993), Ngân hàng thế giới (WB),Tổ chức Lương Nông Quốc tế (FAO), Trung tâm Nguyên tử lực Quốc tế (IAEA), có quan hệ nghiệp vụ với hơn 43 thư viện và cơ quan thông tin, trường đại học của 16 quốc gia, thông qua đó, hàng năm thư viện nhận được số tài liệu nước ngoài trị giá hàng trăm triệu đồng, trong đó có nhiều tài liệu quý cho công tác nghiên cứu.

4. Giai đoạn đẩy mạnh tự động hóa thư viện (từ 1990 đến nay)


    Năm 1990 Thư viện tiến hành tự động hóa một số chức năng trong thư viện, bắt đầu bằng việc xây dựng cơ sở dữ liệu (CSDL) đọc bằng máy, cung cấp việc tìm tin trên máy, tự động hóa công tác văn phòng, giúp công việc của các phòng chức năng được cập nhật, thông suốt và hiệu quả hơn.
    Năm 1996 mạng tin học của ngành thư viện công cộng toàn quốc được thiết lập. Thư viện được giao trách nhiệm là trung tâm mạng khu vực phía Nam, thực hiện các dịch vụ như email, truyền các tập tin cho thư viện tỉnh và truy cập vào CSDL của Thư viện Quốc gia.
    Tự động hóa cũng được ứng dụng để bảo quản vốn tài liệu bằng cách chuyển dạng tài liệu, nhằm tăng khả năng truy nhập vào những tài liệu cũ, giòn nát.

    NHỮNG HOẠT ĐỘNG VÀ DỊCH VỤ MỚI CỦA THƯ VIỆN ĐƯỢC MỞ RỘNG THÊM:
     - Năm 1993 “Tập san Thông tin Thư viện phía Nam” ra đời do Thư viện chịu trách nhiệm chủ biên hoạt động cho đến nay, định kỳ xuất bản 2 số/ năm.
     - Năm 1995: thư viện thành lập phòng Đa phương tiện (Multimedia) đầu tiên nhằm phục vụ nhu cầu thông tin đạng điện tử, phim ảnh, … Dự án được Tổng Lãnh sự quán Pháp tài trợ thiết bị gồm máy tính cấu hình mạnh, ti vi và đầu máy.     
     -  Năm 1998 – nay, thư viện tổ chức hội thi “Nét vẽ xanh” hàng năm.
     - Phòng đọc Khiếm thị khánh thành ngày 23/09/ 1999 nhân dịp kỷ niệm 54 năm ngày Nam bộ kháng chiến.
     - Studio sản xuất sách nói được hình thành với sự hỗ trợ của FORCE FOUNDATION (Hà Lan) vào năm 2003 (studio 1) vào năm 2005 (studio 2).
     - 18/01/2007 ra mắt xe “Thư viện Internet lưu động” đầu tiên của Việt Nam. Đây là dự án do thư viện xây dựng được sự tài trợ của Tập đoàn điện tử LG thông qua tổ chức AmCham – United Way điều phối. Mục tiêu  chính của thư viện  là “Xóa đói thông tin – Xóa mù công nghệ”.


       - 24/02/2007 khánh thành Thư viện Lý Tự Trọng phục vụ thiếu niên nay được đổi tên là Phòng đọc Thanh thiếu niên.
       - 20/10/2007 khánh thành xe Thư viện lưu động cho người khiếm thị, dự án do FORCE Foundation Hà Lan và ngân hàng Standard Chartered tài trợ.

 


       - 09/03/2012 khai trương phòng đọc sách Hán Nôm.
       - Tháng 8/2013 khánh thành Trung tâm số hóa và chuyển dạng tài liệu, đây là lĩnh vực đang được thư viện chú trọng đầu tư nhằm từng bước xây dựng thư viện điện tử, dự án được nhà nước đầu tư.
       - 06/11/2013 khai trương góc đọc sách điện tử trên máy tính bảng.
       - 15/05/2014 khánh thành xe Thư viện lưu động – Bánh xe tri thức (Words on wheels) dự án được Quỹ Quốc tế Singapore tài trợ.

  


         - Hướng dẫn nghiệp vụ cho hệ thống 24 thư viện quận huyện trực thuộc.

         Trong mỗi bước phát triển của thành phố, TVKHTH Tp.HCM luôn nỗ lực để đảm đương các vai trò:
        - Thư viện trung tâm của thành phố có nhiệm vụ xây dựng, bảo quản và tổ chức khai thác vốn tài liệu về mọi lĩnh vực cả trong và ngoài nước.
        - Trung tâm văn hóa, dùng sách báo tuyên truyền, giáo dục đường lối, chính sách của Ðảng, pháp luật của Nhà nước cho đối tượng sử dụng thư viện.
        - Trung tâm thông tin hỗ trợ học đường và nghiên cứu bằng việc tổ chức tốt các dịch vụ, nguồn lực và phương tiện của thư viện để đáp ứng các nhu cầu đa dạng từ việc nâng cao dân trí, hỗ trợ sinh viên, hỗ trợ các học giả, các nhà nghiên cứu thực hiện các đề tài có chiều sâu, đầu tư vào các lĩnh vực chuyên ngành và sáng tạo kiến thức mới đến việc cung cấp kịp thời các thông tin chính xác và hữu dụng cho người sử dụng.
        - Thư viện trung tâm chịu trách nhiệm xây dựng, chỉ đạo thực hiện, phát triển mạng lưới thư viện nội ngoại thành, thúc đẩy phong trào đọc sách ở cơ sở.
          - Cơ quan hỗ trợ về chuyên môn nghiệp vụ cho thư viện các tỉnh phía Nam.
        - Một trong những đầu mối quan hệ quốc tế trong lĩnh vực thư viện thông tin để trao đổi tài liệu, nâng cao nghiệp vụ, tiếp cận với việc ứng dụng công nghệ tin học trong lĩnh vực thư viện.