Perpustakaan Negeri yang pertama di Sabah ditubuhkan sebagai sebuah seksyen di Jabatan Penyiaran dan Penerangan pada tahun 1953. Pada tahun 1972, Perpustakaan dijadikan sebagai sebuah jabatan tersendiri. Jabatan perpustakaan diletak dibawah kementerian Kebajikan Masyarakat dan sekarang diletak dibawah Kementerian pembangunan Masyarakat dan Hal Ehwal Pengguna.
Pada hari ini, Perpustakaan Negeri Sabah mempunyai sebuah Ibupejabat, 4 perpustakaan wilayah (KK, Tawau, Sandakan, Keningau), 20 cawangan, 109 perpustakaan desa, 13 perpustakaan bergerak dan 8 perpustakaan desanet.