Perpustakaan didirikan pada tanggal 14 Agustus 1970 dengan nama Biro Perpustakaan Pusat Pertamina di bawah Divisi Statistik dan Information Center, lokasi di Jl. Teuku Umar No. 29 Jakarta Pusat
Berbicara tentang "Perpustakaan", kita akan bicara tentang kemajuan manusia. Sebab melalui Perpustakaan kita melakukan konservasi kebudayaan, yaitu memelihara apa yang telah dikerjakan oleh manusia sebelumnya. Catatan-catatan kebudayaan dikumpulkan dalam suatu wadah, yang disebut perpustakaan, pusat informasi ilmiah, pusat dokumentasi ilmiah, dsb. Pada intinya wadah atau institusi itu sama saja, yaitu koleksinya terdiri dari buku, majalah, surat kabar dan bahan-bahan lainnya yang termasuk non buku, misalnya piringan hitam, kaset, film, slide, microfisch, disket, dsb. Semua bahan-bahan diorganisir sedemikian rupa (secara ilmiah) dengan maksud agar koleksi itu dapat disimpan dan dipakai secara cepat, tepat dan efisien.
Bagi bangsa-bangsa yang sudah maju seperti Amerika Serikat, Inggris, Belanda, Perancis, Australia, dan sebagainya pasti memiliki dan membina perpustakaannya dengan baik. Mereka menyadari bahwa perpustakaan mempunyai peranan yang sangat penting bagi kemajuan suatu peradaban negara dan bangsa. Universitas-universitas diseluruh dunia, tidak terkecuali Indonesia, sudah menyelenggarakan suatu perpustakaan yang dikelola (di "manage") secara profesional.
Menyadari hal itu Pertamina, yang bergerak dibidang minyak dan gas bumi serta energy baru dan terbarukan, telah bertindak secara tepat, dengan merintis dan membina suatu perpustakaan yang diharapkan dapat menjadi suatu pusat dokumentasi informasi ilmiah yang mampu menunjang operasional Pertamina untuk mencapai tujuannya. Sebelumnya Pertamina sudah ada koleksi kecil dimasing-masing Direktorat, namun belum dikelola secara ilmiah dan memenuhi syarat-syarat organisasi dan administrasi, serta belum tersedianya tenaga ahli yang memadai, anggaran yang tetap, dan fasilitas gedung atau ruangan.
Pada saat itulah suatu gagasan awal Direktur Utama Pertamina Dr. H. Ibnu Sutowo memberikan semangat agar seluruh pekerja diberikan kesempatan untuk bekerja sambil belajar dan belajar sambil bekerja. Himbauan tersebut telah menjadi motto sangat populer terutama dikalangan pekerja di seluruh jajaran perminyakan Indonesia agar dapat meraih prestasi bekerja dan belajar dengan memanfaatkan perpustakaan yang ada di Pertamina. Tepatnya pada tanggal 14 Agustus 1970, sesuai dengan Surat Keputusan No. 851/KPTS/DR/DU/1970, lahirlah Perpustakaan di Pertamina, yang bernaung dibawah Divisi Statistics and Information Center dengan nama Biro Perpustakaan Pusat Pertamina dan berkantor di Jalan Teuku Umar 29, Jakarta Pusat. Dengan mengikuti perkembangan up and down-nya organisasi Pertamina, Biro Perpustakaan Pusat sempat bernaung dibawah Management Information Service Division (MISD), dan akhirnya masuk ke dalam eselon Pusdiklat.
Sejalan dengan mengikuti kebutuhan pekerja akan informasi migas, maka Perpustakaan Pusat Pertamina berkembang dengan pesat, baik dilihat dari segi buku-buku yang dimiliki, pengelolaannya, serta pelaksanaan tugas dan fungsi sebagai pusat dokumentasi informasi (pusdokinfo), mampu memberikan "feeding", berupa informasi yang segar dibidang minyak dan gas bumi, berikut aspek-aspek ilmiah lainnya, seperti bidang energi, teknologi, manajemen, logistik, asuransi, perkapalan, pemasaran, hukum, peraturan-peraturan, perundang-undangan, dsb. sesuai dengan persyaratan sebuah perpustakaan maju dengan koleksi referensi yang memadai. Dunia berputar, dan organisasi Pertamina pun maju dengan dinamika yang sangat aktif. Perpustakaan Pusat Pertamina juga mengikuti derap dinamika tersebut, dan sejak tanggal 1 Pebruari tahun 1999 pengelolaan Perpustakaan Pusat dipindahkan ke Hupmas Pertamina (sekarang : Corporate Secretary).
Dimanapun Perpustakaan itu berada, Perpustakaan tetap mengemban misinya menjadi sumber informasi ilmiah, menginformasikan bahan-bahan tersebut serta terus mengkoleksikan bahan-bahan migas yang segar dan up to date. Dengan demikian diharapkan Perpustakaan mampu memberikan sajian segar berupa buku-buku, majalah, dan informasi lain yang diterbitkan didunia.
Sejak 6 Juli 2011 Perpustakaan Kantor Pusat Pertamina telah beroperasi dengan cara mandiri di mana para Pemustaka dapat melakukan transaksi administratif peminjaman dan pengembalian buku secara mandiri tanpa bantuan Pustakawan dengan menggunakan peralatan dan teknologi yang maju. Hal ini dirancang untuk memfasilitasi para Pekerja dan Pekarya di lingkungan PT Pertamina (Persero) yang sibuk untuk terus dapat menggunakan sebagian waktunya yang berharga guna mengakses koleksi Perpustakaan Kantor Pusat Pertamina. Peminjaman dan pengembalian buku dapat dilakukan dalam hitungan detik. Sistem pengamanan koleksi Perpustakaan Kantor Pusat Pertamina pun saat ini sudah didukung dengan teknologi yang sangat maju.