Gedung Arsip didirikan pada tahun 1760. Pada mulanya gedung arsip ini adalah rumah perkebunan Gurbernur Jendera Reyner de Klerk semasa menjabat di Batavia, hingga pada akhirnya pada tahun 1900an gedung ini dibeli oleh pemerintah Hindia-Belanda saat itu untuk dijadikan tempat penyimpanan arsip. Saat ini selain sebagai museum, Gedung arsip Nasional juga dapa digunakan sebagai tempat acara dan pameran. Namun terlepas dari segala keunikan arsitektur bangunan serta nuansa klasik yang terdapat di bangunan ini, gedung arsip pernah dihadapkan oleh kondisi yang memprihatinkan.

Pada tahun 1995 gedung ini mengalami kondisi buruk dikarenakan oleh banjir setinggi setengah meter yang menyebabkan kerusakan pada banyak bagian gedung. Hingga pada akhirnya kondisi itu membuat sekelompok pengusaha dan idealis asal negara Indonesia dan Belanda berhasil mengumpulkan dana sekitar $ 3 Juta US Dollar yang pada akhirnya dana tersebut akan di alokasikan untuk pemugaran gedung arsip, pemugaran gedung arsip pada saat itu menjadi hadiah ulang tahun kemerdekaan Indonesia ke-50 dari banga Belanda untuk Indonesia.

Pada 1998 pemugaran selesai namun, krisis politik dan ekonomi yang saat itu melanda Indonesia menimbulkan keriuhan dan kerusuhan besar, salah satu kerusuhan terparah yang terjadi saat itu adalah di jalan Gajah Mada Jakarta tempat dimana gedung arsip yang sudah dimugar berada. Kekhawatiran pemerintah Indonesia saat itu adalah jika gedung arsip ini rusak kembali, akan sangat sulit untuk mengumpulkan dana pemugaran ulang, apalagi berbicara tentang asset yang terdapat didalamnya. Namun beruntung gedung arsip tidak terkena imbas dari kerusuhan saat itu.

Hingga pada tahun 2001 gedung arsip menjadi bangunan Indonesia pertama yang berhasil meraih juara 1 Unesco Cultural Heritage Award untuk seluruh bagian negara di Asia Pasifik.