Nama “Dieng” berasal dari turunan kata bahasa Proto-Melayu-Polinesia: di yang berarti “tempat” dan hyang yang bermakna “leluhur”. Dengan demikian, “dihyang” berarti pegunungan tempat para leluhur atau persemayaman para dewa.
Menurut Prasasti Gunung Wule tahun 861 Masehi, orang Jawa Kuno telah mendiami wilayah Pegunungan Dieng dan menggunakannya untuk beribadah.
Di kawasan ini terdapat komplek percandian Hindu yang dibangun pada abad ke-8 Masehi, yaitu Arjuna, Bima, Semar, Srikandi, Puntadewa, Gatotkaca, Dwarawati, dan Bubrah.
Percandian ini diperkirakan berasal dari masa Mataram Kuno awal.
Selain itu, Pegunungan Dieng juga memiliki kaitan dengan cerita pewayangan.