Makam Sunan Tembayat dibangun pada masa Kerajaan Mataram Islam, sekitar abad ke-16 hingga 17. Hal ini diketahui dari prasasti-prasasti yang ada di gapura-gapura tersebut, yang menggunakan angka tahun Saka.
Prasasti pertama berada di Gapura Segara Muncar, yang menunjukkan tahun 1448 Saka atau 1526 Masehi.
Prasasti keempat berada di Gapura Panemut, yang menunjukkan tahun 1555 Saka atau 1633 Masehi.
Makam Sunan Tembayat menjadi salah satu tempat ziarah yang cukup populer di kalangan umat Islam, terutama para santri dari berbagai pondok pesantren.
Makam ini diyakini memiliki nilai sejarah dan spiritual yang tinggi, serta menjadi saksi bisu penyebaran Islam di Jawa Tengah.
Selain makam Sunan Tembayat, di kompleks pemakaman ini juga terdapat makam-makam lainnya, seperti makam keluarga dan kerabat Sunan Tembayat, makam para ulama dan kyai, serta makam para pejuang kemerdekaan.
Di sini juga terdapat sebuah masjid tua yang masih digunakan untuk beribadah.