Beliau terlibat dalam gerakan bawah tanah untuk mempersiapkan kemerdekaan Indonesia.
Beliau juga menjadi anggota Badan Penyelidik Usaha Persiapan Kemerdekaan Indonesia (BPUPKI) mewakili Jawa Tengah.
Setelah proklamasi kemerdekaan pada 17 Agustus 1945, Kyai Subkhi menjadi salah satu tokoh yang memprakarsai pembentukan laskar rakyat untuk mempertahankan kemerdekaan dari serangan Belanda dan sekutunya.
Laskar rakyat ini diberi nama Barisan Muslimin Temanggung (BMT).
BMT merupakan salah satu laskar rakyat terbesar dan terkuat di Jawa Tengah. BMT memiliki anggota sekitar 10 ribu orang, yang terdiri dari para santri, pemuda, petani, dan buruh.
BMT juga memiliki persenjataan yang cukup lengkap, seperti senapan Mauser, bambu runcing, bom rakitan, dan golok.
Namun, senjata andalan BMT adalah bambu runcing.
Bambu runcing adalah senjata yang terbuat dari bambu yang diruncingkan dan diberi jimat atau mantra oleh Kyai Subkhi.
Jimat atau mantra ini diyakini bisa memberikan kekebalan dari peluru atau bayonet musuh.
Kyai Subkhi memberikan jimat atau mantra ini dengan cara membacakan ayat-ayat Alquran atau doa-doa tertentu pada bambu runcing tersebut.
Jimat atau mantra ini juga bisa berupa kain putih dengan tulisan kaligrafi Arab yang diikatkan pada ujung bambu runcing.
