Kayseri ili (MAZAKA) adıyla bir Asur ticaret kolonisi olarak kurulmuş 26 Ağustos 1071 Malazgirt zaferinden sonra Selçuklular tarafından Fethedilmiş, Konya’dan sonra ikinci Selçuklu vilayeti olmuştur. 07 Haziran 1571 yılında Osmanlıların yönetimine geçmesiyle Karaman Eyaletine bağlı Sancak olmuş, Merkezi Tanzimattan sonra Ankara iline bağlı Mutasarrıflık merkez ve 20 Nisan 1924 yılında Vilayet olmuş, aynı tarihte Jandarma teşkilatı kurulmuştur.
Kayseri Hükümeti Konağında 01 Eylül 1991 yılına kadar faaliyet göstermiş, bu tarihten itibaren Jandarma Bölge Komutanlığının Talas’ta konuşlanmasıyla aynı tarihte bu binada hizmete girmiştir. 23 Ağustos 2016 tarihinde Kayseri Jandarma Bölge Komutanlığı lağvedilmiş olup, İl Jandarma Komutanlığı aynı hizmet binasında faaliyetlerine devam etmektedir.
Kayseri İl Jandarma Komutanlığına bağlı İlçe Jandarma Komutanlıklarından Develi, Pınarbaşı, İncesu, Bünyan 1923 yılında Cumhuriyetin ilanı ile birlikte, Sarız 1946 yılında, Yeşilhisar 1948 yılında, Tomarza 1953 yılında, Yahyalı 1954 yılında, Felahiye 1957 yılında, Sarıoğlan 1960 yılında, Talas, Melikgazi, Kocasinan ve Akkışla 1988 yılında, Hacılar 1993 yılında, Özvatan 1996 yılında, Bünyan Cezaevi Tabur Komutanlığı 2017 yılında kurulmuştur.
Kayseri İl Jandarma Komutanlığı halen (16) bağlı İlçe Jandarma Komutanlığı ve (1) Cezaevi Tb.K.lığı, (1) Geri Gönderme Merkezi ile aktif faaliyetlerini sürdürmektedir.