Akkışla halkı, Orta Asya’dan göçebe oba olarak gelmiş ve bugünkü ilçe sınırları içerisine yerleşmiştir. Kuruluş tarihi belli olmamakla beraber 1804 yılında Kuzugüdenli namı ile ilçenin doğusundaki Hınzır Dağı eteklerine yerleşmişlerdir. İlk yerleşimden sonra 45 pare köy var iken, bugün 2 kasaba ve 5 pare köy kalmıştır.
Daha önceleri Sivas iline bağlı iken Kayseri’nin il olması ile birlikte Kayseri ili Pınarbaşı (Aziziye) ilçesine bağlanmıştır. Bünyan’ın ilçe olmasıyla birlikte Bünyan ilçesine bağlanmış ve bu durum 1987 yılına kadar devam etmiştir.
1953 yılında belediye teşkilatı kurulan Akkışla İlçesi 19.06.1987 tarih ve 19507 sayılı Resmi Gazete’de yayımlanan 3392 Sayılı Kanunla Akkışla İlçesi olarak faaliyete geçmiştir.
İlçe Akkışla adını; kuzeyinde bulunan kayaların beyazlığından AK, hayvanların kış aylarında dışarıda kalmasına müsait olduğundan KIŞLA kelimesini birleştirerek almıştır.