İlçe’nin tarihi İl Merkezi olan Kayseri ile aynıdır. Kayseri’den ayrı olarak Tomarza adına ilk defa “Jennigs” adlı batılı bir yazarın “16.yy’da Erciyes Dağı” adlı eserinde raslanmaktadır. Bu eserde ilçeden köy olarak bahsedilmekte. 1071 yılında Alpaslan’ın Malazgirt Zaferinden sonra Anadolu’nun fethine kadar bölge sırasıyla Kapadokyalılar, Büyük İskender’in Makedonya İmparatorluğu ve Romalıların idaresinde kalmıştır. Malazgirt Zaferinden sonra bölgeye Uygur Türkleri ile İran’dan gelen Avşar Türkleri yerleşmiştir. İlçedeki muhacir Türk nufusunun özellikle “93 Harbi” olarak bilinen 1877-1878 Osmanlı Rus savaşı sırasında arttığı görülmektedir. Rus işgalinden kaçan çok sayıda Türk ailesi İlçe merkezi ve etrafındaki köylere yerleşmişlerdir.
