Merzifonlu Karamustafapaşa bir Bağdat seferinde veya gezisinde 1659-1660 yıllarında o zaman bataklık halinde bulunan İncesu deresinin kenarına ordugahını kurdurur. Söylentiye göre o gece rüyasında kendisine bu ıssız yörenin ihyası emredilir. Bu suretle Karamustafa Paşa 1661’de şimdi halen mevcut bulunan Camii Kebir, Kervansaray, Hamam ve iki sıradan oluşan çarşı ve çeşmeleri inşa ettirmiştir. Kayseri Mahkemesinin kayıtlarına göre bugün ilçenin bulunduğu yerin yakınında Karataş adında bir köy bulunmakta idi. İncesu’da imar hareketlerinin başlamasıyla Karataştan ve diğer yerleşim yerlerinden kabileler gelip yerleşmişlerdir. Bunlardan başlıcaları; Kırım, Etyemez, Karakoyunlu ve Bozkoyunlu kabileleridir. İlçedeki çeşitli mahalle ve sokak isimlerinin kaynağı bu kabilelere dayanmaktadır. İlçeye daha sonra Rum aileleri de yerleşmiş, İncesu batı yönünde gelişme göstermiştir. İncesu 19 yy. başlarında bucak merkezi, 1901 yılında da ilçe merkezi olmuştur.
Rumların mübadele edildikleri 1925-1930 yıllarına kadar ilçenin bugünkü durumuna göre daha mamur olduğu, 1200 kadar hanenin bulunduğu, nüfusun 12.700 olduğu, derenin güneyinde Salanta, Orta Mahalle, Kilise Mahallesi, derenin kuzeyinde ise Molu, Tırpanlı ve Sadıka isimli altı mahalleye ayrıldığı, ilçe haricinde çalışanlar tarafından ilçeye her yıl 80.000 Osmanlı Altını girdiği; ilçenin 7.000 büyükbaş hayvanı bulunduğu, yerinde yapılan araştırmalardan belirlenmiştir.
İlçedeki en önemli tarih eserlerden biri Karamustafa Paşa tarafından yaptırılan ve halen bir kısmı duran külliyenin şimdiki Kayseri yolunun girişine rastlayan kısmıyla giriş kapısı 1925 yılında Kaymakam Sait Bey tarafından yıktırılmıştır. Kervansarayın esas binası ve avlu kısmındaki kemerler restore edildiğinden iyi durumdadır. Çarşının bir kısmı eski halini koruyabilmiştir. Cami Kebir ve hamamın geçmiş yüzyılların aşındırması dikkate alınacak olursa çok iyi durumda olduğu söylenebilir. Bu iki eser 1955 yılında tamir ve restore edilmiştir. Cami Kebir üzerindeki kitabeden anlaşıldığına göre 1960 yıllarında tamir ettirilmiştir. 1970 yılındaki sel afetinden sonra bir süre kapalı kalmıştır.