İlçenin kuruluş tarihi kesin olarak bilinmemekle birlikte, daha önce bağlı bulunduğu Çarşamba ilçesinden daha eski bir tarihe sahip olduğu sanılmaktadır. Eski tapularda Çarşamba ismi geçmeyip Ayvacık Geziyeri olarak bahsedilmektedir.
Osmanlı İmparatorluğu zamanında bir Rum Köyü olan Ayvacık, Cumhuriyet kurulduktan sonra Rumlar tarafından terk edilmiştir. Bu günkü halk ilçeye Cumhuriyetten sonra yerleşmiştir.
Ayvacık 1954'te tam teşekküllü nahiye olmuş; fakat 1960'da daha önce kurulmuş devlet teşkilatları kaldırılmıştır. Bu nedenle Ayvacık tekrar köy olmuştur.
20 Mayıs 1990 tarihinde Ayvacık köyü, Keskinoğlu köyü ile birleştirilerek Ayvacık ilçesi olmuştur. 19 Ağustos 1990 tarihinde yapılan mahalli seçimlerle de belediyesi kurulmuştur.
