Eski adı ''Dablar'' olan Tarklı'nın Hellenistik dönemde ''Bytinia'' adını alan bölge içinde olduğu bilinmektedir.Hisartepe'de bulunan iki sarnıç M.Ö.1.Bin ile M.S.2.Bin arasını tarihlemektedir.Aşıkpaşaoğlu Tarihinde Taraklı'nın fethinin Karacahisar'ın fethinden hemen sonra olduğu bilinmektedir.Bu tarih 1289 yılıdır.

Joseph Von Hammer ''Osmanlı Devlet Tarihi'' isimli eserinde Taraklı'nın fethini Osman Bey'in ilk fetihler dizisi arasında göstermektedir.Kaynaklarda fetih tarihi farklı olmakla beraber, kesin olan şey Taraklı'nın Osmanlı Devleti'nin kuruluşunda,ilk Osmanlı Yurdu içerisinde olduğudur.

Evliya Çelebi Seyahatname'sinde şu bilgileri vermiştir ; ''Taraklı, Bursa Tekfuru tarafından yaptırılmıştır.Osman Gazi'nin fethidir.Yüzelli akçeli kazadır.Halen kalesi virandır.Ama kasabası bağlı,bahçeli, beşyüz'e yakın mamur evi,üzeri tahta ve kiremitlerle örtülü şirin bir kasabadır.11 Camii ve 7 kasabası vardır.Çarşı içindeki camii güzeldir(Yunuspaşa Camii).Bir hamamı,beş hanı,altı mahalle mektebi ve iki yüz dükkanı vardır.Hemen herkes, kaşık ve tarak yapıldığından,bu şehre Taraklı der.Dağlar safi şimşir ağacı kaplı olduğundan halkı bunları işleyip Arap ve Acem'e gönderirler.Suyu ve havası çok güzeldir.Bütün dağlar ormanlarla kaplı av yeridir.Deresi içinde aktıktan sonra,diğer bir nehir vasıtasıyla Sakarya Nehri'ne kavuşur.''

1919 Yunan işgali ile esaret altında kalan şehir,Bursa ve çevresinin kurtuluşu ile tekrar Türklerin eline geçmiştir.1987'ye kadar Geyve İlçesi'ne bağlı bir kasaba iken, bu tarihten itibaren Sakarya İli'ne bağlı bir ilçe merkezi haline gelmiştir.Belediyesi ise 1954 yılında kurulmuştur.

Gelişmekte olan bugünün Taraklı'sı, önemli yol güzergahının dışında, sakin, meyvesi-sebzesi bol, yemyeşil bir şehir görünümündedir.Şehir ve sokak dokusu bozulmayan ender anadolu kentlerinden birisidir.