慶長14年(1609年)、利慶によって創建された。創建以来、高松藩主松平家のお抱え寺に指定され、仏事を執り行って扶持米を与えられていた。また言い伝えでは、藩主や若君の教養係として功績を積んだとされ、藩主から寺紋を与えられたり、名字帯刀を許されたりといった優遇を受けた。そのため、「讃岐五ヶ寺」という指折りの寺の一つに数えられた。
明治時代に入ると、お抱え寺で門徒が少なくなった寺は、藩がなくなって扶持米が与えられなくなったため困窮した。この頃は先祖代々の寺地を貸すことで運営を保ち、廃仏毀釈も乗り越えた。
昭和20年(1945年)、高松空襲によって
寺は全焼した。法要に使う掛け軸など重要な仏具はあらかじめ郊外の親戚寺院に疎開させており、本尊は先代住職(現住職の祖父)が背中に縛って避難したため無事であったが、鐘や仏具など資材供出のためすでに寺になかったものも含め、ほとんど何もなくなった。
戦後には農地解放をうけ、寺族が作った田畑は全て農家の人々に分配されてしまった。また、周辺に持っていた土地・借家といった不動産を少しずつ売って、生活に充てた。不動産を買った企業には悪徳業者もいたが、先代住職は「お坊さんは清貧を貫くべき」という教えを守り、訴えなかったという。
こうして衰えた寺に対し、先代住職の息子(現住職の父)が再建に乗り出した。
空襲で全て焼けた市内において、寺町の各寺院は元の場所に再建するか、郊外に引越しするかの選択を迫られたようで、元の土地を売って新しい土地に移転するムードがあったようだという。そのうち賢いと評判だった別寺院が移転を決意したのを皮切りに力のある寺から再建がはじまった。徳成寺もこの流れをみて移転が決定した。門徒との決別になってしまう郊外ではなく、元の寺地から800mほど離れた現在地に移転した。この地はかつて寺が持っていた別寺院の地を売り払った金で購入したもので、一切寄付に頼らず本堂の建設に取り掛かった。
昭和34年(1959年)、現本堂が完成した。当時では珍しい鉄筋コンクリートの本堂に、香川県で初めてだと新聞でも話題となった。