Le Vieux Château construit en 1180 subit de graves dommages durant la guerre de Cent Ans . Il est restauré en 1452. Le château est rebâti à plusieurs reprises. En 1532, les murs extérieurs sont entièrement refaits en briques. La partie centrale actuelle est du XVIe siècle tandis que les ailes du bâtiment sont plus récentes. Le château est successivement la propriété des Cossé-Brissac puis des Epinay-Sain t-Luc.