Origine et histoire des Vestiges antiques
Trajan fit ériger un forum de 250 m sur 100 m, comprenant la place, une basilique, un temple et des boutiques disposées autour. Le forum fut reconstruit après la destruction de la ville par les Chauques à la fin du IIe siècle. Vers le IXe siècle, la fortification médiévale intègre, sur son front occidental, des murailles du Bas-Empire. Entre le XIIIe et le XVe siècle, les prévôts de Bavay reprennent la défense de la ville et achèvent, à l'emplacement du forum, une forteresse couvrant environ 300 m sur 90. Au XVIe siècle, alors que certaines fortifications avaient été partiellement démantelées, la forteresse est entourée d'une nouvelle enceinte. Ce château figure sur l'Album de Croÿ, daté vers 1560. L'enceinte comportait trois portes — Valenciennes, Mons et Gommeries — desservant respectivement les axes vers Cambrai, Tournai (Belgique) et Utrecht (Pays-Bas) ; Cologne, Trèves et Reims ; et Saint-Quentin. Le projet de fortification envisagé par Louvois fut abandonné par Vauban, et aucune reprise des travaux n'a été entreprise depuis. Aujourd'hui, un chemin de ronde est praticable sur une grande partie de l'enceinte, qui est protégée au titre des monuments historiques.
