Veuillot, jeune romantique, avait fait partie de la claque d’Hernani. Dans L’Écho de Rouen, en 1831, il avait rendu compte des Feuilles d’automne, faisant l’éloge d’Hugo quoique regrettant déjà le virage politique du poète. En 1842, il consacre un feuilleton très sévère au Rhin, dénonce les hugolâtres, critique les facilités de plume du poète, et surtout sa prétention à guider le peuple. Il condamne l’évolution politique d’un Hugo d’abord royaliste, puis quasi chrétien sous l’influence de Chateaubriand, puis libéral à la façon des Débats, puis révolutionnaire. La rupture est consacrée en 1851. Si Veuillot est paradoxalement favorable aux événements de 1848 – selon le schéma très maistrien d’une Providence se manifestant dans le mouvement du peuple –, il rejoint bientôt le parti de l’ordre. En février 1851, Veuillot approuve le coup d’État, et son journal appelle à voter oui au plébiscite.
Sa décision lui vaut d’être l’une des figures les plus maltraitées de Châtiments – encore que les deux pièces consacrées par Hugo à Veuillot, « À des journalistes de robe courte » et « Un autre », soient datées de septembre 1850, attestant une présence de Veuillot très tôt dans le projet du recueil. Hugo se venge en particulier des comptes rendus sévères que Veuillot donne de ses discours à l’Assemblée, qui dénoncent sans cesse la trahison de l’ancien pair de France devenu orateur de la France populaire, à la différence de Montalembert resté fidèle à ses origines.
Le 19 octobre 1849, on débat à l’Assemblée de la restauration des pouvoirs temporels du Saint-Siège ; Victor Hugo prononce l’un de ses plus importants discours, qui marque son passage au radicalisme. Veuillot se moque des antithèses de Hugo, devenu poète essoufflé depuis qu’il a grimpé la Montagne. Dans ses railleries, le critique trouve un allié en la personne de Montalembert. Mais Hugo rétorque à propos de ce dernier : « il a passé du côté de ceux qui oppriment, et moi je reste du côté de ceux qui sont opprimés. »
Le débat sur le suffrage universel achève d’attiser leur guerre. Veuillot raille encore le discours de Hugo, homme politique et poète. Dans son livre sur les Libres penseurs, en 1860, il déclarera : « Le poète est un moineau lascif, c’est le fond de sa nature ». Mais la phrase disparaît de la réédition du livre : Veuillot, catholique, s’est-il rendu compte qu’il citait un vers érotique de Catulle ? Entre-temps, Émile Deschanel lui répond que « si le poète est un moineau lascif, le pamphlétaire clérical est un vilain hibou ». Les moqueries de Veuillot n’épargnent pas non plus le second grand discours de Hugo à l’Assemblée, lors de la révision de la Constitution en 1851.
En dépit de désaccords majeurs, Veuillot influence Hugo dans l’écriture de plusieurs pièces de Châtiments : il « encanaille la muse de l’ancien pair de France », comme le remarque un critique. Veuillot publie aussi de longs extraits du recueil dans L’Univers. Toutefois, il remarque que Hugo « insulte [s]a mère », tenancière, dans le vers « Ce Zoïle cagot naquit d’une Javotte » : Veuillot lui-même, dans sa recension du Rhin en 1842, s’était décrit comme un Zoïle. Veuillot trouve néanmoins une grande beauté aux Contemplations, publié en 1856, même s’il continue d’attaquer Hugo qui réclame le titre de proscrit. Il reconnaît aussi le chrétien Jean Valjean dans Les Misérables. Dans Les Odeurs de Paris, son livre de 1867, il fait l’éloge des Chansons des rues et des bois, où Hugo paraît enfin pousser à son achèvement la veine de Châtiments. Veuillot reconnaît qu’Hugo est « le plus grand poète du monde et peut-être de tous les temps ».
Pour sa part, Hugo chassé de Bruxelles en 1871 apprend que Veuillot l’a « appelé vieille citrouille »... Mais Veuillot a ajouté que ladite citrouille est « à moitié remplie de diamants », ce qu’Hugo sait aussi. L’inimitié des deux hommes, sans être la loyauté des adversaires, reste féconde : les Chansons des rues et des bois doivent aux Châtiments, qui doivent eux-mêmes à Veuillot.