Il territorio fu romano e agricolo fin dall'inizio. Nelle campagne sopravvivono ville e, dove oggi sorge il santuario della Madonna di Ripalta , vi era un tempio dedicato alla dea Bona . Un'iscrizione ivi rinvenuta cita un curator , Lucio Publilio Celso Patruino , probabilmente di famiglia erdoniate, e l'insediamento stesso sembra essere stato un deposito di grano con annessa una mutatio , una stazione di posta dipendente da Herdonia. Duemila anni dopo, il monumento principale della città è ancora un deposito di grano.

Un insediamento risalente al 300 a.C. circa, chiamato Cerina o Kerina , potrebbe trovarsi nel sottosuolo e il luogo si sviluppò come municipium sotto Roma. Il primo documento a menzionare la città si trova nel Codice diplomatico barese , datato 1150 , che cita una domum Malgerii Cidoniole . Sotto gli Angioini, la sua posizione sull'antica Via Traiana portò a una reale crescita agricola e commerciale e, nel 1418 , divenne feudo dei Caracciolo .

Il 28 aprile 1503 Cerignola — allora un borgo di circa 350 famiglie — divenne teatro di una battaglia campale per il possesso dell'Italia meridionale. Gli spagnoli, guidati da Gonzalo Fernández de Córdoba , il Gran Capitán, affrontarono i francesi, numericamente superiori, al comando di Louis d'Armagnac, duca di Nemours . Córdoba aveva studiato attentamente il terreno e marciò quasi segretamente per raggiungerlo prima dei francesi, nonostante la perdita di uomini a causa del caldo e della siccità durante il tragitto. Nemours fu ucciso, i francesi furono sbaragliati e il Regno di Napoli passò definitivamente alla Spagna. La contrada in cui avvennero gli scontri decisivi fu in seguito ribattezzata Tomba dei Galli . Secondo la tradizione locale, la popolazione festeggiò insieme ai soldati spagnoli.

La continuità della città fu poi spezzata dal suolo. Nel 1731 un terremoto distrusse quasi l'intero borgo medievale — la Terra Vecchia — motivo per cui la storia antica di Cerignola viene descritta dai suoi stessi storici come incerta e per cui molto deve essere ricostruito a partire da iscrizioni e reperti archeologici. L'antica Porta della Terra e la sua torre dell'orologio sopravvissero fino al loro abbattimento nel 1805 .

La città moderna è una creazione del XIX e XX secolo basata sull'economia del grano: il Duomo Tonti , una delle chiese più grandi della Puglia; il Teatro Mercadante ; Palazzo Carmelo; e, nelle campagne, la Torre Alemanna , torre di una commenda dell'Ordine Teutonico, a Borgo Libertà. Un miliare romano della Via Traiana è ancora visibile in città.

Due uomini hanno dato a Cerignola un posto nella storia italiana più ampia. Pietro Mascagni fu il maestro della banda cittadina e qui compose la Cavalleria Rusticana . E qui nacque Giuseppe Di Vittorio , il bracciante diventato il più importante sindacalista dell'Italia del Novecento. Le lotte contadine da lui guidate su questa terra conquistarono maggiori diritti per i lavoratori agricoli, inclusa la famosa spartizione al cinquanta per cento per i mezzadri, e stabilirono il ruolo del sindacato nella vita pubblica italiana. In una città di braccianti , non si tratta di una nota a piè di pagina; è il fatto centrale della sua storia moderna.