Sulle origini della città di Gallipoli le opinioni sono controverse.
Secondo una leggenda è stata fondata dall'eroe cretese Idomeneo (che avrebbe portato in città l'immagine del gallo impressa sul suo scudo, poi scelta per lo stemma cittadino), mentre un’altra leggenda dice che sia stata creata dallo spartano Leucippo.
In realtà, la presenza umana sembra essere di origine preistorica e probabilmente Gallipoli fu l'approdo portuale della città messapica di Alezio, poi andata distrutta.
Il nome è però di derivazione greca, Gallipoli infatti deriva da “Kale Polis” (“Bella Città”) e risale a quando il centro era una colonia della Magna Grecia.
Poi, nel 265 a.C., ad occupare il suo suolo dopo la vittoria nella prima guerra punica giunse Roma, dal momento che Gallipoli aveva scelto di affiancarsi a Taranto e Pirro.

Non si può dire che la dominazione romana non abbia però giovato al suo sviluppo: vennero potenziate le vie di comunicazione ed incrementate le attività portuali, finché Gallipoli non divenne un vero e proprio municipio.
Purtroppo le opere realizzate dai Romani andarono completamente distrutte nel Medioevo (durante il 450 circa), con le invasioni dei Barbari (Vandali e Goti).
Poi fu il turno dei Bizantini che dominarono a Gallipoli per 42 anni a partire dal 500. Sotto l'impero romano di Onesti, dal 542, la città conobbe un nuovo periodo di fioritura, di cui è simbolo la costruzione del famoso Castello, nato per scopi difensivi e che più tardi sarà potenziato da un'altra struttura fortificata, la nota Torre del Rivellino, collegata da un ponte levatoio all'edificio principale.
Tuttavia il centro restò a lungo ai Bizantini, tanto che l’osservazione del rito greco si mantenne fino al XVI secolo, per passare solo nel 1071 nelle mani dei Normanni, cui seguirono dominazioni contese tra svevi, angioini e aragonesi che ricordiamo soprattutto per lo spietato assedio angioino del 1268, per tracce architettoniche giunte fino ai giorni nostri e per aver incrementato i traffici commerciali.