Il toponomimo Sarzana deriverebbe dal nome Serrazzana o Sergianum, da un antico colono romano della gente Sergia.
Sarzana viene menzionata per la prima volta in un diploma dell’imperatore Ottone I del 19 maggio 963, dove veniva concesso al Vescovo di Luni Adalberto il "Castrum Sarzanae", l’attuale luogo dove sorge la fortezza di Sarzanello.
Verso l’anno Mille, molto probabilmente, il borgo abitato si spostò più a valle, all’incrocio dell’Aurelia con la via Francigena. Sono poche le notizie di questo periodo. Il centro storico attuale si formò da due borghi separati che si fusero nel momento della decadenza di Luni. Uno era situato poco lontano dalla pieve di San Basilio, l’imo borgo o Borgo basso, e l'altro presso la pieve di Sant'Andrea, costruita vicino al torrente Calcandola che allora passava all'interno del borgo. Nel X secolo venne deviato il torrente Calcandola e nel suo alveo sorse la piazza della Calcandola, sede nel 1163 del mercato di Luni per volere di Federico Barbarossa.
La decandenza della vicina Luni fomentò la crescita di Sarzana e nel 1204, la Sede Vescovile fu trasferita definitivamente a quest’ultima. Castruccio Castracani, signore di Lucca, occupò la città dal 1314 al 1328 come vicario imperiale. Sarzana vide quindi il succedersi del dominio dei Malaspina, dei Pisani, dei Visconti, dei Genovesi e dei Fiorentini nel 1487. Poco prima, nel 1469 Sarzana fu insignita del titolo di città dall'Imperatore Federico III. Passò quindi ancora a Genova prima attraverso il Banco di San Giorgio e poi, direttamente nel 1562. Con l’ascesa del potere sabaudo, Sarzana passò al Regno di Sardegna con l’annessione della Liguria e quindi al regno d’Italia.
Dopo la Prima Guerra Mondiale, Sarzana si oppose duramente al fascismo con i fatti del 21 luglio 1921 quando la popolazione e la forza pubblica respinsero un attacco fascista condotto da Amerigo Dumini.