Probabilmente il nome "Zermeghedo" è di origine longobarda, come testimonia la toponomastica locale, così ricca di termini germanici. Si sarebbe trattato, infatti, di un dislocamento militare dell'armata del re Alboino, posto a difesa della Via Postumia contro eventuali attacchi provenienti da Nord. Re Alboino, ex mercenario dell'esercito Romano d'Oriente, a capo di una massa di uomini, in gran parte Longobardi, convertitosi al Cristianesimo, forse per motivi politici, iniziò il suo lungo cammino, seguito dalla sua gente. Entrò nel Friuli, percorrendo la statale Postumia, mettendosi ai lati della strada forti capisaldi (fare) destinati a favorire la via di fuga in caso di necessità e ad assicurare i rifornimenti. Una di queste fare fu appunto Zermeghedo costituitasi nel 568 circa, baluardo di difesa a nord contro l'insediamento romano di Arx Janii (Arzignano).
Nell' Ottocento Zermeghedo passò sotto la dominazione dei Franchi succeduti ai Longobardi. Dopo il Mille si svilupparono nella zona i Comuni di cui poche sono le tracce rimaste, finché nel 1250 Zermeghedo fu interessato dall'attacco di Ezzelino da Romano che in quell'epoca distrusse la vicina Montorso Vicentino. Questo provocò una grande scossa, tanto che i conti Maltraverso nel 1265 vendettero i comuni di Montebello Vicentino e Zermeghedo alla libera città di Vicenza. Così poté sorgere il libero comune di Zermeghedo che il 23 aprile del 1335 solennemente compilò i suoi Statuti Comunali, uno dei primi Comuni. In questa data, dopo la Messa, sotto il portego della casa di Uguccione fu Olderico si riunirono i 34 capofamiglia convocati "ad sonum tabulae" e alla presenza dei dovuti notai provenienti da Montorso, Grancona e Brendola solennemente stesero gli Statuti del Comune, suddivisi in 67 articoli, tuttora visibili, in ottimo stato di conservazione, presso la Biblioteca Bertoliana di Vicenza. Zermeghedo rimase sempre un paese a popolazione ridottissima, per cui ogni volta che si presentò un governo centralista il paese perse la propria autonomia, e ciò avvenne sia in epoca napoleonica che in epoca fascista.