Localitatea Șărmășag a fost menționată pentru prima dată în anul 1355 sub denumirea de Sarmasagh. Aceeași denumire este regăsită şi în anul 1423, în timp ce în anul 1466 portă denumirea de Sármasag.
Referitor la originea denumirii localității, istoricii consideră că toponimul derivă din planta numită leurdă, în limba maghiară „sarma”, în limba latină „muscaris”, care este o plantă comestibilă, un fel de „ceapă sălbatică”, plantă care se găsește în zona forestieră a localității. Celălalt element al denumirii „sag” are două înțelesuri. Prima variantă ar fi cuvântul „mulțime” sau „grămadă”. Al doilea înțeles are rădăcini în Evul Mediu. În limbajul popular „sagh” este echivalent cu „zonă deasă, păduroasă”.
Cele mai vechi urme ale unor așezări umane din actuala localitate Șărmășag datează din epoca fierului. Tezaurul din Șărmășag, descoperit în 1941, în timpul unor munci agricole, este menționat în registrele de inventar ale Muzeului de Istorie a Transilvaniei din Cluj.
În anul 1423 primul stăpân al Șărmășagului devine Jakcs György din Coşeiu. În anul 1475 localitatea devine proprietatea lui Alexis Sarmasagi. În documentele vremii, Șărmășagul figurează ca sat plătitor de impozit din comitatul Solnocul de Mijloc, cu 15 florini de aur. În 1533-zeciuiala dată de Șărmășag a fost primită de voievodul Ştefan Báthory. În 1561 Șărmășagul a fost devastat de bandele paşei de la Buda. Începând cu anul 1570 a început un proces foarte lung, în cadrul căruia au fost implicați cei şase fii ai familiei Sarmasági şi sora lor, văduva Kemény Anna. În anul 1610 marea majoritate a pământurilor din Șărmășag ajunge în posesia familiei Kemény.
În anul 1611 principele Gábriel Báthory acordă statutul de oraş localității Șărmășag. În 1640 proprietarul pământurilor din zonă devine moşierul Kemény János, care în anul 1661 a devenit principe al Transilvaniei, după ce a urcat pe scara ierarhică funcțiile de comite, tezaurar, comandat de oaste şi în sfârşit, principe al Transilvaniei. Acesta a decis să construiască un castel în Șărmășag, dar moartea sa neașteptată, în urma bătăliei de la Viişoara, l-a împiedicat să înfăptuiască planul său. Castelul din Șărmășag a fost construit în anul 1745 de către baronul Kemény Farkas.
Primele recensăminte datează din 1715. Atunci au fost înregistrate 99 de locuitori, dar în prima jumătate a secolului al XIX-lea crește simțitor numărul populației. În anul 1847 se ajunge la 785 de locuitori, iar numărul caselor era de 250. În anul 1869 numărul locuitorilor ajunge 1329, iar în 1880 ajunge la 1402. Populaţia locală, chiar dacă nu a participat efectiv la evenimentele majore din istoria patriei, a intrat în contact şi a solidarizat cu evenimentele sociale: răscoala de la Bobâlna din 1437, războiul ţărănesc din 1514, răscoala condusă de Horea, Cloşca şi Crişan din 1784. În revoluţia de la 1848 găsim voluntari participanţi la revoluţie.
În ceea ce priveşte viaţa spirituală, documentele atestă faptul că populaţia locală a îmbrăţişat religia reformată (calvină). Prima atestare este din 1646, conform unei inscripții de pe clopotul mic al bisericii (dispărut în Primul Război Mondial).
Despre evoluţia şi începuturile învățământului din Șărmășag putem afirma că acesta s-a dezvoltat sub auspiciile bisericii reformate. Prima atestare documentară este din anul 1796. Până în 1893 școala a funcţionat în actuala curte a bisericii reformate. Din 1898 şcoala a fost preluată de stat. Lista completă a învățătorilor există în colecția Arhivelor Statului de la Cluj.
În istoria localității, un moment important a însemnat pietruirea drumului Șărmășag-Hereclean, dar mai ales predarea căii ferate Carei-Jibou, în 1887. Datorită poziţiei sale avantajoase, Șărmășagul a devenit un important nod de cale ferată. În timpul construcţiei căii ferate au fost observate importante zăcăminte de cărbuni, dar guvernanții de atunci nu au acordat importanţă acestor descoperiri.
Începând cu anul 1887 Șărmășagul a primit dreptul de a ţine târgul de ţară (de două ori pe an). La sfârşitul anului 1880, moşiile din împrejurimile Șărmășagului au fost cumpărate de către familiile Frochlich şi Werseber. Ei au continuat cultivarea viţei de vie şi au trecut la creşterea cailor de rasă. Clădirea actualului cămin cultural din Șărmășag a funcţionat inițial cu destinaţia de grajd pentru caii de rasă.
Începutul secolului al XX-lea a înregistrat o turnură importantă în viaţa economică a localităţii, mai exact în anul 1910, când s-a deschis prima gură de mină pe moşia Vanicsek.
Localnicii au refuzat la început să participe la apelul făcut de proprietar, de a lucra la mină, de aceea patronii au racolat forță de muncă din cătunele locuite de slovaci din Munţii Rezului. Datorită ofertei de salarii atractive, localnicii au decis apoi să aleagă meseria de mineri. Noul proprietar al minei, Kivir Leo, a urmărit obținerea unui profit maxim, neglijând măsurile de protecția muncii. Primul Război Mondial, dar mai ales moartea patronului, care a intervenit în 1918, au dus la închiderea minei. Primul Război Mondial a afectat foarte mult Șărmășagul, 44 de localnici pierind pe câmpul de luptă. După Marea Adunare Naţională de la 1 decembrie 1918, populaţia Șărmășagului a luat cunoștință de hotărârile adoptate şi s-a încadrat în structurile statului român. După finalizarea războiului mina şi-a reînceput activitatea.
În 9 septembrie 1940, în urma deciziei Dictatului de la Viena, Șărmășagul a trecut în cadrul administrației ungare. Primarul comunei a fost moșierul local, baronul Frochlich Albin, notar fiind Csapo Elek. Şi al Doilea Război Mondial a adus jertfe deosebite pentru localitate: 25 de morţi pe câmpurile de luptă.
Regimul totalitar instalat după cel de-Al Doilea Război Mondial şi-a prefigurat intențiile începând cu reforma agrară din 1945, ignorând dreptul la proprietate privată a oamenilor. Întreprinderea minieră, închisă pe timpul războiului, a fost redeschisă. În 1948 a fost dotată cu instalații moderne. În anul 1953 a început electrificarea localității. În comună, pe strada Garoafelor s-au construit locuințe de serviciu pentru funcționarii minei, fără ca proprietarii terenului să fie consultați în prealabil cu această decizie.
Întreprinderea minieră a atras un număr mare de locuitori în Șărmășag, fiind necesară luarea de măsuri sociale, edilitare şi de cazare a angajaților. S-au construit în partea de nord a comunei, numită Colonia Minei, locuințe tip vilă de 1, 2 sau 3 nivele. Angajații minei au beneficiat de condiții specifice activității (sporuri, facilități, club minier, creșă, retribuții speciale).