Herb SKP swoje korzenie ma w symbolach trzech historycznych jednostek terytorialnych – komitatów (żup) – Szarisza, Spisza i Zemplina, które powstały już w średniowieczu.
Same herby tych jednostek powstały w XVI – XVII wieku i pozostawały w użyciu aż do roku 1922.
Prawa połowa herbu reprezentuje Szarisz, lewa górna część Spisz, a lewa dolna część Zemplin.
Historyczne herby komitatów nie mogły zostać przeniesione na wspólny herb w całości. Z historycznego herbu Szarisza został zatem przeniesiony anioł niosący koronę królewską. Została korona jako powszechnie znany symbol władzy i majestatu oraz trzy faliste paski, które w przypadku tego regionu już od dawna symbolizowały trzy główne szariskie rzeki Torysę, Toplę i Ondawę.
Ze skomplikowanego czteropolowego herbu komitatu spiskiego został przeniesiony tylko lew – symbol odwagi i siły, znajdujący się w pierwszym polu, które w heraldyce uważane jest za najbardziej honorowe. Lwy jako figury od średniowiecza do czasów współczesnych znajdowały się również w herbie stolicy Spisza – Lewoczy.
Ze złożonego herbu Zemplina przejęto tylko trzy ryby, które również dzisiaj są aktualnym symbolem północnej części Zemplina. Poza tym w heraldyce ryba była zawsze uważana za symbol szczęścia i do dziś jest znana jako starochrześcijański symbol.