Na výrazném skalisku nad městem ční zachovalá románsko-gotická ČERNÁ VĚŽ, která je jediným zbytkem středověkého strážního hradu založeného pravděpodobně počátkem 14. století. Ve věži, která sloužila jako vchod do hradu, je několik střílen a úzkých okének.
Věž je zbytkem původního hradu postaveného v období někdy kolem roku 1250 Konrádem Plikem, který sloužil k ochraně zemské stezky i k uložení cenností a cínu vytěženého v Porolaví.
Ve druhé polovině 16. století za Šliků nahradila zdejší nevyhovující hrad nová renesanční tvrz s poplužním dvorem, vystavěná v jihovýchodní části městečka. Tvrz sloužila jako dočasné sídlo majitelů, na kterém přebývali zřídka, neboť Šlikové vlastnili několik významnějších zámků v okolí. Během 17. století nahradil starší panská sídla, hrad i tvrz, nový renesanční zámek.
Věž byla až do roku 1790 obydlena, nyní slouží jako zvonice a je v ní umístěn vzácný renesanční zvon pražského zvonaře Brikcího z Cymperka. Hranolová věž má půdorys lichoběžníku, takže při pohledu od jihu lze současně vidět její čtyři hrany. Hradní skála se dříve pro svoji podobu s mužskou hlavou nazývala „Knížecí nos“ (Fürstennase).
Tvrz byla poté majiteli panství využívána až do 20. století výhradně ke správním účelům. Tvrz včetně budov bývalého poplužního dvora byla zbořena po roce 1945 při rozšiřování sousední továrny.
Černá věž – O založení Nejdku
Kdysi dávno zabloudil v krušnohorských lesích lovec z loketského hradu. Večer na pokraji zoufalství, lovec vyšplhal na vysokou jedli, aby se rozhlédl kudy z lesa ven. Ke své radosti spatřil v údolí vysokou kamennou věž s novou šindelovou střechou. S úlevou se zbloudilý vydal směrem k věži. Jak byl ale vyděšen, když zjistil, že je svědkem hrůzného činu. Na ochoz věže byl vyvlečen spoutaný člověk, probodnut mečem a poté vržen do hlubin. Co nejrychleji pak otřesený lovec pospíchal údolím Rolavy na Loket, aby tam podal zprávu o zločineckém hnízdě v lesích hradního pána. Ten neprodleně vydal svým ozbrojencům příkaz hrádek dobýt, zničit a lupiče zajmout. Zlotřilci však zpozorovali včas blížící se vojenskou družinu a uprchli, takže jejich pevnost byla dobyta bez krveprolití. Aby místo již nikdy nemohlo skýtat útočiště loupeživým bandám, byly v údolí vykáceny lesy a na příkaz loketského purkrabího založena usedlost, nazvaná podle nově pokryté střechy hradní věže NEJDEK, z německého Neudek.
Nejdecká Černá věž je pozůstatkem královského strážního hrádku vystavěného na strmé skalnaté ostrožně v ohybu údolí, jež umožňovala téměř dokonalou kontrolu zemské stezky vedoucí podél říčky Rolavy do Saska.
Fantastický tvar NEJDECKÉ SKÁLY – zvané též Knížecí nos – vznikl zvětráváním a odnosem měkčích částí horniny podél přirozených puklin, erozí vodním tokem Rolavy i lámáním kamene lidskou rukou. Skála je tvořena hrubozrnnou biotickou žulou světle šedé až narůžovělé barvy. Žula je hlubinná vyvřelá hornina složená převážně z křemene, živců a slíd.
Různé druhy žul jsou charakteristickými horninami celé oblasti. Budují rozsáhlý karlovarský pluton, který hostí významná ložiska cínu, železa, uranu a jiných rud. Ze žil se v okolí Nejdku dobývaly také křemen a živec pro výrobu porcelánu. Žula je tradičním stavebním materiálem, která se do 20. století lámala v četných lomech. Zvětráváním žuly vznikla na Karlovarsku ložiska kvalitního kaolinu.
Nejdeckou skálu obdivoval také Johann Wolfgang Goethe. Při cestě ze saského Scheebergu do Karlových Varů v roce 1786 ho upoutala natolik, že ji nakreslil.
Na skále je v současnosti umístěn památník nejdeckému rodákovi Ignáci Sichelbarthovi (1708-1780), jezuitskému misionáři, hlavnímu dvornímu malíři a mandarínovi na císařském dvoře v Pekingu.