Podle pověsti nechal první kapli na tomto místě postavit v roce 971 kníže Boleslav II. Pobožný. Pověst tvrdí, že kníže zabloudil v lese a dostal se až do míst, kde byli za dívčí války díky lsti krásné Šárky pobiti a následně pohřbeni muži ze Ctiradovy družiny. Tam se mu zjevil divoký medvěd střežící hroby Ctiradových bojovníků, knížete prý však tehdy zachránil právě svatý Matěj.
Podle jiné verze statečný zachránce nebyl světec, ale náhodný kolemjdoucí, který medvěda skolil a poté se knížeti představil jako Matěj. Ať už to bylo tak, nebo tak, kníže z vděčnosti za svou záchranu slíbil, že na tomto místě dá postavit kostel zasvěcený svatému Matěji. První spolehlivý historický údaj o zdejší kapli ovšem pochází až z 15. století. Protože postupem času začal být svatostánek vzhledem k počtu místních věřících malý, byl roku 1770 zbourán a nahrazen novým, vybudovaným na náklady Františka Xavera Strachovského rytíře ze Strachovic. Prostá stavba byla zbudována ve stylu pozdního baroka a zachovala se dodnes.
Kostel sv. Matěje je dlouhodobě vyhlášený pořádáním náboženských poutí. První záznam o konání svatomatějské pouti je z konce 16. století a od té doby se v tradici pokračovalo. Poutní křížová cesta ke kostelu s dvanácti zastaveními kdysi začínala poblíž dnešní stanice metra Hradčanská. Vzhledem k tomu, že postupem času nabývaly poutě spíš charakteru zábavné události, než duchovního rozjímání a účastnilo se jich čím dál víc lidí, přesunuly se stánky a další atrakce z prostoru před farou do nižších úseků poutní cesty na Vítězné náměstí. Kvůli výstavbě budov ČVUT pak byla v 60. letech už ryze zábavní pouť přesunuta do tehdejšího Parku kultury a oddechu Julia Fučíka (nynější Výstaviště). Vzhledem k přesunu svátku sv. Matěje v katolickém kalendáři z 24. února na 14. května, se nyní náboženská svatomatějská pouť koná v odlišném termínu (obvykle počátkem května) než matějská pouť na Výstavišti, která začíná v březnu.
