少林寺常住院建筑在河南登封少溪河北岸，从山门到千佛殿，共七进院落，总面积约57600平方米。主要包括常住院、塔林和初祖庵等。常住院的建筑自南向北依次是山门、天王殿、大雄宝殿、藏经阁、方丈院、立雪亭、千佛殿。另外，寺西有塔林，北有初祖庵、达摩洞、甘露台，西南有二祖庵，东北有广慧庵。周边还有同光禅师塔、法如禅师塔和法华禅师塔等古塔10余座。
山门，为少林寺大门，清雍正十三年(1735年)修建，1974年重新翻修。门额上有清康熙帝亲笔所提"少林寺"三个大字。匾正中上方刻有"康熙御笔之宝"六字印玺。山门前有石狮一对，雄雌相对，系清代雕刻。山门的八字墙东西两边对称立有两座石坊，东石坊外横额:"祖源谛本"四字，内横额"跋陀开创";西石坊内横额:"大乘胜地"，外横额:"嵩少禅林"。山门的正门是一座面阔三间的单檐歇山顶建筑，它坐落在两米高的砖台上，左右配以硬山式侧门和八字墙。
塔林，位于少林寺西侧一里许的五乳峰脚下，在我国专指僧人的坟墓。占地面积约2万平方米，有唐、宋、金、元、明、清及现代砖、石墓塔231座。这里是历代少林高僧安息的墓地。1996年，少林寺塔林和初祖庵被公布为国家级重点文物保护单位。因塔类繁多，大小参差，高低相映，粗细各一，形式多变、故称为塔林。林就是众多各异的意思，嵩山塔林不仅是研究我国古代砖石建筑，书法，雕刻的艺术宝库，也是研究佛教史，少林史的珍贵资料。
初祖庵，位于五乳峰下小土丘上，据少林寺1.3公里，是宋代人为纪念"禅宗初祖"菩提达摩而营造的纪念建筑。因达摩常游化于嵩洛之间，修禅的主要方式是面壁静坐，所以此庵又称作"达摩面壁之庵"。宋代，初祖庵曾建有"面壁塔"。蔡京所书"面壁之塔"石额今存于寺内，另有古碑四十余通。1983年至1986年，初祖庵全面整修时，建围墙二百余米，恢复了完整的院落。现庵中建筑有山门、大殿、面壁亭、千佛阁等。
达摩洞，在少林寺背后五乳峰中峰上有一天然石洞，为当年达摩祖师九年面壁的地方，称为达摩洞。禅宗初祖达摩在公元527年到536年在此洞面壁静坐长达9年。达摩洞面向西南，洞口用青石砌成拱门，洞深约七米，高宽各三米左右。洞内台上有石像三尊，中间的就是达摩坐像，两侧为其弟子。在洞的左上方，原有一小石塔，塔早已毁。洞内东壁题有"本来面目"四字。洞外西边石壁上有"面壁洞天"四个大字。
千佛殿，位于立雪亭后面，又名毗卢殿，是寺内最后一个大殿。殿内的壁画很是有名，是少林壁画中的珍品。大殿背面及东、西两墙壁上都绘有彩色壁画，最著名的有"十三棍僧救唐王"、"五百罗汉毗卢图"，色彩艳丽、构图和谐，衣袂飘动，展示了唐代壁画的高超。殿内正中还供有毗卢佛铜像和白玉释迦牟尼像，面积达几百平方米，是寺内现存最大的殿宇。
达摩亭，又称立雪亭，建于明代，1980年重新修整。这里是二祖慧可立在雪地里向达摩祖师断臂求法的地方。殿内神龛中现供奉达摩祖师的铜坐像，是在明嘉靖十年所铸。两侧分别是二祖慧可、三祖僧灿、四祖道信、五祖弘忍。龛上悬挂的匾额"雪印心珠"四字为清乾隆皇帝御笔亲题，字体遒劲，气势豪迈。此殿现为寺僧日常做佛事的场所。
方丈室，是寺中方丈起居与理事的地方。乾隆曾西渡洛水至少林寺，即宿在此，乾隆十五年，清高宗弘历游少林寺时即以方丈室来做寝行宫，故又称"龙庭"。该室初建年代为明朝初年，历经维修，现存建筑为清代遗物。室内正中置1995年少林寺建寺1500周年时信徒赠送的鸡血石"佛祖讲法"浮雕，北壁内侧放置少林寺传代世系谱，东侧放置的是弥勒佛铜像，墙上挂有"佛门八大僧图"、"达摩一苇渡江图"。
钟楼和鼓楼，坐落在大雄宝殿的两侧，东面为钟楼，西面为鼓楼，两座楼均有四层，造型巧妙，是我国建筑史上的珍品。"晨钟暮鼓"是寺僧起居和进行佛事活动的一种信号。钟楼前碑刻为《皇帝嵩岳少林寺碑》俗称《李世民碑》，正面是李世民告谕少林寺上座寺主等人的教文，表彰了少林寺僧救助唐平定王世充的战功，右第五行有李世民亲笔草签的"世民"二字，碑刻"太宗文皇帝御书"七个大字为唐玄宗李隆基御书。背面刻的是李世民《赐少林寺柏谷庄御书碑记》，记述了十三棍僧救秦王的故事。
大雄宝殿是寺院佛事活动的中心场所，与天王殿、藏经阁并称为三大佛殿。原建筑毁于民国十七年(1928年)，1986年重建。殿内供释迦牟尼、药师佛、阿弥陀佛的神像，殿堂正中悬挂康熙皇帝御笔亲书的"宝树芳莲"四个大字，屏墙后壁有观音塑像，两侧塑有十八罗汉像。殿内供奉着释迦牟尼、阿弥陀佛、药师佛的神像。
藏经阁，位于大雄宝殿后。又名法堂，为明代所建，毁于民国十七年，1994年重建，是寺僧藏经说法的场所。藏经阁藏书八百万卷，供有少林寺的一位缅甸弟子于1996年揖赠的汉白玉卧佛像一尊。在藏经阁月台下有一口大铁锅，明代万历年铸造，是当时少林寺和尚用来炒菜用的小锅。