دلیل نام گذاری این مسجد به شجره این است که چون در آن محلّ، درختي به نام «سَمُرة» بوده و پيغمبر اكرم (ص) در زير سايه آن درخت نماز می خواندند و محرم مي شدند، به نام «الشجرة» معروف گرديده است.
این مسجد را «ذوالحليفة» به معنای آبي میان دو قبيله «ابن هوازن و بني خفاجه» نیز نامیده اند. به این مسجد، «آبار علي و يا آبيار علي» نیز گفته می شود از این جهت که منطقه مسجد شجره، از مناطق كشاورزي بوده و بدون شك توسط حضرت علي بن ابي طالب (ع)، چاه هائي در آنجا احداث شد كه از آن استفاده می شده است؛ لذا به آبار علي معروف گردید و بر این اساس بود که رسول خدا (ص) قبل از محرم شدن، در يكي از اين چاه ها خودشان را شستشو داده و غسل می نمودند.
موقعيت جغرافيايي مسجد شجره
اين مسجد حدود ۱۰ كيلومتري مدينه منوره به طرف مكه واقع شده و ميقات كساني است كه از اين ناحيه به سوي بيت الله الحرام می روند.