כתב רב אחאי גאון:
"חייבים בית ישראל להתפלל במקום המיוחד לתפילה, כמו שמצאנו ביעקב שהתפלל בבית המקדש במקום המיוחד לתפילה, שכתוב "ויפגע במקום". ואין פגיעה אלא תפילה, שנאמר "ואתה אל תתפלל בעד העם הזה ואל תפגע בו". וחייבים בני ישראל לקבוע מקום לתפילה, שאמר רבי חלבו בשם רבי חנינא "כל הקובע מקום לתפילתו אלהי אברהם בעזרו".
עוד מגן הילדים שמענו כי בורא העולם נמצא בכל מקום, משום שהוא אינו מוגבל להגדרת מקום ספציפית. ובכל זאת, יש מקומות בעולם בהם נוכחות הבורא מוגברת, והוא בוחר להשרות בהם שכינתו. דוגמא למקום כזה הוא בית הכנסת.
אל בית הכנסת, מגיע כל יהודי בכדי לשפוך את צקון ליבו לפני אבא שבשמיים, שלוש פעמיים ביום, שחרית, מנחה וערבית ולעיתים גם יותר.

בעבר, המשכן ובית המקדש החליפו את בית הכנסת
בימי קדם, בתקופת המשכן וכמובן לאחר מכן, בתקופה בה בית המקדש היה קיים, היו אלו המקומות העיקריים בהם היה עם ישראל מתקבץ כדי להתקשר עם בורא עולם.
במקומות אלו, העם התאסף כדי להתפלל ללא טקסט מיוחד. בתקופה לאחר חורבן בית המקדש הראשון, היה זה עזרא הסופר, המנהיג הרוחני באותה העת, שהבחין כי תפילת העם משובשת, ולכן קבע יחד עם אנשי הכנסת הגדולה טקסט קבוע שישמש לתפילות. תוכן זה כלל שבחים לבורא עולם לצד בקשות על כל צרכי האדם.

זמני התפילה בימי קדם
את זמני התפילה קבע עזרא בהתאם לזמני הקרבת הקורבנות הקבועים בבית המקדש.
תפילת השחרית, נאמרת מדי יום בזמן בו הקריבו בבית המקדש את קורבן התמיד של שחר, מנחה נאמרת בזמן קורבן ה'תמיד' של הצהריים; ותפילת ערבית כנגד איברי הקורבנות שנשרפו על גבי המזבח במשך הלילה.
הקב"ה משרה שכינתו בבתי כנסיות ובתי מדרשות
הנביא יחזקאל, שחי באותה התקופה, שלהי בית המקדש הראשון ותחילת ימי גלות בבל כתב: "ואהי להם למקדש מעט בארצות אשר באו שם".
ומפרש רש"י הקדוש: "בתי כנסיות שאנו יושבים בהם, נחשבים לבית המקדש". כשם שבורא עולם שוכן בתוככי בית המקדש, כך אותה קדושה והארת פנים נמצאת ומתרכזת בבתי הכנסיות ובבתי המדרשות.
לתפילה בבית הכנסת, שהוא מקום המיוחד לתפילה, יש מעלה מיוחדת, המשפיעה גם על הבאים בשעריו. המדרש בילקוט שמעוני, משווה את ההליכה לבית הכנסת לטבילה בנחל.
ואומר – כשם שמי שטובל בנחל והוא טמא- נטהר ברגע, כך גם בבית הכנסת – "בן אדם נכנס לתוכו כשהוא מלא עוונות, ויוצא מלא במצוות".
מסיבה זו, כאשר יש לאדם הזדמנות להתפלל, רצוי לעשות זאת דווקא בבית הכנסת, גם אם באותה העת אין במקום "מניין", כלומר תפילה הנאמרת כאשר בציבור יש עשרה בני מצוות, שכן בבית הכנסת יש סגולה מיוחדת שתפילתו של היהודי תתקבל בשמיים.

הנהגות מיוחדות בבית הכנסת
בשל קדושתו הרבה של בית הכנסת, יש לנהוג בו בכובד ראש וביתר קדושה. בין היתר:
- חל איסור לאב לנשק את בניו ובנותיו בבית הכנסת, כיוון שהמקום הקדוש מיוחד אך ורק לאהבת הבורא
- חל איסור לדבר בשעת התפילה – היות והקב"ה נוכח בבית הכנסת, אין זה מן הראוי לדבר בו דיבורי סרק
- כבודו וקדושתו של בית הכנסת אוסרים את השימוש בו לצרכים פרטיים דוגמת אכילה, שתיה ושינה (יוצאת מן הכלל היא כמובן סעודה של מצוה)
- אין להיכנס לבית הכנסת לצורך אישי, אלא לדברי קדושה בלבד. אם נאלץ להיכנס לבית הכנסת במידה ויורד גשם זלעפות, ישתדל לבצע מצווה במקום, למשל ללמוד משהו בבית הכנסת או לומר פרק תהילים.
- קוד הלבוש בבית הכנסת מחייב תוספת קדושה וצניעות, כיאה למקום להשראת השכינה. יש להקפיד על לבוש נקי מכל לכלוך, שיהא צנוע ומכובד. כמו כן, נשים וגברים לא יכנסו לבית הכנסת בראש מגולה.
בזמן השהות בבית הכנסת אין מקום לקלות ראש או לדיבורים בטלים. על האדם היהודי להתמקד רק בתפילה ובתחינה, ולהיות נתון כל כולו לשיח הקדוש עם בורא עולם. בדיוק כמו שלא נעיז לדבר דברי סרק מול מלך בשר ודם, קל וחומר מול מלכו של עולם.