גם בזמננו נגזרה גזרת סגירה על בתי כנסת שנבנו לאחר יום קבוע אשר בדו מלבם ובעטיה של מלשינות המלשין אשר היפנה את תשומת-לב קנאי חשוכי שליטיהם לדברי אחד מפרשניהם האומר כי גזרה היא מהשמים שכל שבונים היהודים בית-כנסת בעיר נחרב באותה העיר מסגד מוסלמי. אבל כעבור זמן קצר גבר רצון המלך על קנאי חשוכיהם והתיר שוב את פתיחתם וכולם נפתחו שוב פרט לאחד שמתפלליו כבר התפזרו במקומות אחרים והוא נשאר סגור עד פקוד ה' את עמו ונעזבה ככל השאר.
בשל גזרת ההנמכה הנ"ל לא יכלו לבנות את בתי הכנסת גבוהים בהתאם להלכה ועם זאת לא יכלו להרשות לעצמם לבנות תקרתם ללא אויר מספיק. בפרט מקום קיבוץ עם רב, לכך נאלצים היו להנמיך את קרקע בית הכנסת, ורובם ככולם של בתי הכנסת הם בירידה עד עשר מדרגות ויותר. תחילה הנמיכו את חצר בית הכנסת כמה מדרגות מן הרחוב, ואף לבית הכנסת עצמו יורדים במדרגה אחת או שתיים. היו בתי כנסת שיש להם שתי חצרות אחת לפנים מן השניה, ברור כי העומק חלקו בין כל השטחים, כך שתקרת בית הכנסת נראית מתוכו גבוהה מאוד אף על פי שמבחוץ, כלומר מן הרחוב אינה נראית גבוהה במיוחד, אלא אף נמוכה מגגות כמה מבתי המגורים. אם כי בדרך כלל נהגו לעשות גובה תקרת בתי המגורים כחצי אורכו של הבית וכחצי רוחבו (ראה בבא בתרא צ"ח ב') הרי תקרת בית הכנסת עשו גבוה הרבה מיחס זה.
וכך הוא אופן בנייתם, כיון שאולם בית-הכנסת הוא ארוך ורחב ואין למצוא קורות ארוכות כדי כל רוחב, לכך בונים שורה של עמודים באמצע בית הכנסת, או שתי שורות בבתי הכנסת הגדולים, כי בדרך כלל עושים בית-הכנסת מרובע עד כמה שאפשר.
אמנם היו בתי כנסת ארוכים וצרים מחוסר אפשרות, אבל לרוב היו מרובעים, מכיוון שכך יש צורך בעמודים באמצע, בונים גשרים ע"ג כל שני עמודים ועליהם נתנו את התקרה. כל תקרות בית-הכנסת היו שטוחות, ולא היה אף בית כנסת שעשו לו כיפה, מפני שתקרות המסגדים של המוסלמים עשויים כיפות קמורות באמצע, לכך נמנעו היהודים מלהידמות להם בהתאם להלכה, וכמו שפסק הרמב"ם (הל' ע"ז פי"א ה"א) ולא יבנה מקומות כבנין היכלות של גויים.
בשלושת הכתלים המזרחי, הדרומי והמערבי, קרעו חלונות גבוהים, גדולים ורחבים, לאור ולאוויר, וגם בהתאם להלכה המחייבת לקרוע חלונות במקום תפילה (ראה ברכות לד: וברמב"ם, הל' תפילה פרק ה' הלכה ו'. אף על פי שאין דין זה חל אלא במקום תפילה עראי). ללא חשוב מסוים במנינם אלא לפי הצורך. בחרבות בית-הכנסת העתיק בעיר "בראש" הבנויה בראש הר "נקם", שבה ישבו היהודים עד לפני כחמש מאות שנים, היו רק שבעה חלונות, שלושה במזרח, שנים במערב, שנים בדרום, ולא יותר.
בבתי-הכנסת שנבנו ברובע היהודי, בו נתישבו יהודים לפני קרוב לשלוש מאות שנה, עשו נוסף לחלונות הגדולים גם שנים-עשר חורים קטנים, שלושה בכל כותל למעלה סמוך לתקרה, כנגד שנים-עשר שבטי-ישראל.
החלונות היו מסורגים מבחוץ ברשתות של עץ, להגנה מפני גנבים וננעלות מבפנים בדלתות מזוגגות. למעלה מן החלונות עשו שוב חלונות גבוהים ורחבים ואותם סגרו במין שיש "קמרייאת" המצוי שם בשפע רב ונמכר כמו לוחות ונראה כזכוכית עמומה. ויש שסוגרים בתבניות העשויות מיני זכוכיות צבעוניות מעשה אומן. בין כל שני החלונות התחתונים של שלושה קירות אלה הניחו בתוך עובי הקיר כעין תא אטום מבחוץ שעשו לו דלתות מבפנים וחלקוהו באצטבאות של עץ. תאים אלה שבעובי הקיר משמשים ארונות לכתבי הקודש של בית הכנסת, או גם של המתפללים. את קירות בית-הכנסת בנו בדרך כלל אבן מבחוץ ולבנים או טיט מבפנים, כך שהכותל הוא די רחב ואפשר להניח בעוביו תאים אלה. בקיר הצפוני של בית הכנסת בנו את ה"היכל" (ארון הקודש) שתפס כמעט את כל רוחב הקיר והיה גבוה מן הרצפה עד כשנים וחצי מטרים. את החלק התחתון כגובה מטר אחד עשו ארון או מחסן מאורך ושם היתה גניזת ספרי תורה שבלו עד שאינם ראויים עוד לקריאה, וכן ספרי קודש שבלו. את החלק העליון חלקו על ידי אצטבה באמצע לשני חלקים - החלק התחתון בשביל ספרי-התורה הגדולים והגבוהים והחלק העליון לספרי התורה הקטנים, כי בכל בית-כנסת היו ספרי תורה רבים, אשר מנו לפעמים כמה עשרות.
בחרבות בית-הכנסת העתיק בעיר "בראש" היה רק חלק אחד לכל אורך הקיר הצפוני, ולא היה בגבהו אפשרות להניח את ספרי התורה זה על זה. לפני ה"היכל" (ארון הקודש) לא עשו אצטבה או מעלה שעליה עולה המוציא את ספר התורה, אלא כל שטח בית-הכנסת ישר, והחזן המוציא את ספר התורה אין לו צורך לעלות על שום אצטבה או מעלה, כי ספרי התורה מונחים בגובה מטר בלבד שהוא בגבולות הישג ידו של אדם רגיל. משום כך לא היה גם דוכן גבוה שעליו יעמדו הכהנים לברך את העם, אלא עומדים על הרצפה בשטח שווה עם המתברכים, אלא שעומדים ליד הקיר סמוך ל"היכל".
את רצפת בית הכנסת לא רצפו באבנים אלא טחו אותו בסיד וגבס בלבד, כי לא היה צורך בכך כיוון שכולו מכוסה שטיחי צמר כדלהלן. שער בית הכנסת השתדלו שיהא בקיר הדרומי, עד כמה שהשטח מרשה, כדי שהנכנס ישתחווה בכניסתו כלפי ה"היכל" שהוא בצפון. אך היו בתי כנסת שחלוקת השטח לא איפשרה להם זאת.
כאמור לא היה שום בית כנסת שפתחו פתוח לרחוב אלא כולם היתה להם לפחות חצר אחת רחבה מוקפת חומה גבוהה ולה דלת ובריח. ויש שהיו להם גם שתי חצרות זו לפנים מזו. והוצרכו לכך כדי למנוע מן המתפללים הטרדת עוברים ושבים ושאון הולכי הרחוב. ובהתאם לדברי חז"ל, כדי שלא יצטרכו להיכנס לבית הכנסת עצמו שיעור שני פתחים, כמבואר בברכות (בבלי דף ח; ובירושלמי פ"ה הל"א), וכשיטת הראבי"ה הובא בהגהות מיימוניות לרמב"ם הלכות תפילה (פ"ח הל' ב). את קרקע חצר בית הכנסת רצפו באבנים שחורות או לבנות. בקצה חצר בית הכנסת המרוחק ביותר מבית הכנסת בנו בית שימוש קטן לשעת הדחק של אחד המתפללים. כן חפרו בחצר בית הכנסת באר מים חיים (בכל בית פרטי היתה באר כזו) ולידה העמידו קערה כמין שוקת עשויה מאבן אחת כעין נברכת קטנה המוגבהת מעט מעל הארץ, ובה היו תמיד מים לרחיצת ידיים. בדרך כלל נזקקים למים אלה הבאים לתפילת מנחה או מי שנצרך לנקביו, ואילו לתפילת שחרית הרי כל אדם רוחץ בביתו ובא לבית הכנסת. (ואם כי הרמב"ם מצריך לתפילה נטילה כהלכתה מתוך כלי וכוח נותן, הרי בזה לא נהגו בתימן כמותו). וכל הנצרך לרחוץ טובל ידיו בנברכת זו או לוקח מים בידו ורוחץ לחוץ. ושמש בית הכנסת משתדל להחליף מים אלו מדי פעם בפעם, כך שהיו נקיים תמיד. על נברכת זו היה מכסה של אבן שטוחה שבה מכסים אותה בלילה ובמשך היום כשאין הציבור בבית הכנסת.
באחד מקירות חצר בית הכנסת בונים שורה של תאים קטנים כארבעים או חמישים המתחלקים למתפללי בית הכנסת וכל אחד עושה לתאו מנעול שמפתחותיו תמיד בכיסו, ובבוא המתפלל לבית הכנסת הוא ובניו חולצים מנעליהם בחצר ונותנים אותן בתא ונועלים. שכן בתימן נוהגים מנהג ארץ-ישראל לפנים שאין נכנסים במנעל וסנדל לבית-הכנסת.
וכך ספרו בירושלמי:
(בבא מציעא פ"ב הל"ח) יהודה ב"ר עאל לכנישתא שבק סנדלי ואזלין, אמר אלו לא אזלית לכנישתא לא אזלון סנדליי. תירגומו: יהודה בנו של רבי נכנס לבית הכנסת והניח סנדליו בחוץ ונגנבו, אמר אלו לא הלכתי לבית הכנסת לא היו אובדים סנדלי. ע"כ.
וכדי להימנע מחרטה כזו על שהלכו לבית הכנסת התקינו שיהא כל אחד ואחד נועל את מנעליו בתא המיוחד לו ולבניו, כי גם שם היו מצויים כאותם שהיו מצויים בארץ-ישראל, שציערו את ר' יהודה בנו של רבינו הקדוש.
כן היה בתוך חצר בית הכנסת חדר קטן או שנים הנקראים "טביק" יחיד "טבקה", ששם מצניעים כלי השמן. ובזמן האחרון נוספו כלי הנפט שמהם מדליקין בבית הכנסת. כן מניחים שם סולם של בית הכנסת, שעליו עולה השמש להטיב את הנרות, וכל שאר צרכי השמש כגון מטאטאים, סחבות, נרות ומנורות וכיוצא בזה.
על שערי ה"היכל" תולים פרוכת העשויה בדרך כלל מבד קטיפה עם בטנה. רגילים היו לעשות פרוכת זו בשני צבעים, את כל האמצע בצבע כהה, ועושים לה מסגרת, ומסביב ברוחב כשלושים ס"מ מצבע בהיר מעט שאם עושים את האמצע כחול או ירוק כהה עושים את המסגרת מצבע חום כהה, ואילו הפינות עושים שוב מאותו הצבע של האמצע, גם את הבטנה עשו מבד כהה. לא עשו בפרוכת שום ציורים לא של בעלי-חיים ואף לא דוממים, ובודאי גם לא על ארון הקודש.
בבית הכנסת של סבי זצ"ל היה חרוט על גבי אבן שיש הפסוק
"זכרו תורת משה עבדי אשר צויתי אותו בחורב על כל ישראל חקים ומשפטים" (מלאכי ג-כב).
כן ברוב רובן של בתי הכנסת בתימן ובעריה וכפריה לא היה קיים הלוח "שויתי". גם בעיר צנעא לא היה בבתי הכנסת העתיקים כגון בית הכנסת "אלשיך", שהוא העתיק ביותר ברובע היהודי שם, לוח כזה, כי לא נהגו אבותינו בכך, וכמו שתירגם רס"ג את הפסוק בתהלים טז-ח "שויתי ה' לנגדי תמיד": וקד ג'עלת אללה חדאי דאימא באלאעתקאד ואד הו כדאך ען ימיני פלא אמיל" תרגומו: וכבר שויתי ה' למולי תמיד באמונה וכיון שהוא מימיני הרי לא אמוט.
ליד ה"היכל" סמוך לקיר עומדת תמיד התיבה העשויה מארבעה עמודים של עץ מהוקצע משופר ומיופה, ועליה לוח עץ נאה המכוסה תמיד בכעין כובע העשוי מבדים יקרים כהים או מקטיפה כהה, השטח למעלה עשוי באותו העקרון של הפרוכת, היינו אמצע בצבע מסויים ומסגרת בצבע אחר והפינות שוב מצבע האמצע, ומסביב משתלשל כלפי מטה כעין זר-מסגרת שאף הוא עשוי משני צבעים, גון אחד עשוי מרובעים הנפגשים בזויותיהם, ואילו הגון השני עשוי משולשים שנוצרו בין הריבועים. למטה תופרים אריג אשר חוטים של זהב משתלשלים ממנו כעין "פאנץ". והמתפלל ניגש תמיד ליד התיבה העומדת על יד הקיר ומתפלל, ורק בעת קריאת התורה מזיזים את התיבה לאמצע בית הכנסת עד סיום הקריאה ומחזירים אותה למקומה. עוד תיבה אחרת היתה שם דומה לראשונה, אלא שהיא קטנה ונמוכה ממנה, אשר בעת קריאת התורה בשבתות ובחגים מניח המתרגם עליה את הספר ומתרגם. שכן יהודי תימן עד היום מחזיקים בתקנת עזרא שתיקן להיות מתרגם עומד על יד הקורא ומתרגם פסוק פסוק בארמית, כמבואר במגילה (דף י.), וכן פסק הרמב"ם בהלכות תפילה (פי"ב ה"י). וכיוון שלפי המנהג המתרגם הוא ילד בגיל 13-7 יש צורך בתיבה קטנה.
לימוד תורה בבית כנסת של תימנים בירושלים
על כל רצפת בית הכנסת פורשים שטיחי צמר. השטיחים המשובחים הם אלה השחורים ללא תערובת של צמר לבן, כי צמר האילים הלבן הוא זול יותר ואינו כבוד לבית הכנסת. שטיחים אלה נקנים מרכוש בית הכנסת. מעתה כל מתפלל מביא מביתו שני מזרונים קטנים, כל אחד כששים ס"מ מרובעים, ומציע תחתיו את האחד במקום שנקבע לישיבתו ליד אחד מקירות בית הכנסת, כי כולם יושבים על הארץ מסביב לכתלי בית הכנסת. ואת המזרון השני תולה בשתי לולאות במסמרים הקבועים בקיר מאחורי גבו. ורשות לכל אדם להביא שני מזרונים אלה בכל צבע בד הרצוי לו, פרחוני או משובץ לפי טעמו. כך נראה סביב כתלי בית-הכנסת שלל צבעים. והדבר נראה נאה כי כבר הורגלו לכך. רבים מביאים גם כרית קטנה ומניחים אותה אחרי גבם להשעין את הגב עליה. וכך יושבים גם מסביב לעמודים אשר באמצע בית-הכנסת העשויים לתמוך את התקרה. נוסף על כך מביא כל אחד מביתו ספסל קטן הנקרא "מרפע", אשר ארכו כששים ס"מ וגבהו כשלושים ס"מ, שעליו מניח את הספרים בשעת התפילה, הקריאה והלימוד. כל אדם בניו הצעירים יושבים לפניו מאחורי ספסל זה ומביטים בספר הפתוח לפני האב מעברו השני. וכך למדו לקרוא בספר מכל עבריו. בנים בוגרים, ובפרט נשואים, כבר תופשים להם מקום על יד הכותל במידה ונתפנה מקום. כי אין זה מן הנימוס שקטנים ישבו ליד הכותל המיועד רק לגדולים. יש העושים ספסל זה כעין ארון סגור בדלת ומפתחות ושם הוא מניח סידור תפילה והספרים היומיומיים, וכן גם את התפילין. ולכן נזהרים מאוד לא לשבת ולא לדרוך על ספסלים כאלה, כי בודאי תשמישי קדושה מונחים בתוכם. ואלו טלית אין צורך להניחה שם כי הכל, גדולים וקטנים, הולכים ברחוב עם טלית גדול, אם כי לא עטופים בו אלא שהוא משולשל על כתפם. וגנאי הוא ליהודי להתהלך ברחוב ללא טלית מצוייצת כהלכתה.