ברחוב שרוקה, בקצה המגרש לצד דרום, עומד בנין אבנים מפואר, רחב מידות, שמראה מבצרי לו, נמשך קמעה בכיוון אלכסוני, גגו המקומר מוסתר מתחת לעליית גג חטובת אבן, שחזיתה עשויה שקעים שקעים. כל המבנה העליון עושה רושם של וילון-קפלים, הנאחז בארבע זיזים-עמודונים המתנשאים מעל ארבע פינות הבית. עלית הגג הרנסנסית יושבת כעטרה על גבי החומה הבסיסית, הבנויה בסגנון רומאי, והבנין כולו – אם כי לא נבנה בבת אחת – מהווה חטיבה הרמונית אחת, שדרוג חומותיו מתקשר יפה על ידי זיז התאמה החוגר את כל הבנין סביב. דרך החלונות רואים את עובי החומות הבצורות, הנשענות מחוץ על סמוכות אדירות. זהו בית הכנסת העתיק ביותר בפולין, גאוותם של יהודי קרקוב במשך שש מאות שנים.
על דברי ימי הבית הזה נחלקו דעות ההסטוריונים והאדריכלים. יש הסוברים שהבית נבנה מלכתחילה במצוות המלך קז'ימייז' לשמש אקדמיה למדעים, ואחרי גירוש היהודים מקרקוב נמסר ליהודים כפיצוי על בתי הכנסת שנעזבו על ידם. אולם אין הוכחה היסטורית שתואמת הנחה זו, ולהיפך. היהודים גורשו מקרקוב בסוף המאה החמש עשה ואילו בית כנסת זה נזכר כבר במחצית השניה של המאה הארבע-עשרה. מלבד זאת, הבנין עצמו, סגנונו, סידורו ההנדסי ועקרונות בנייתו, מעדים על תכנון לשמש בית כנסת.
הבית נבנה במתכונת מדוייקת של בית הכנסת העתיק בפראג. אולם התפילה מאורך, שני עמודים תמירים לאורך הבית עליהם נשענת תקרה מקומרת בסגנון גוטי, מחולקת לששה משטחים. בית כנסת זה הוא יחידי בצורתו בפולין, ורק חמישה בתי כנסת דומים היו באירופה, כזה הגבוה והגדול בשטח מכולם.
האדריכל אנטון פלורינטינוס בנה את הבנין מלכתחילה, בצורה רומאית, ורק אחרי זמן נבנתה התקרה המקומרת בסגנון גוט. אחרי הדלקיה הגדולה בשנת 1557 הוקם הבית מחדש על ידי האדריכל הפלורנטיני מטאוס גוצצי, ונבנתה עלית הגג ברוח הרנסנס. מספר פעמים נשרף בית הכנסת, והוא שוקם על ידי הקהילה, שהכניסה בו שינויים ותוספות לפי הצורך. מן התקופה העתיקה ביותר נשארו אולם התפילה הראשי, הפרוזדור החיצון (פאליש) ועזרת נשים ביציע מצד מערב עם חלון מיוחד בשביל "המקריאה" (פארזאגערן) – היא האשה הבקיאה בתפילות, שהיתה מקריאה אותן אחרי החזן, לנשים שלא ידעו בעצמן לקרוא בספר. יתר חלקי הבנין הם מן התקופות המאוחרות יותר.
מן הרחוב יורדים בכמה מדרגות ונכנסים לפרוזדור המקורה במקמרון שטוח. לצדי החדר עמדו ספסלים כבדים ארוכים, ספסלים אשר שמשו פעם מקום ישיבה למחכים בתור לבתי הדין, כי בחצר בית הכנסת ישבו למשפט דייני קרקוב. בפינה נראה באר מעוגלת עתיקה, ממנה שאבו "מים חיים" לרחיצת ידים, במקום הכיור המקובל בבתי כנסת אחרים. מהפרוזדור יורדים שוב בשלוש מדרגות, אל אולם התפילה הראשי שאורכי 17.97 מטר ורוחבו 12.02 מטר, ובסך הכל שטח האולם 217 מ"ר. מעל לכניסה, על משקוף האבן העשוי כקשת, התנוססה כתובת "זה השער לה' צדיקים יבואו בו".
על סיבת ההעמקה של אולם התפילה ביחס לבית החיצון נחלקו הדעות. יש המניחים כי ההעמקה תוכננה על מנת להגיע לגובה מסויים בתוך בית הכנסת, בגלל החוק המגביל את הגובה מצידו החיצוני (אסור היה שבית הכנסת יהיה גבוה מהכנסיה). אחרים סבורים כי ההעמקה רומזת על האמור בפסוק "ממעמקים קראתיך ה'".
שני עמודים תמירים, הנושאים את התיקרה, עומדים על בסיס משולש, וניצבים לאורך האולם בין הכניסה לארון הקודש. בגובהו של כל עמוד זר כפול, ממנו צומחות ועולות צלעות דקות, המתפשטות על פני התקרה המקומרת, מחלקות אותה לששה שדות נפרדים ויורדות ונשענות על גבי בליטות בקירות הבית. בכניסה, מצד שמאל, בשקע קיר, היתה קבועה קופת צדקה מחוטבת בסגנון הברוק, בצורת ארון אבן, וסגורה על ברזל ומנעול חיצוני. מלמעלה היו חרותות האותיות "ב' ב' י' א'" שהן ראשי תיבות "מתן בסתר יכפה אף", ולמטה בעיגול הסגלגל בלטו המילים "כי בצדק'ה י'כ'ו'ן כ'ס'א" המורה על שנת רס"ז (1407). קופסת הצדקה יועדה ל"מתן בסתר", ונבנתה בצידו של הכותל, כדי שאפשר יהיה לשלשל לתוכה מטבעות גם מתוך בית הכנסת וגם מצד חלל הפתח. בפרוזדור משמאל תלויה היתה קופסת צדקה שניה ועליה כתובת "מתן בסתר יכפה אף" וסימן לשנת עשייתה "קול רינה וישועה".
באמצע האולם, בין שני העמודים, התרוממה הבימה – מלאכת מחשבת של ברזל מחושל בזגנון הרנסנס, שהלכה וצרה כלפי מעלה, והסתיימה בקישוט כעין פרח. מסופר כי חרשי הברזל היהודיים בקרקוב, אשר יצרו את הרשת האומנותית הזאת במאה השש-עשרה, חשלו אותה ממאה וחמישים חלקים, כמספר פרקי התהילים ששרו בעת העבודה.
צמוד לכותל המזרחי היה ארון קודש נהדר, בסגנון הרנסנס המאוחר, ומעליו כרכוב אבן שבמרכזו בלט כתר מפוסל מעשה ידי אומן, ומתחתיו באותיות בולטות "בי מלכים ימלוכו". ליד ארון הקודש היתה תיבת אבן ל"נר תמיד" כמנהג קרקוב לתת אותו במזרח. הקירות חלקים ללא קישוט וללא ציור. נותרו אמנם סימנים קלים של פטורי ציצים עתיקים, שרובם נעלמו בעת הדליקות והתיקונים המרובים.