ברחוב יוזפה מס' 38, צפוף בין בניני מגורים אחרים שבפינת הרחובות יוזפה ויעקובה, עומד בית הכנסת השלישי בעתיקותו בקז'ימייז. צורתו צורת מלבן, כשלכיוון הרחוב צידו הצר, המוגבה על ידי 4 תמוכות, וביניהם, בגובה הקומה השלישית – שלושת החלונות המקושתים של אולם התפילה המרכזי. הבנין מכוסה גג דו-שיפועי גבוה, ששיפוליו בולטים מעבר לקירות.

בית הכנסת נבנה, ככל הנראה, בשנת 1563 סמוך לביתו של היהודי העשיר פליקס שעמד בפינת רחובות יוזפה ויעקובה. באותה תקופה ציינו רחובות אלה את הגבול הדרומי והמערבי של העיר היהודית, ובהצטלבות רחובות אלה עמד שער העיר. בית הכנסת הגבוה זכה לשם זה בשל העובדה שאולם התפילה המרכזי שלו היה גבוה מעל פני הרחוב, מבנה מיוחד זה היה בשל שיקולי בטיחות ואולי כדי להרחיק את השאון מהמקום שהיה סמוך לשער העיר הומה אנשים. מיקומו המיוחד של בית הכנסת, בין בתים החוסמים אותו, צמצם את אפשרויות הרחבתו לצדדים, ומבני הלוואי התווספו מאחוריו, צמוד לקיר הצפוני.

הבנין, במצבו הנוכחי, שונה מהמבנה אשר שימש את יהודי קז'ימייז'. על פי התאורים והתמונות שהשתמרו, היתה הכניסה לבית הכנסת בניצב לרחוב, דרך הפלוש שתפס את חלקה המערבי הצר של קומת הקרקע. במחצית השניה של המאה ה-17 נבנתה בקומה השניה עזרת נשים בצורת האות הלטינית L. הרחבת בית הכנסת התאפשרה אחרי מותו של היהודי פליקס אשר עבר לבעלותה של חברת "נר תמיד" של בית הכנסת הגבוה. הבנין המקורי נהרס בשנות השמונים של המאה ה-19 ובמקומו נבנה בית חדש בין שתי קומות. שני עשורים אחר כך נבנה בקומה הראשונה של הבנין עזרת נשים ואולם תפילה נוסף, ואלה חוברו לבית הכנסת הגבוה על ידי פתחים שנפרצו בקיר המערבי. במאה ה-17 קושטו קירות בית הכנסת בציורי קיר צבעוניים, ובמאה ה-19 הוחלפו הם בציורים חדשים, אליהם התווספו ציורים נוספים בתקופה שבין שתי מלחמות העולם.

בתקופת הכיבוש הגרמני נהרס המקום, וכל הספרים ותשמישי הקדושה יקרי הערך נשדדו. לאחר המלחמה שופץ הבנין ובמשך שנים שימש את החברה לשימור עתיקות. היום משמשת קומת הקרקע כחנות ספרים, ובית הכנסת הוא מוזיאון.