בתחילה, קניון לא מצאה דבר, אולם כשהגיעה למרחק 48 מטר מקו החומה של מקאליסטר – גבול הגזרה שקבעה לחיפושיה – בצבץ לפתע מתוך האדמה קטע חומה שכדוגמתו טרם ראתה. אחוזה התרגשות המשיכה קניון לחשוף את הקטע לאורך כ-12 מטר.
המראה שנגלה לנגד עיניה היה מדהים – חומה אדירה בעובי כ-2.5 מטר בנויה אבני גוויל גדולות הנשענות על סלע האם ומשולבת במה שנראה כבסיס מגדל. היא הבינה מיד כי אלו חומות העיר מימי קדם. כל שנותר לה לקבוע הוא מתי ובידי מי הן נבנו.
בבדיקת החרסים שבבסיס החומה גילתה הארכאולוגית הבריטית כי החומה לא נבנתה בידי דוד ושלמה וגם לא בידי היבוסים אלא שהיא קדומה הרבה יותר. נדבכיה הונחו כבר במאה ה-18 לפסה"נ (תקופת הברונזה התיכונה 2 [MB II]), ויסודותיה עומדים כמעט 4,000 שנה מימי אברהם ומלכיצדק מלך שלם. ההתרגשות הייתה כפולה, שכן ייתכן שמול חומות אלו ממש ניצב דוד כעבור כ-800 שנה, בשעה שהחל במערכה על כיבוש ירושלים מידי היבוסים!
בסמוך לראש המדרון, המשתפל בתלילות מזרחה, חשפה קניון מערכת טרסות רבת ממדים. הטרסות, העשויות קירות אבן, נבנו לאורך מדרון הגבעה, ומחיצות אבן דקות חצו אותן לאורך ולרוחב. המחיצות יצרו מעין ארגזי אבן מלבניים, שאותם מילאו הקדמונים באבנים ואטמו בעפר.
התוצאה הייתה מערכת מדרגות ענקית, שנחשפה לאורך כ-20 מטר במורד המדרון. לדעת קניון היו הטרסות, שתוארכו למאות 13-12 לפסה"נ (ימי שלטון היבוסים או מעט לפני כן), חלק מתכנון עירוני משוכלל שהרחיב את שטח הבנייה על גבי המדרון התלול, ואפשר בנייה ברמה גבוהה תוך ניצול טוב יותר של השטח המצומצם בתוך חומות העיר.
הארכאולוג הישראלי יגאל שילה המשיך בחפירותיו לחשוף את מבנה הטרסות בחלקו העליון וגם הוא התרשם מממדיו: "הן יוצרות מסד איתן המתנשא בשתי הטרסות העיקריות לגובה של למעלה מ-10 מטר ויוצרות משטח מלאכותי מרשים".
שילה העריך את השטח שנוסף לראש הגבעה באמצעות המסד בכ-200 מ"ר! אבל שילה פירש אחרת מקניון את תפקיד המערכת, ולדעתו אין כאן בנייה אזרחית. "המסד המסיבי", הוא כותב, "אפשר את הרחבת שטח הבנייה למבנים החשובים בחלק זה, החלק הגבוה ביותר של העיר הכנענית".
אם כן, מה היה המבנה המונומנטלי שחלש מעמדתו הגבוהה על האזור כולו, וממדיו היו עצומים כל כך עד שראש הגבעה היה צר מלהכיל אותו? את התשובה אין זה קשה לנחש, וכך מסכם שילה: "לאור מכלול הנתונים הזה המתבסס על הטופוגרפיה המקומית והשרידים הארכיאולוגיים המתלווים אליה, אנו מניחים שהמסד שנחשף בשטח זה היה חלק מהאקרופוליס של ירושלים בתקופת הברונזה המאוחרת".
פירוש הדבר הוא שבמקום עמדה המצודה היבוסית, מצודת ציון, ששבטי ישראל לא יכלו לה. לבניית המצודה במקום זה היה יתרון נוסף. זהו קצה גבולה הצפוני של יבוס, אותו צד החסר הגנה טופוגרפית טבעית. מצודה מסיבית, שהוקמה במתניים הצרות של הגבעה, היוותה בוודאי מכשול משמעותי מפני תוקף שהגיע מכיוון זה.
מבנה נוסף, המתקשר אף הוא למצודה, הוא "המבנה המדורג". הכוונה למבנה משופע הבנוי אבנים גדולות, ש-60 נדבכיו נשענים זה על גבי זה בצורת מדרגות. המבנה האדיר הזה נשען ברובו על מסד ארגזי האבן שהוזכרו קודם. גובה חלקו החשוף כיום הוא 18 מטר, ואולם במקור הוא התנשא לגובה של 30 מטר לפחות, כגובה בניין בן 10 קומות!
מה הקשר בין המבנה המדורג לבין הטרסות שחשפה קניון, ומתי ובידי מי הוא נבנה? שאלות אלו העסיקו ועדיין מעסיקות את החוקרים. תיארוך המבנה המדורג עבר תהפוכות כמספר הארכיאולוגים שעסקו בו. החזות המרשימה שכנעה את מגלהו הראשון, האירי מקאליסטר, כי המבנה המדורג אינו אלא סוללה יבוסית, שעליה העמידו היבוסים את העיוורים והפיסחים (שמואל ב', ה', ו').
המגדל הצמוד למבנה המדורג מצד דרום זכה לתואר "מגדל דוד". קניון התרשמה שהמגדל, וכן המבנה המדורג הסמוך לו, נשענו על שרידי מבנים שהחריבו הבבלים בשנת 586 לפסה"נ. מכאן היא הסיקה שהמבנה המדורג מאוחר לימי הבית הראשון, ובוודאי ליבוסים, בשנים רבות. לדעתה הוא חלק מביצור השייך לתקופה ההלניסיטית, שנבנה כדי לחזק את חומת נחמיה, שאת שרידיה זיהתה בראש הגבעה. כך נדד המבנה המדורג מהמאה ה-13 לפסה"נ למאה ה-2 לפסה"נ, מרחק זמן של כאלף ומאה שנה.
כשיגאל שילה הגיע לשטח, הוא העמיק את החפירה וגילה שקניון טעתה. המבנה המדורג רחב יותר, גבוה יותר ובעיקר עמוק יותר מכפי שחשבו. הוא איננו ניצב מעל המבנים מסוף ימי הבית הראשון, כפי שחשבה קניון, אלא גולש מתחתיהם ויורד במדרון (גם היום אין יודעים עד היכן) ועל כן הוא קדום להם.
שילה תיארך את המבנה למאה ה-10 לפסה"נ, לימיו של דוד, ודבריו באשר למהותו הציתו את הדמיון: "אנו מניחים שמבנה האבן המדורג שימש קיר תמך עצום, שבא לתמוך את המדרון במקום זה, לאטום את השרידים הקודמים ולשמש בסיס למבנה העל של מצודת עיר דוד, שנבנה שם מעל שרידי המצודה היבוסית". הוא סבר שבדומה לערים אחרות מהתקופה, גם לירושלים בימי דוד היה אקרופוליס – עיר עליונה מבוצרת – בראש הגבעה. המצודה, שניתן לכנותה "מצודת דוד" נתמכה, לדעת שילה, על ידי המבנה המדורג.
הארכיאולוגים שילה וקניון הלכו כבר לעולמם, אך תלמידיהם הממשיכים עד היום בניתוח ממצאיהם הגיעו למסקנות שונות.
בדיקת שברי כלי החרס שנתגלו במסד ארגזי האבן ומתחת למבנה המדורג הביאו את הארכיאולוגים ג'יין קהיל ודוד טרלר, המעבדים יחד עם ארכיאולוגיים אחרים את ממצאי משלחת שילה, למסקנה שהמסד ומבנה האבן המדורג נבנו מקשה אחת במאות ה-13-12 לפסה"נ. פירוש הדבר הוא שהמבנה המדורג, כמו גם ארגזי האבן, הם פרי מלאכתם של היבוסים ולא של דוד, ומטרתם הייתה לתמוך את המצודה. על פי דעת חוקרים אלה, ודומה כי זו הדעה המקובלת היום, לפנינו שריד ממצודת ציון היבוסית שלכד דוד וקרא אותה על שמו: "וילכוד דוד את מצודת ציון היא עיר דוד […] וישב דוד במצודה ויקרא לה עיר דוד" (שמ"ב ב ה).
אם היה נדמה לנו שפיענוח המבנה המדורג, תיארוכו והבנת תִפקודו הגיעו לסיומם, הרי שטעות בידינו. להגנת שילה באה החוקרת מרגריט שטיינר שטענה, בין השאר, כי העובדה שהמבנה המדורג איננו נתמך לכל אורכו במסד ארגזי האבן, מוכיחה שהשניים לא נבנו מקשה אחת. לדעתה יש לאחר את המבנה המדורג, כפי שטען שילה, למאה ה-10 לפסה"נ, חזרה לימי דוד.
האם המבנה המדורג נבנה בידי דוד על מנת לתמוך את המצודה הישראלית כדעת שילה או שהוא מפעל יבוסי כדעת תלמידיו? לעת עתה אין כל דרך להכריע בסוגיה. הארכיאולוגים "הלכו בתל, רדפו כדים", אך בשלב זה עדיין "מעלים חרס בידם".