ראשית הסיפור בחורף של שנת 1967, בפנייתו של איש "קול ישראל" גיל אלדמע אל המשוררת והמלחינה נעמי שמר לכתוב שיר על העיר ירושלים לבקשת ראש העיר דאז טדי קולק. שמר התחבטה והתקשתה בכתיבת השיר. לבסוף, נזכרה באגדה התלמודית שלמדה בילדותה המספרת על רבי עקיבא שהעניק תכשיט במתנה לרעייתו רחל – "ירושלים של זהב". אגדה זו שימשה השראה לכתיבת השיר הרווי כולו בציטוטים מן המקורות היהודיים.
בפסטיבל הזמר של אותה השנה נכלל השיר כשיר חיצוני לתחרות. לביצוע השיר נבחרה שולי נתן, חיילת צעירה שלוותה עצמה בגיטרה. השיר כבש את הלבבות ובסיום הערב הוזמנה הזמרת לבצע את השיר בשנית כשהקהל כולו מצטרף בשירה.
שלושה שבועות לאחר מכן, פרצה מלחמת ששת הימים. בזמן המלחמה שהתה שמר יחד עם חברי להקת הנח"ל סמוך לאל-עריש. בין קולות הירי והקרב בקעו מטרנזיסטור מזדמן קולות של תקיעות השופר וקולם של הלוחמים שפגשו לראשונה בכותל. שמר הנרגשת הוציאה את פנקסה האישי והוסיפה בית חדש לשיר שכתבה.
התגובות לא אחרו לבוא. שובל של מכתבים מקשת רחבה של פונים הציף את שמר; "יהודי מסורתי", "ירושלמי בן 66", לוחם ברמת הגולן וילדה קטנה שמחבבת את השיר. כך הפך השיר "ירושלים של זהב" לשיר שנודע לו מקום מיוחד בתרבות הישראלית.
השיר "ירושלים של זהב" זכה לביצועים שונים ואף לנוסח מחודש. בתום המלחמה, במהלך מסיבה פרטית של לוחמי הצנחנים, עלה צנחן צעיר בשם מאיר אריאל, והציע מילים חדשות לשיר הנודע. לא "ירושלים של זהב" כי אם "ירושלים של ברזל". במילים אלו, בחר אריאל להציג את הצד הקשה בדמות המחיר שהמלחמה גבתה, את האובדן והשכול. שמר מצדה כעסה על השינוי ורק כעבור זמן יושבו ההדורים בין השניים.
באוקטובר של שנת 1999 פורסמה בעיתון "הארץ" ידיעה קטנה שכותרתה "יגאל תומרקין: "ירושלים של זהב" מבוסס על לחן באסקי". בידיעה דווח על אלבום חדש בשם "אורוטזן" שהוציא הזמר פאקו איבנייס ובו שיר העם הבאסקי "פלו חוספה" (Pello Joxepe). לטענת תומרקין, נעמי שמר שמעה את השיר מהזמר פאקו איבנייס, עת שהתה בפריז בראשית שנות השישים. לפי תומרקין, השיר מפי איבנייס שימש כבסיס מוזיקלי לשיר "ירושלים של זהב". בתגובה לידיעה טענה שמר "כבר שמעתי את הסיפור הזה. כשכתבתי את השיר לא ידעתי על קיומו של השיר הבאסקי. במשך שנים הגיעו אלי שמועות על השיר ההוא, אבל מעולם לא פגשתי את פאקו איבנייס בפריז והוא לא השמיע את הלחן באוזני. יתכן שהשיר דומה". מספר חודשים לאחר מכן, פורסמה בעיתון "ידיעות אחרונות" כתבה מאת אבנר הופשטיין שכותרתה "ירושלים של מי?". בכתבה נטען כי מקורו של לחן השיר "ירושלים של זהב" בשיר-עם באסקי עתיק.
ארבע שנים לאחר מכן, ב-12 ליוני 2004, שבועיים לפני מותה, כתבה שמר מכתב לחברה הטוב גיל אלדמע. נוסח המכתב כפי שמופיע בארכיון נעמי שמר הוא:
"גיל יקירי,אתה האיש היחידי בעולם – נוסף למשפחתי – שצריך לדעת את האמת על "ירושלים של זהב". והנה האמת:באמצע שנות השישים, נחמה הנדל נהגה לבקר אותי בחופשות המולדת שלה. היינו מבלות שעות אחדות יחד, צוחקות, שרות, מבשלות ואוכלות (עשיתי לה קוסקוס ומרק). שום דבר לא נרשם ולא הוקלט (נדמה לי שטרם היה לי אז טייפרקורדר).כנראה שבאחת הפגישות האלה, נחמה שרה לי את שיר הערש הבאסקי הידוע, והוא נכנס לי באוזן אחת ויצא מהשנייה…בחורף 67", כשהתלבטתי בכתיבת "ירושלים של זהב" – כנראה שהשיר ההוא זחל אלי בבלי דעת. גם לא ידעתי שיד נעלמה הכתיבה לי שינויים במקור: המעבר למז"ור בתיבה הרביעית, הסקוונצה השלישית במילים "הלא לכל שירייך", והסיום. יוצא שמישהו כאילו הגן עלי וסיפק לי את שמונה התיבות שלי שמקנות לי את הזכויות לגרסה משלי על שיר עם. אבל כל זה נעשה, כאמור, בבלי דעת.רק שנה או שנתיים אחרי המלחמה, שמעתי מחברים שאליהו הכהן בהרצאותיו, על שיר העם הבאסקי, כמקור השפעה ל"ירושלים של זהב". נורא כעסתי, ואפילו מסרתי לאליהו הכהן שיפסיק עם השטויות האלה.ואז נזכרתי בבעתה, שאכן נחמה שרה לי בשעתו משהו כזה. מרוב פאניקה, הצלחתי להיזכר רק בתיבה הראשונה, ועברו עוד עשרים שנה, עד שאבנר הופשטיין מ"ידיעות אחרונות" הביא לי את המקור.אני חושבת את כל העניין לתאונת עבודה מצטערת, עד כדי כך מצטערת, שאולי בגלל זה חליתי. הנחמה היחידי בשבילי היא שאני מספרת לעצמי שאולי זאת מנגינה של האנוסים, ושבסך הכול החזרתי עטרה ליושנה.עכשיו אתה גיל יודע את האמת, ואני מרשה לך לפרסם אותה ברבים.באהבהנעמי שמר".
בעקבות מכתבה של שמר אל אלדמע פורסמה שנה לאחר מכן כתבה בעיתון "ידיעות אחרונות" שכותרתה "הזהב הגנוב".
השיר "ירושלים של זהב" קנה את מעמדו הודות לשילוב הייחודי שבין המלל והלחן, העיתוי שבו הופיע לראשונה הוסיף גם הוא. בקיאים ביצירתה של שמר עשויים לזהות מוטיבים מוזיקליים המופיעים בשיר "ירושלים של זהב" גם בשירים שכתבה שמר שנים קודם לכן. אמנים רבים מושפעים מיצירות שונות במודע ושלא במודע. נראה שבקצה מסלול "גלגולו של ניגון", ניצב השיר "ירושלים של זהב" כשיר-עם, כזה המושר ועוד יושר דורות רבים, ובנוסח אחד ממכתבי התגובה הרבים שקבלה שמר זמן קצר לאחר כתיבתו: "השיר שאך זה נוצר, כבר מוכר ויקר, כשיר-עם שהושר מדורות – ועוד רבות יושר".
_no nameheight 4662camerasoftware LIBFORMAT (c) Pierreoriginaldate 12/29/2013 2:47:00 PMwidth 3216cameramodel Microbox GmbH – Bookcameramake Canonfocallength 13.761height 3131fnumber 8exposuretime 2orientation 1flash 16originaldate 11/15/2012 2:38:00 AMwidth 3118cameramodel Canon PowerShot G10height 2668camerasoftware LIBFORMAT (c) Pierreoriginaldate 12/26/2013 11:12:00 PMwidth 1340cameramodel Microbox GmbH – Bookheight 3641camerasoftware LIBFORMAT (c) Pierreoriginaldate 1/1/0001 6:00:00 AMwidth 2601cameramodel Microbox GmbH – Book