בספר מלכים מופיע תיאור מדויק של בניין בית המקדש; מידות הבית, קורות הארזים והברושים שציפו את הקירות, הקישוטים והפיתוחים המוזהבים ושני הכרובים שעמדו כנף אל כנף מעל ארון הברית. בתיאור תהליך הבנייה מופיע פסוק אחד, מפתיע אולי: "וְהַבַּיִת, בְּהִבָּנֹתוֹ–אֶבֶן-שְׁלֵמָה מַסָּע, נִבְנָה; וּמַקָּבוֹת וְהַגַּרְזֶן כָּל-כְּלִי בַרְזֶל, לֹא-נִשְׁמַע בַּבַּיִת בְּהִבָּנֹתוֹ" (מלכים א', ו', ז').
תיאור זה מעורר תמיהה – כיצד נאמר שלא נעשה שימוש בפטישים, גרזנים וכלי ברזל לסיתות אבני בית המקדש, בעוד שנכתב במקרא כי אבניו היו אבנים מסותתות, אבני גזית. חז"ל ניגשו להבהיר את הסוגיה. הסבר אחד שנתנו כמעט מתבקש מהכתוב: לדעתם האבנים סותתו במקום אחר והוסעו לאחר מכן להר הבית, אל אתר הבנייה. גם ספר מלכים מחזק את הסברה הזו: "וַיְצַו הַמֶּלֶךְ וַיַּסִּעוּ אֲבָנִים גְּדֹלוֹת אֲבָנִים יְקָרוֹת, לְיַסֵּד הַבָּיִת–אַבְנֵי גָזִית" (מלכים א', ה', ל"א).
אך עיקר ענייננו הוא בהסבר החלופי שהציעו חז"ל; הסברה שלפיה האבנים סותתו בעזרת דבר-מה הנקרא "שמיר". אותו שמיר אמנם מופיע במקרא, אך טיבו לא מוסבר די צרכו. בספר יחזקאל למשל (יחזקאל ג', ט'), נכתב כי הוא חזק מאבן צור. אפילו ירמיהו (ירמיה י"ז, א') פותח נבואה באמרו "חַטַּאת יְהוּדָה, כְּתוּבָה בְּעֵט בַּרְזֶל–בְּצִפֹּרֶן שָׁמִיר: חֲרוּשָׁה עַל-לוּחַ לִבָּם, וּלְקַרְנוֹת מִזְבְּחוֹתֵיכֶם". מהאזכורים הללו ברור שמדובר בחומר חזק מאוד.
בספרות התלמודית נמסר מידע נוסף על אותו שמיר מסתורי. כך למשל במסכת אבות מסופר כי השמיר הוא אחד מעשרה דברים שנבראו ב"ערב שבת בין השמשות", רגע לפני תום מעשה בראשית. לאותם ברואים שנוצרו במועד הזה יש אופי חידתי, וכך גם לשמיר שבכוחו לסתת אבנים. גם במסכת סוטה (דף מח, עמ"ב) מוסבר כי בעזרת השמיר סותתו גם אבני החושן שנבקעו מאליהן "כתאנה זו שנבקעת בימי החמה". שם נכתב בנוסף שבגלל שאין דבר העומד בפני כוחו של השמיר, הוא נשמר כרוך בצמר בתוך קופסת עופרת מלאה בסובין של שעורה.

סיפור האגדה המפורט ביותר שסובב סביב השמיר, מופיע בתלמוד (מסכת גיטין, דף סח, עמ"א). השמיר הדרוש לבניית בית המקדש הוא מניע העלילה באגדה הידועה "שלמה המלך ואשמדאי"; על פי האגדה, פנה שלמה המלך אל חכמיו ושאל אותם כיצד יוכל לסתת את אבני המקדש ללא גרזן ומקבת. אלו סיפרו לו על השמיר המופלא אך לא ידעו לומר היכן ניתן למצוא אותו. גם כשקיבץ המלך שדים ורוחות, לא ידעו לומר לו היכן טמון השמיר, אך טענו שאולי מלך השדים, אשמדאי, יודע את התשובה. שלמה המלך שלח את בניהו בן יהוידע, שר צבאו, שהצליח להתגבר על אשמדאי ולהביא אותו אל ארמון המלך. אשמדאי גילה לשלמה כי השמיר נמצא בידי שר הים ונשמר מכל משמר על ידי תרנגול הבר. שלמה שולח שוב את אחד מעבדיו שמצליח לגבור על תרנגול הבר ולגנוב את השמיר. האגדה עוד נמשכת ופרטיה מרובים, וניתן לקרוא גרסה שלה כאן ("כל אגדות ישראל", ישראל בנימין לבנר, הוצאת "תושיה").

רש"י פירש שאותו תרנגול בר הוא הדוכיפת, שהפך עם השנים למוטיב ידוע באגדות שלמה המלך. בפירוש שנוגע יותר לענייננו העלה רש"י את האפשרות שהשמיר אינו חומר דומם או אבן, כפי שאפשר לקרוא בחלק מגרסאות האגדה, אלא יצור חי – תולעת. לא ברור על מה התבסס רש"י בפרשנותו זו, אך הצירוף "תולעת השמיר" התקבע, והתגלגל גם עד כתביו של מנדלי מוכר ספרים, שמציין את השמיר כאחד היצורים המופלאים שבנימין השלישי יוצא לחפש במסעותיו.

הפרשנים, אם כן, לא קובעים באופן חד משמעי האם השמיר הוא יצור חי או רק מין אבן בעלת כוחות פלאיים. לעומת זאת, על סמך התלמוד (מסכת סוטה, דף מח, עמ"ב) קבעו כולם כי משנחרב בית המקדש, בטל השמיר מהעולם ואינו קיים עוד. אולם לפני כשנה וחצי, גילה צוות חוקרים בפיליפינים מין תולעת שחוצבת תעלות באבן גיר. הגיר היא כמובן אבן רכה יחסית, אך אולי, בסופו של דבר, הרעיון שקיימת תולעת שחוצבת אבנים אינו מופרך כל כך.