זמן קצר לאחר מלחמת יום הכיפורים, כשהכאב, ההלם והשבר נכחו בארץ, פנתה הנהלת הטלוויזיה הישראלית אל הפזמונאי, החוקר והעיתונאי דן אלמגור בבקשה לערוך סדרת תוכניות על הזמר העברי ועל תולדות הישוב בשם "שרתי לך ארצי". דן אלמגור גייס לעזרתו שני ידענים גדולים בתחום, אליהו הכהן ומאיר נוי. את חמש התוכניות הראשונות הנחו דן אלמגור ואליהו הכהן.
אוסף מאיר נוי לזמר העברי והיידי הוא אוסף חשוב וייחודי שמצוי במחלקת המוזיקה בספרייה הלאומית. בערב "שירים למאיר נוי: ערב עיון ומוזיקה לזכר מאיר נוי" שנערך על ידי מחלקת המוזיקה בשנת 1999 דיבר אליהו הכהן על אוסף הזמר העברי של מאיר נוי, על משמעות וחשיבות האוסף:
"…אין לנו על מדף הספרים ספר שנקרא 'תולדות הזמר העברי'… היו כרכים שלמים על תולדות הספרות העברית החדשה… ואף לא ספר אחד על הזמר העברי שהיה אבן בנין, לא סתם איזה תבלין שליווה כאן את מה שהתרחש בארץ אלא הוא גם ליווה וגם ליבה… ולא היה כל הסיפור של התהוותו ומקורו וגלגוליו וכיצד אריח אחר אריח לבנה אחר לבנה מהיום הראשון של העלייה הראשונה הלך ונבנה אוצר הזמר העברי, כמעט כמעט יש מאין, עם כל הרקע שקדם לו.
כמובן ששירונים היו לאלפים בכל מדף. יכולת למצוא בדפוס, בסטנסל, בכתב יד, בהקטוגרף, אבל כשהיית פותח אותם וראית תווים לא מדויקים והמילים והניקוד איננו והמחבר הוא או "עממי" או "אלמוני" ולא יכולת לדעת מאיפה שיר מתחיל ומאיפה שיר צומח, ולא היה שום מכון זמר בארץ שיכולת לפנות אליו ושום מרכז מידע, שיכולת לגשת והמצב הוא עד היום כמעט כך.
אדם שרוצה היום לדעת בדיוק במהימנות – אם לא ילך לאוספו של מאיר נוי, את מי הוא יטריח כדי לדעת מי חיבר שיר מסוים? או מי הלחין שיר מסוים? ומהי הגרסה הנכונה והמקורית שלו? אולי אם הוא הכיר את המלחין או את המשורר יכול היה לפנות אליהם, אבל גם בזה לא תמיד הצליח. אלתרמן אף פעם לא שמר את השירים שלו ולא זכר את הטקסטים שלהם וזעירא היה הולך אל הזמרים שהוא נתן להם את התווים כדי שהם יחזירו לו את התווים ויוכל להוציא את ספר השירים שלו…".
בארכיון הצליל הלאומי מצויות הקלטות שונות בהשתתפות אליהו הכהן. הכהן נודע בבקיאותו הרבה והידע הרב שהיה מנת חלקו. הוא חקר "גלגולי" שירים רבים ואף פרסם ספרים שונים כמו אוסף השירים "100 שירים שרנו לך" בעריכה משותפת עם הד"ר דן אלמגור, "שיר מזמור לתל אביב: לקט פזמונים ושירים ששרו בתל אביב לתקופותיה", "עיונים ביצירת לוין קיפניס" ואחרים.
כחכם ובקי, עמד אליהו בקשר עם צוות מחלקת המוזיקה בספרייה. בשנת 2013 כשזכה בפרס ישראל פרסמה המחלקה פתק שיועד אליו מארכיונה של נעמי שמר על אודות השיר "מכורתי נוף מולדתי".
"אליהו יקירי, אתה מכיר את השיר 'מכורתי נוף מולדתי'? מי כתב אותו?" שאלה שמר, והכהן השיב: "את המילים כתב אלכסיי טולסטוי (שנות הארבעים של המאה ה-19), את הלחן המלחין הרוסי גרציאנינוב, תרגם לעברית איש העליה השניה יצחק לבני הוא יצחק ציגל. כתב היד המקורי של התרגום נמצא אצלי".
הכהן התרגש מפרסום הפתק ובמכתב ששלח לד"ר גילה פלם אוצרת ומנהלת אוסף ומחלקת המוזיקה בספרייה הלאומית כתב על נסיבות כתיבתו:
"תודה על הברכות ועל המילים החמות, וחן חן מיוחד על ההפתעה שזימנת לי באתר שלכם. הפתק של נעמי שמר מזכיר נשכחות. זה היה במגדל שלום בתל אביב, שאליו זומנו לפגישה עם השר פואד בן אליעזר. לנעמי היה סיוט ממדרגות נעות. מין פוביה כזו. היא פחדה לעלות עליהן. חיבקתי אותה חיבוק אוהב ואמרתי 'את עולה אתי, נעמי'. היא חיבקה אותי בחזרה והתגברה על פחדה. נדמה לי שהדופק שלה היה אז בשחקים. כשישבנו ליד השולחן עם השר, היתה מעבירה אלי כל הזמן פתקים עם שאלות. הפתק על 'מכורתי' שהצגת באתר הוא אחד מהם. חופן תודות לך על המחווה".
על אישיותו וידענותו הגדולה כתבה ד"ר פלם:
"אליהו הכהן היה אחד מהאנשים הבודדים אשר הכירו זמר עברי מוקדם, אשר לא נרשם ולא נחקר והידע על רפרטואר זה נאסף על ידי אליהו הכהן אשר הרצה, כתב ופרסם בנושא זה. הידע הבלתי נדלה שהיה לו בתחום הזמר והן בתחום ההיסטוריה הכתובה והבלתי כתובה היה חד פעמי. לאורך השנים הוא סייע לספרנים ולחוקרים שעבדו במחלקת המוזיקה בספרייה הלאומית והיה בקשר הדוק אתי ועם עובדים אחרים לאורך השנים. אליהו היה אוצר בלום ונכון לסייע בכל קושיה שפנו אליו. עם לכתו אבדה הכתובת המהימנה והעשירה הזו. יהי זכרו ברוך."
