בשנת 1904 התפרסמה בעיתון "הצפירה", אחד מהעיתונים העבריים הנפוצים באותה העת באימפריה הרוסית, ידיעה בדבר פתיחת בית ספר עברי ראשון ליהודי ההררים בקווקז.
הקמתו של בית הספר העברי הראשון בעיר דרבנט בקווקז היה אירוע דרמטי עבור כל היהודים ההררים (יהודי צפון הקווקז ומזרחו) מפני שסביב הקמתו התנהל אחד מן הפולמוסים המפורסמים באותם ימים בין מחנה השמרנים של הרב יעקב יצחקי למחנה של קבוצת האינטליגנציה הראשונה שהתהוותה בעיר.
עד אותה העת החינוך היחיד של הילדים היה במסגרת הקהילתית, אשר התבססה על מצוות תלמוד תורה לבנים על פי המסורת היהודית. הבנים ביקרו בבתי "תלמיד כונה" (בית התלמיד) שהיו ממוקמים בדרך כלל בבתי כנסת או בבתי הרבנים. במחצית השנייה של המאה התשע עשרה החלו להירקם קשרים בין היהודים ההרריים לבין יהודי רוסיה ומזרח אירופה שהיגרו לקווקז עם הכיבוש הרוסי. הניסיונות הראשונים להקמת בית ספר מודרני עבור היהודים ההררים נעשו על ידי משכילים רוסים ובאמצעות "חברת מפיצי השכלה" ברוסיה שמטרתה הייתה לקדם את ההשכלה בקרב יהודי האימפריה הרוסית. ניסיונות אלה החלו כבר בשנת 1865, אך נתקלו בהתנגדות עזה מצד רבני העדה שבראשם עמד הרב יעקב יצחקי, הרב הראשי של פלח דאגסטן.
הרב יצחקי היה בעל הסמכות הרחבה ביותר בקרב כל ריכוזי היהודים ההררים בקווקז. לא רק בעיני עדתו היה חשוב ונכבד אלא גם בעיני האדמיניסטרציה הרוסית בקווקז שהכירה בסמכותו כרב ממשלתי ראשי שהמשיך את התפקיד לאחר אביו הרב יצחק יצחקי. הרב יעקב יצחקי התכתב עם גדולי הרבנים באירופה, פרס וארץ ישראל. ניהל קשרים גם עם משכילי אירופה, עסק בכתיבה מחקרית על מוצאם ותרבותם של בני עדתו ופרסם את מאמריו בכתבי העת המשכילים דאז. על אף זאת התנגד לכל יוזמה להקמת בית ספר ממשלתי עבור בני קהילתו ובמשך 40 שנות כהונתו כרב ראשי שימש כחומת ברזל כנגד חדירת מערכת החינוך המודרנית.
בהעדר מערכת חינוך מודרנית קהילתית, היהודים ההררים ששאפו להקנות השכלה כללית לילדיהם שלחו אותם לבתי ספר של אשכנזים באזור. מגמה זו החלה במספרים מועטים ביותר. אך מיעוט זה הספיק להיווצרותה של שכבת אינטליגנציה ראשונה בקרב העדה. שכבת אינטליגנציה זו היא שהובילה והכריעה את המאבק להקמת בתי ספר.
התפשטות התנועה הציוניות לשטחי הקווקז הביאו לחתירה נמרצת לשינוי המצב החינוכי והוראת השפה העברית. בראשית המאה התשע עשרה הסכסוך סביב הנושא בעיר דרבנט החריף וכמעט הגיע לשפיכות דמים. הציבור בדרבנט התחלק לשני מחנות, המחנה של הרב יעקב יצחקי ומחנה המשכילים של הרב ישעיה רבינוביץ' (הרב יש"ר), רב יהודי ההררי ציוני שנודע בפעילותו לקידום החינוך העברי של העדה. בסופו של דבר המאבק הוכרע במאי 1904 כאשר הרב יש"ר הגיש בקשה למושל האזורי למתן רישיון לפתיחת בית ספר ובקשה זו נענתה בחיוב.
לכבוד הפתיחה נערכה חגיגה המונית. האירוע נפתח עם עלייתו של הרב יש"ר אל דוכן הנואמים. אך לפני שפתח בנאום הניצחון שלו כולם ציפו הזמין את הרב יעקב יצחקי, רב העדה, לשאת דרשה בפני הציבור. הרב יצחקי עלה לדרוש בנושא מאמר משנת חכמים "יפה תלמוד תורה עם דרך ארץ", ורק לאחר מכן עלה הרב יש"ר חזרה אל הבימה לנאום. האירוע נחתם ברוב רושם והדר "והתלמידים והתלמידות שרו שירים עברים לאומים"
עם פתיחת בית הספר בדרבנט נפרצה הגדר ונפתחו בתי ספר עבריים גם בריכוזים הגדולים הנוספים של היהודים ההררים. אורך החיים של בתי ספר אלו בקווקז היה קצר מפני שלאחר המהפכה הקומוניסטית ומלחמת האזרחים הוקם שלטון סובייטי בקווקז. הפעילות הציונית כמו גם הדתית דוכאה ומנהיגיה נרדפו, נכלאו והוצאו להורג.
הרב יעקב יצחקי הספיק לעלות לארץ ישראל עוד בשנת 1906 עם קבוצה מכובדת מבני העדה. הרב יש"ר נפטר בשנת 1920 אחרי שנעצר פעמים רבות ועונה בעינויים פיזיים על ידי הצ'קה, המשטרה החשאית הסובייטית.