הגאונות חוזרת לא"י
בשנת ד"א ת"ר בקירוב (840 לספירה), עברה לירושלם הישיבה הארץ-ישראלית שהתקיימה בטבריה, 'מעזיה' בלשון הגאונים, במשך מאתיים שנה. על ראשי הישיבה בטבריה נמנו רבי פנחס מגדולי הפייטנים ורבי יהודה בן עלואן. ראש הישיבה נקרא בשם "ראש החבורה", והישיבה עצמה נקראה בשם "גאון יעקב".
בתקופה הראשונה היו חילוקי דיעות בין הישיבה הצעירה בירושלם לבין הישיבות הותיקות בסורא ובפומבדיתא. תנאי החיים בבבל היו נוחים ומשופרים. הצבור היהודי זכה לאוטונומיה פנימית נרחבת, ראשי הגולה שלו הוכרו על ידי השלטונות. ראשי הישיבות משתבחים שישיבותיהם "לא ראו לא שבי ולא שמד ולא שלט בהם לא יון ולא אדום והוציאם הקב"ה י"ב שנה קודם החורבן מירושלם בתורתם ובתלמודם". הם חששו בתחילה להכיר בישיבה בירושלם בגלל מעמדה הנחות בעיני השלטון המקומי "ונפיש שמדא בארץ ישראל ואימעטא הוראה תמן" כותב באגרתו רב שרירא גאון.
אך בהמשך הזמן התבססה הישיבה בירושלם, וקיבלה גם את ברכתם של גאוני בבל עד כדי להמצא בדרגה שווה עם ישיבות בבל. בתפלת "יקום פורקן" שחוברה בזמן הגאונים מתפללים לשלומם של "מרנן ורבנן חבורתא קדישתא די בארעא ישראל ודי בבבל". בהכרזת קידוש החודש ביון שנשתמרה נאמר "כל עמא הבו דעתכון למשמע קידוש ירחא הדין כמא דגזרו אבהתנא מרנן ורבנן חבורתא קדישא דהוי יתבין בארעא דישראל אית לן ראש חודש פלוני בכך וכך בשבת". ובמכתבו של יוסף מלך הכוזרים כתוב "אחד שאלני מדבר קץ הפלאות, ואנחנו עיננו אל ה' אלקינו ואל חכמי ישראל ואל הישיבה שבירושלם ואל הישיבה שבבבל" כך הוקדמה אפילו ישיבת ירושלם לישיבות שבבבל.
בשנת ד"א תש"ך (960) אנו מוצאים את אנשי ריינוס פונים בשאלה לקהלות ארץ ישראל: "אני יצחק בר דורבלו, ראיתי בוירמייזא כתב ששלחו אנשי ריינוס לא"י בשנת תש"ך לפ"ק, שמועה ששמענו על ביאת המשיח, וגם סירכא דליבא מה אתון בה", וחכמי ארץ ישראל משיבים "על ביאת המשיח לא הייתם כדאי להשיב, וכי אינכם מאמינים לדברי חכמים וסימניהם, ועדיין הסימנים לא באו, וסירכא שבשומן הלב נחנו סנהדרי גדולה ונחנו סנהדרי קטנה אוכלים אותה" (פורסם על ידי ביכלר ברויו הצרפתי כרך מ"ד). מאה שנה לאחר מכן שאל רבי משולם ב"ר משה ממגנצא את רבי אליהו הכהן ראש ישיבת ירושלם ורבי אביתר בנו "האריות יושבי ירושלם עיה"ק אם אומרים והשיאנו בראש השנה ויום הכפור" (ספר הפרדס לרש"י ועוד).
בין תומכי הישיבה נמנה הפייטן רבי אחימעץ ב"ר פלטיאל מאיטליה, שהיה נצר למשפחה מפורסמת של חכמים ופייטנים, שהתיחסה על גולת ירושלם מימי החורבן, נין ונכד לפייטן הגדול רבי אמיתי. כאשר נפטר רבי פלטיאל בשנת ד"א תשט"ו, העלה בנו רבי שמואל – שהיה אף הוא גדול בתורה ונכבד בקהלתו – את עצמות אביו לקבורה בירושלם, ותרם באותה שעה "עשרים אלף דרכמונים לדלים וענוגים לחכמים ודרשנים אשר התורה משננים, למלמדי תינוקות וחזנים, ושמן למקדש בכותל המערבי למזבח שמבפנים, ולבתי כנסיות לקהלות הרחוקים והשכנים, לאבלי ההיכל המסכנים – הן העגומים על ציון ואבלים, ועל ירושלם מתאבלים, ועל הישיבה לתלמידים ולתנאים, ולחכמי בבל לישיבת הנשיאים" (מגילת אחימעץ).
בראש ישיבת ירושלם עמד רבי אהרן בן מאיר, הוא הראשון לגאוני א"י שיש לנו ידיעות מפורטות עליו, נצר למשפחה שהתיחסה על בית דוד ושלשלת הנשיאים מהלל הזקן ואילך. בארץ ישראל התקיימה אז קהלה תקיפה של קראים, והם הציקו לרבנים בכל אשר יכלו. רבי אהרון נלחם אתם מלחמה עזה. בענין זה המשיך את מסורת אבותיו "רבי מאיר ורבי משה שכמה פעמים ביקשו השונאים [הקראים] להרגם", והוא מעיד על עצמו כי אחד מאבות אבותיו, רבי מוסי – "נהרג בעזרה מתחת יד זרע ענן". במלחמה זו שיתף פעולה עם חכמי בבל שנמנו עם ידידיו – עד שקפצה עליהם רוגזה של מחלוקת הלוח הידועה, ששיבשה את היחסים בינו לבין חכמי בבל.
אחרי פטירת רבי אהרון, עלה על כסא הגאונות רבי שלמה ב"ר יוסף הכהן. הוא היה גם ראש הישיבה עד שנת ד"א תשפ"ז, במותו היו שני בניו יוסף ואליהו קטנים, ועל כן ירש את מקומו רבי שלמה ב"ר יהודה. רבי שלמה עמד בראש הישיבה ובראש הישוב היהודי בירושלם למעלה מעשרים וחמש שנים. הוא נולד למשפחה פשוטה והגיע לגאונות בזכות תורתו, אישיותו ומדותיו הנעלות. מוצאו היה כנראה מפאס בירת מרוקו. לפני שהגיע לגאונות שימש בתפקיד "אב הישיבה", והוא סגן הגאון, וכבר אז היו עיני יהודי ירושלם נשואות אליו.
תלאות רבות ונוראות עברו על הישוב היהודי בירושלם בתקופת גאונותו, יהודי העיר סבלו בגלל התקוממותם של שבטים בדואים בארץ ישראל ובסוריה, ומרידתם בשולטן מצרים. המורדים כבשו את ירושלם ואת רמלה והטילו על הקהילות תשלומי מסים למעלה מיכלתם, וגבו זאת באכזריות יוצאת מהכלל. עולי הרגל התמעטו, מקורות ההכנסה של הישיבה והקהלה בירושלם דללו, עד כי "לא נשאר בכל ארץ ישראל קהל מועיל כי אם קהל צור". משהושב השלטון המצרי על כנו, שלחה עדת ירושלם ובראשה רבה רבי שלמה ב"ר יהודה שליח מיוחד למצרים – את רבי יוסף החזן ב"ר יפת המלמד, לבקש עזרה מיהודי מצרים.
רבי שלמה נפטר זקן ושבע ימים בחודש אייר תתי"א, ועל כסא הגאונות עלה רבי דניאל ב"ר עזריה. רבי דניאל היה מזרע ראשי הגולה מבבל, ויליד בגדד, הוא היה מכובד על בני דורו, ומצודתו פרוסה גם על מצרים. אחד מבתי הכנסיות בקהיר נקרא על שמו "כניסת דניאל הנשיא". בשנת ד"א תת"ך חלה רבי דניאל במחלה קשה, ובחודש אלול תתכ"ב נפטר. על מקומו של רבי דניאל עולה רבי יאשיהו ב"ר אהרון גאון, מצאצאי רבי אהרן בן מאיר. שנות כהונתו אינן ידועות בדיוק, אולם שמו נמצא חתום על תעודה כבר בשנת ד"א תשע"ה. בימיו חלו רדיפות היהודים על ידי הכליף הפטימי אל חכים. בעקבות רדיפות אלו עברה הישיבה מירושלם לרמלה, הישיבה נמצאה בדוחק רב, ורבי יאשיהו פונה לקהלות ישראל בחו"ל להחיש עזרה – בתארו את מצבה הקשה של הישיבה, ושל יהודי ארץ ישראל בכלל.
אותן שנים היו כנראה הקשות ביותר בתולדות כל התקופה האחרונה ליהודי ירושלם. היא מתחילה עם רדיפותיו הקשות של הכליף הקנאי אל חכים על הנוצרים והיהודים – שהתפשטו אמנם על כל ארץ ישראל וסוריה, אך ירושלם סבלה ביותר.
נראה שלרגל מאורעות אלה עזבה הישיבה הארצישראלית את ירושלם, והתישבה ברמלה. בראשה עמד אז הגאון רבי יאשיה, והתעודות שהגיעו אליו ממנו – נכתבו ב"שער הישיבה" ברמלה.
נוסף לסבל הרב – הוטל על יהודי ירושלם לשלם סכום עצום שהיה למעלה מכחם, ששת אלפים זהובים, וסכום זה נגבה באכזריות שאין כמותה. רבים מתו מן היסורים ורבים ברחו. עולי הרגל חדלו לבוא ופרנסת בני ירושלם נתקפחה, המסחר שבת, הדרכים נשתבשו, אף הרעב והדבר עשו את שלהם, מיהודי ירושלם נשארו רק מתי מעט, כחמשים איש. המכתבים היוצאים מירושלם באותן השנים, מלאים יגון עמוק ויאוש רב. אך בהמשך הזמן הוטב המצב, ורווח להם ליהודי ירושלים, עד אשר הגיעה שנת תתל"א (1071). ירושלם נלכדה על ידי הסלג'וקים, שלכדו גם את רמלה ואת רובה של ארץ ישראל. רבים מתושביה נהרגו, העיר שודדה והוצגה ריקם. אחרי הפסקה של מאה שנה חוזרת ארץ ישראל שוב לשלטון כליפי בגדד, אבל הנצחון לא היה גמור – המלחמה בין שני הצדדים, והמהומות הכרוכות בה, נמשכו שנים רבות. הארץ כולה וביחוד ירושלם סבלה אז הרבה, הישיבה הארץ-ישראלית עוקרת אז את מושבה – והפעם לחלוטין – מירושלם השדודה והמרוקנת, ועוברת לצור הרחוקה. היתה זו מכה קשה ביותר לחייה הרוחניים והחמריים של ירושלם, ולעמדתה המרכזית בעם. הידיעות על ירושלם מזמן כיבוש הסלג'וקים אחר מסעי הצלב – מתמעטות והולכות, שכן רוב הידיעות על התקופה הקודמת, הגיעונו ממכתביהם של ראשי הישיבה שהיתה קיימת בה.
אחרי פטירת רבי יאשיהו, עלה על כסא ראש הישיבה רבי אליהו ב"ר שלמה הכהן – שבימי גאונותו של רבי דניאל שימש הוא כסגנו "אב בית דין". אחרון גאוני א"י היה רבי אביתר בנו.
כבושה של ירושלם ע"י הצלבנים ואחריהם הערבים – הביא מפנה יסודי בתולדות העיר ירושלם, והעליות אליה.