בצעירותו היה יהודה גרשוני ידוע בעולם הישיבות בשם יודל גרודנר (יהודה מגרודנא). השם דבק גם לאחר שפרסם מאמרים וספרים בשם יהודה גרשוני.
בעיר הולדתו גרודנא למד אצל רבי שמעון שקופ ולאחר מכן, שנים רבות, אצל רבי ברוך בער ליבוביץ בקמניץ. הוא היה ידוע בתור עילוי . רבנים חשובים שפגשו אותו התפעלו מחכמתו הרחבה ומדעתו החריפה. כאשר אמר לרבי חיים עוזר גרודזינסקי שהוא רוצה להמשיך את לימודיו בירושלים, אמר לו הרב חיים עוזר להישאר בפולין ולשמש כראש ישיבה.
"אנחנו צריכים אותך כאן," הוא אמר.
רבי יהודה גרשוני הגיע לירושלים בשנת 1933, חמוש במכתב המלצה חזק מאת רבי ברוך בער ליבוביץ בקמניץ. זמן קצר לאחר הגעתו לעיר הקודש ביקר אצל רבני leading rabbis ירושלים , שנהנו לדון בתורה עם הצעיר העילוי. גרשוני למד בישיבת הרב קוק והיה אורח שבת קבוע בביתו. הרב קוק התיידד עמו, שוחח עמו רבות בענייני תורה ולמד עמו. הרב גרשוני התרשם מאוד מאישיותו ומרעיונותיו של הרב קוק.
מדווחים שהוא אמר: הכרתי אישית את גדולי ליטא שהיו כמלאכים – רבי ברוך בער ליבוביץ, רבי חיים עוזר גרודזינקסי והחפץ חיים. היחיד שהכרתי שהתברך ברוח הקודש היה הרב א.י. הכהן קוק, לא בגלל שהיה גדול יותר, אלא בזכות מגוריו בארץ ישראל".
הספר הראשון שהוציא היה חוקת הפסח על הרמב"ם הלכות קרבן פסח. זה התקבל בצורה יוצאת דופן בעולם התורה והוא התבקש לערוך שיטה מקובצת על מסכת פסחים. השיטה מקובצת שהציגה הסברים, דעות והערות מאת רשויות הלכתיות מוקדמות ומאוחר יותר, ואליו צורפו חידושים מאת רבי יהודה גרשוני נדפסה מספר פעמים.
לאחר פטירת אשתו הראשונה הרב גרשוני התחתן עם בתו של הרב אליעזר סילבר, הם עברו מסיבות אישיות לניו יורק. שם הקים ועמד בראש ישיבת ארץ ישראל והמשיך בפרסום דברי תורה וחיבורים הלכתיים.
שפת ההוראה בישיבתו הייתה עברית. בנוסף לגמרא, נלמד שם תנ"ך עם פירושים. כמו כן למדו "מחשבה יהודית" (יצירותיהם של הפילוסופים היהודים מימי הביניים, ספרי המהר"ל מפראג ור' משה חיים לוצאטו, וכתבי הרב קוק. בימי חודש אלול הוסיפו את "אורות התשובה" של הרב קוק).
הרב גרשוני הרצה בכנסים ובפגישות של מזרחי. הוא תרם מאמרים בכתבי עת תורניים שונים, כגון "הפרדס" ו"אור המזרח". ברבים מכתביו דן בבעיות עכשוויות הנוגעות למדינת ישראל ולרשויות ישראל.
לאחר שובו ארצה הרצה בישיבות ובכוללים שונים ועסק בפעילות ספרותית. הוא נפטר לאחר מחלה ממושכת בחורף 2000 כשהיה בן למעלה מתשעים.
ספריו שיצאו לאור כוללים את משפט המלוכה על הרמב"ם הלכות מלאכים, חו"ק ומשפט, אסופת הרהורים ומאמרים הלכתיים, אותם הקדיש לזכר בתו ציפורה, שנפטרה בגיל ארבעים ואחת, ושערי. צדק, דרשות והרהורים.
לאחרונה פרסמו מכון אריאל , בראשות הרב שאר ישוב כהן, הרב הראשי לחיפה, ספר לזכרו של יהודה גרשוני ובו מאמרים מאת הרב שאר ישוב כהן, הרב זלמן דרוק, הרב יצחק שילת, הרב יצחק. לרנר, מר משה קרון והרב משה צבי נריה.
חלק שני מספק רשימה של ספריו ומאמריו של הרב גרשוני. (הביבליוגרפיה יכולה הייתה לציין גם את תרומותיו של הרב גרשוני לאנציקלופדיה התלמודית.)
היא מזכירה את 'חידושי תורה' מאת הרב גרשוני שטרם יצאו לאור (במכון אריאל מתכוונים להוציא לאור כרך מיוחד של כתבי הרב גרשוני שנשארו עד כה בכתב יד. )
חלק אחר מכיל מסות ומאמרים מאת עשרים רבנים, מעריצים, ידידיו ותלמידיו של הרב גרשוני. הם כוללים את הרב שאר ישוב כהן, הרב ישראל מאיר לאו, הרב יעקב אריאל, הרב חיים דרוקמן, הרב נחום רבינוביץ, פרופ' נחום רקובר, הרב ד"ר אהרון ליכטנשטיין והרב אברהם אלקנה כהנא שפירא.
