הספר מספר את סיפורו של האנס גיבּנראת, נער מוכשר הנשלח למדרשה האוונגליסטית במאולברון. החינוך שהוא סופג שם ממוקד בהרחבת הידע שלו אך זונח את התפתחות אישיותו ואופיו. הוא מתיידד עם הרמן היילנר, אשר בניגוד אליו אינו שוקד על לימודיו והוא אף ליברלי יותר בתפישתו. הידידות מהווה הקלה להאנס. כאשר היילנר מגורש מהמדרשה דועכים הישגיו של גיבנראת והוא מראה סימנים של מחלת נפש ועל כן נשלח לביתו.
בביתו, הוא מתקשה להתמודד עם מצבו. הוא איבד את ילדותו למטרות לימודים ולכן מעולם לא עלה בידו ליצור קשרים ארוכים אישיים עם איש מהעיירה שלו. הוא הופך לנפח ונהנה מעבודתו שאופייה מעשי בניגוד למופשטות שטמונה בלימודים. בסיום הסיפור, טובע האנס גיבנראת בנסיבות מסתוריות. הסיפור אינו מציין מפורשות שהמוות של האנס היה התאבדות אך לפי מומחים קיימים רמזים ברורים לכך בספר.
"מתחת לגלגל" הוא אחד הספרים הראשונים של הרמן הסה והוא מבקר בחריפות את החינוך אשר מתמקד רק בהישגים האקדמיים של הסטודנטים. בספר טמונים יסודות ביוגרפיים בחייו של הסה שכן גם הוא למד במדרשה המתוארת ולבסוף גורש ממנה.