ב- 4 בנובמבר 1995, דקות ספורות לאחר שיצחק רבין ז"ל שר את "שיר לשלום" בעצרת בכיכר מלכי ישראל בתל-אביב, הוא נרצח באקדחו של יגאל אמיר. היה זה שיאו הטראגי של העימות בין פלגי העם בישראל, עימות העלול לחזור ולהתפרץ, ואף להפוך למלחמת אחים.
כרמי גילון, שמילא בשנות ה- 80 תפקיד מפתח בלכידת רוצחו של אמיר גרינצווייג ז"ל ובחשיפת "המחתרת היהודית", מונה לראש השב"כ שמונה חודשים לפני רצח רבין. לאחר הרצח - עליו התריע גילון חודשים קודם לכן - הוא קיבל על עצמו את האחריות הכוללת לכשלון מערך האבטחה והתפטר מתפקידיו. ב"שב"כ בין הקרעים" מנתח גילון את סלעי המחלוקת המאיימים של המשטר הדמוקרטי בישראל: ימין ושמאל, דתיים וחילוניים, יהודים וערבים. הוא מצביע על רפיסותה של המערכת המשפטית מול האיומים אלה, ומזהיר מפני כניעה של המערכת הפוליטית ללחצים. מזווית המנסה לאזן בין צורכי הביטחון לבין הקשפת-עולם דמוקרטית והומניסטית, נדונים הספר נושאים בעייתיים, כגון שיטות חקירה של חשודים בטרור ותפקוד שירותי ביטחון במשטר דמוקרטי.
בספר המרתק, הכתוב בגילוי-לב מרגש, חושף ראש השב"כ לשעבר עובדות שלא היו ידועות עד כה על רצח רבין: פרשת "המחתרת היהודית", פרשת האוטובוס בקו 300, הפעלתו של אביש רביב ("שמפניה"), המאבק בטרור האיסלאמי תוך כדי ניהול המו"מ לשלום, חטיפת נחשון וקסמן ז"ל, מותו של "המהנדס" יחיא עייאש ועוד.