מקובל שאחיתופל התאבד כי לאחר שאבשלום קיבל את עצת חושי הארכי, לאסוף צבא גדול ולצאת בראשו, הוא הבין שהמרד נכשל, אבשלום ימות ודוד יפגע בו. אולם אחיתופל לא חיכה שאבשלום יפסיד. הוא התאבד מיד (שמואל ב יז כג).

בספר שמואל נכתב: " וַיֹּאמֶר אחיתופל אֶל אַבְשָׁלוֹם: אֶבְחֲרָה נָּא שְׁנֵים עָשָׂר אֶלֶף אִישׁ, וְאָקוּמָה וְאֶרְדְּפָה אַחֲרֵי דָוִד, הַלָּיְלָה" (שמואל ב יז א).

במלים ובמעשים אלו אחיתופל חתם את גורלו למוות. חוצפתו, לדבר ללא הזמנה, ורצונו לבנות צבא חזק בפיקודו, גרמו שאבשלום ידחה את עצתו ואותו עצמו.

כידוע לאחר מותו של שאול המלך, אבנר בן נר, שר צבאו, שלא נשאר למות יחד עם מלכו ובניו, בחר את איש בושת והמליך אותו על ישראל (שמואל ב ב ט). בהמשך אבנר בן נר, ללא אישורו של מלכו, בא אל רצפה בת איה, פלגש שאול. איש בושת הוכיח אותו ואבנר ענה בכעס: "הֲרֹאשׁ כֶּלֶב אָנֹכִי ... כֹּה יַעֲשֶׂה אֱלֹהִים לְאַבְנֵר וְכֹה יֹסִיף לוֹ, כִּי, כַּאֲשֶׁר נִשְׁבַּע יְהוָה לְדָוִד כִּי כֵן אֶעֱשֶׂה לּוֹ" (שמואל ב ג ח-ט). אבנר השתמש במילת השבועה המלכותית "כֵן" כאילו שהוא המלך האמיתי, ומיד אחר כך אבנר הלך והציע לדוד לקחת את ממלכת שאול. אבנר לא הספיק להנות מהצלחתו, כי יואב בן צרויה הרג אותו באותו היום.

בסיפור אבשלום נאמר שאחיתופל היה יועץ כאיש אלוהים (שמואל ב טז כג). אחיתופל תכנן והנחה את אבשלום לרכוש את אהבת העם, והמליך אותו בחברון. כאשר המרד הצליח ודוד ברח מירושלים, אבשלום בקש עצה מאחיתופל. אחיתופל המליץ שאבשלום ישכב עם פלגשי אביו. רק לאחר המעשה, אבשלום הבין שהוא 'נבאש', כי הוא שבר את חוקי משה לשכב עם אשת אביו. אבשלום עצמו נעשה פושע שחייב לברוח לעיר מקלט, ושאחיתופל יכול להאשימו. 

אבשלום החליט שאחיתופל ענה לו על שאלתו, ולא שאל מחדש מה להמשיך לאחר שהוא שכב עם פלגשי אביו.

ללא הזמנה לדבר, אחיתופל הורה לאבשלום להכין צבא. אומנם אחיתופל הוסיף את מילת הבקשה "נָּא", אבל דבריו הם על גבול הפקודה. אבשלום חשב שאחיתופל מתנהג כמו אבנר בן נר. הוא חשב שאחיתופל חושב שהוא בחר אותו, המליך אותו, עכשו מבקש רשות להקים צבא פרטי, מקצועי וחזק, שיהיה בפיקודו האישי, הוא יצא אחרי דוד, ינצח, וישוב לירושלים כגבור לאומי. אבשלום הבין שהוא יהיה נתון בידי אחיתופל כמו איש-בושת הנכה.

אבשלום כעס בסתר, ורצה לשמוע עצה מחושי הארכי, וכך לדכא את אחיתופל ולשים אותו במקומו. אבשלום לא אישר לאחיתופל להכין את הצבא בזמן שהוא מקשיב לחושי. אפשר היה לעשות את עצתו של אחיתופל, ואחר כך, אם יהיה צורך, לעשות את עצתו של חושי. אבשלום לא רצה לתת צבא לאחיתופל, ולא רצה למנות שר אחר על החילים שאחיתופל יבחר. אבשלום גמר עם אחיתופל ואפילו לא שאל אותו מה דעתו על עצתו של חושי. אחיתופל הבין שאם אבשלום יכשל דוד יהרוג אותו, ואם אבשלום ינצח חושי יקבל את הכבוד ותפקיד היועץ הראשי.

אבשלום למעשה הפעיל את העצה של מקיאבלי לנסיך, להעזר במתנגדים מובסים ולא באנשיו הגאים, כי הם יכולים להפיל אותו.

עכשו אחיתופל נשאר איש ללא מדינה – אבשלום זרק אותו, דוד ויואב מודעים למעשיו, וכל אחד מהם יהרוג אותו. כל שנשאר לו לעשות זה להתאבד בכאב מינימלי, ואולי כך להציל את משפחתו.