תשובה שחשבתי לומר ולאחר חיפוש מצאתי לה ראיה: 

שלא כהוה אמינא בשאלה, נראה שפירוש השם "יהודית" אינו מלשון הודאה כשמו של "יהודה"– "אתה יודוך אחיך" אלא במשמעות שונה.. 

כנראה שהכוונה בשם "יהודה" הוא שם השם המופיע בו – שם הויה. 

אם כך, כמובן שמי שקרוי כך, מאמין בה' וכופר בע"ז.  

דברי רש"י לעיל מבוססים על הגמרא במגילה דף י' עמוד א' בעניין מרדכי שנקרא איש יהודי.

המהרש"א שם מבאר - כל הכופר בע"ז נקרא יהודי כו'. וע"פ מ"ש פ"ק דסוטה יהודה כו' וע"ש של הקב"ה דיש בו ארבע אותיות השם ומייתי ליה מדכתיב איתי גוברין יהודאין וגו'..
להלן הגמרא אליה מציין המהרש"א, סוטה דף י עמוד ב' - יהודה שקדש ש"ש בפרהסיא זכה ונקרא כולו על שמו של הקב"ה כיון שהודה ואמר צדקה ממני יצתה בת קול ואמרה אתה הצלת תמר ושני בניה מן האור חייך שאני מציל בזכותך ג' מבניך מן האור מאן נינהו חנניה מישאל ועזריה.