רבי יונה עזב את סוסנוביץ בהיותו בן שלשים בשנת תרצ"ה (1935 למניינם), ונפרד מאמו הרבנית מרים ביילא, מחמיו ר' חיים פישל, ומסבו הרב אפרים מרדכי צוויגנהפט, ועלה לארץ הקודש. את הדרך באוניה עשה יחד עם רבי דוד בורנשטיין, האדמו"ר מסוכוטושוב, מחבר הספר "חסדי דוד", ועם רבו הרב אריה צבי פרומר, ראש ישיבת חכמי לובלין, שהיו בדרכם לביקור בארץ ישראל. שניהם חזרו לפולין ונרצחו ע"י הצוררים הנאצים ימ"ש. רבי יונה ואחיו נחום היו היחידים ששרדו מתוך שבעת האחים והאחיות.

כשרבי יונה הגיע לארץ הקודש, שרר עוני גדול בישוב בארץ. זו היתה תקופה של 4 שנים לפני תחילת שואת אירופה. בהגיעו לארץ, פתח עם אשתו מפעל בשם "דבק יונה" במטרה לפרנס את בני ביתו. אשתו שבע ניהלה את המפעל הקטן, ודרך זה הם התפרנסו בשנים הראשונות לבואם, עד שנתמנה לחבר הנהלת רבנות תל אביב, ואז העביר את עסקו לגיסו משה פישל.

את תפקידו כרב קיבל בזכות השתדלויות של אמו הרבנית מרים ביילא, אשה מלאה רוח, שהפעילה קשרים והגיעה לארץ במיוחד מפולין לסדר תפקיד לבנה. כמו"כ נתמנה לרב האחראי על השבת בתל אביב.

האדמו"ר מרדומסק שלח מכתב בידיו שנאמניו בארץ ישראל  יעזרו לו