התגייס לצה"ל ב-1962 ומילא שורה של תפקידי פיקוד בחטיבת הצנחנים, בהם: תפקיד פיקודי במלחמת ששת הימים, מפקד סיירת הצנחנים במלחמת ההתשה, סגן מפקד סיירת הצנחנים וק' אג"ם של פיקוד המרכז במלחמת יום הכיפורים. התמנה (1974) למפקד חטיבת הצנחנים במילואים ושנה לאחר מכן (1975) למפקד חטיבת הצנחנים הסדירה. השתתף במבצע אנטבה, כסגן מפקד המבצע וכמפקד כוח הצנחנים.

עם סיום לימודיו במכללה לביטחון לאומי מונה לתפקיד קצין צנחנים וחי"ר ראשי בדרגת תא"ל. הועלה לדרגת אלוף ומונה לתפקיד ראש אכ"א (1985) ולאחר מכן מונה למפקד פיקוד הדרום (1989) ולסגן הרמטכ"ל (1994). הוביל את הקמתה של גדר הגבול מול רצועת עזה (1994). השתחרר מצה"ל בשנת 1998.

ב-1999 נבחר לכנסת מטעם סיעת "ישראל אחת" והיה חבר בה עד לשנת 2012. שימש כחבר בקבינט הביטחוני-מדיני ובתפקידי שר שונים בממשלות ישראל בהם: שר המדע התרבות והספורט (2003-1999), שר במשרד ראה"מ ושר המדע והטכנולוגיה (2006-2003), והשר להגנת העורף (2012-2011).

כיהן כסגן שר הביטחון (2011-2007). בכהונותיו כסגן שר הביטחון וכשר להגנת העורף (שר במשרד הביטחון) מיקד את פעילותו בשיפור מוכנות העורף וכלל משרדי הממשלה, ובהידוק שיתוף הפעולה ביניהם במסגרת ההיערכות למצבי חירום מגוונים. בנוסף, הוביל את תחילת הקמתו של מכשול הגדר לאורך הגבול בין ישראל למצרים (2011-2010).

כיהן כשגריר ישראל בסין (2016-2012). החל לשמש (2017) כמנהל תוכנית המחקר על סין במכון למחקרי ביטחון לאומי (INSS).

בעל תואר ראשון בהיסטוריה (1977) מאוניברסיטת תל אביב, בוגר המרכז ללימודים אסטרטגיים באוניברסיטת הרווארד (1985-1984). בוגר המכללה לביטחון לאומי.

מתן וילנאי