השער החדש כשמו כן הוא, שער חדש יחסית שלא נבנה כאשר הוקמה חומת העיר העתיקה במאה ה-16 אלא התווסף כשער חדש למערכת השערים. הרקע לפריצת השער הנו בקשתם של נציגי העדות הנוצריות בסוף המאה ה- 19, להקל על התושבים והצליינים הנוצרים להגיע ממתחם הרובע הנוצרי בעיר העתיקה אל מקומות האכסון שלהם שהיו מצפון לחומות העיר, כגון: מגרש הרוסים ומנזר נוטר-דאם.

על מנת שלא יאלצו הנוצרים לצאת דרך שער יפו או דרך שער שכם, הסכים הסולטאן עבד אלחמיד בשנת 1889 לפרוץ שער חדש ושמו של השער נקרא גם על שם הסולטאן.