İki elçi Mekke’ye dönüp, Necâşî’nin, Müslümanların tarafını tuttuğu ve kendi isteklerinin reddedildiği haberini getirince, Kureyşliler çok hiddetlendiler. Bu yüzden hemen Ebû Cehil’in önderliğinde, mü’minlere yaptıkları işkenceleri daha da artırmaya koyuldular. Ebû Cehil’in yeğeni Ömer de onun tavsiyelerini eksiksiz ve daha şiddetli bir biçimde yerine getiriyordu. Ömer o zamanlar 26 yaşında, güçlü, yiğit ve kararından caydırılamaz bir adamdı. Fakat dayısının aksine o dindardı ve bu yüzden yeni dine karşı çıkıyordu. Babası Hattâb onu, Kâ’be’ye ve içindeki tüm tanrı ve tanrıçalara saygı duyacak bir şekilde yetiştirmişti. Bu yüzden onun için Kâ’be ve içindeki putlar birbirinden ayrılmaz, tartışılmaz ve bozulmaz kutsal bir bütünü oluşturuyordu. Kureyş de bu bütünün içindeydi; fakat artık Mekke’de iki din ve iki toplum vardı. Ömer açıkça, bu sorunun tek nedeni olduğunu görebiliyordu. Buna sebep olan adam ortadan kaldırıldığında, ona göre tüm sorun çözülecekti. Başka çıkar yol yoktu ve bu yol denenmeliydi. Uzun süreden beri bunlar aklında yer ediyordu. O gün elçiler Mekke’ye geldiğinde, kafasındakiler ortaya döküldü ve hemen evine gidip kılıcını aldı. Evden çıktıktan kısa bir süre sonra kendi kabilesinden Nuaym İbn Abdullah’a rastladı. Nuaym Müslüman olmuştu, fakat Ömer’den ve diğer akrabalarından korktuğu için bunu gizli tutuyordu. Ömer’in yüzündeki bu hiddetli ifadeyi görünce, ona nereye gittiğini sormaktan kendini alıkoyamadı. “Muhammed’e (s.a.v.), Kureyş’i ikiye ayıran o dinsize gidiyorum” dedi. Ömer “Onu öldüreceğim” derken; Nuaym, kendisinin de öldürülebileceğine işaret ederek onu durdurmaya çalıştı. Fakat Ömer’in böyle bir nedeni önemsemeyen halini görünce onu belli bir süre geciktirebilecek -Muhammed’e haber vermeye yetecek kadar-başka bir neden buldu. Bu kendisi gibi Müslüman olduğunu gizleyen arkadaşlarını ele vermek anlamına geliyordu. Fakat Nuaym, onların böyle bir durumdaki bu davranışı nedeniyle kendisini affedeceklerini, belki de takdir edeceklerini umuyordu. “Ey Ömer!”, dedi. “İlk önce gidip neden kendi ev halkını doğru yola getirmiyorsun?” Ömer “Benim ev halkım da kim?” dedi. Nuaym: “Enişten Sa’id (r.a.) ile kızkardeşin Fâtıma (r.a.) da Muhammed (s.a.v.)’in dinine girdiler. Onları kendi haline bırakmamalısın” dedi. Ömer bir kelime bile söylemeden kızkardeşinin evine doğru yöneldi. Zühre’nin fakir müttefiklerinden biri olan Habbâb (r.a.) Sa’id ve Fâtıma’ya Kur’ân öğretmek için evlerine sık sık gelirdi. O sırada Habbab onların evindeydi, yanında henüz indirilmiş olan Ta-ha Sûresi’nin âyetlerinin yazılı olduğu kâğıtlar vardı ve beraber okuyorlardı. Ömer’in kardeşinin adını çağıran hiddetli sesini duyunca, Habbâb evin bir köşesine saklandı. Fâtıma da yazılı Kur’ân sayfalarını gömleğinin altına sakladı. Fakat Ömer onların okuyuşlarını dışarıdan duymuştu, içeri geldiğinde: “Duyduğum o ses neydi?” diye sordu. Onu, hiçbir şey duymadığına ikna etmeye çalıştılar. Ömer: “Duydum ve sizin de Muhammed’e uyanlardan olduğunuzu öğrendim” dedi. Daha sonra eniştesi Sa‘îd’in üzerine atıldı ve onu dövmeye başladı; Fâtıma onları ayırmaya çalıştığında, Ömer ona da bir tokat attı ve yüzünün derisi çatladı. Bunun üzerine ikisi de bir ağızdan: “Evet Müslüman olduk. Allah’a ve Rasûlü’ne inanıyoruz, ne yapacaksan yap” dediler. Fâtıma’nın yarası kanıyordu, Ömer kanı görünce yaptığına pişman oldu. Onda bir değişiklik oldu ve kardeşine dönerek: “Biraz önce okuduğunuz şeyi bana getirin ki, Muhammed’in ne getirdiğini öğreneyim” dedi. Onlar gibi Ömer de okuma bilirdi, fakat Ömer kâğıdı istediğinde kardeşi, “Onu sana veremeyiz” dedi. Ömer tanrı ve tanrıçalarına yemin ederek korkmamalarını, kâğıdı okuduktan sonra geri vereceğini söyledi. Kardeşi onun yumuşaklığını fark etmişti ve şimdi İslâm’a girmesini daha çok istiyordu. Fâtıma “Ey kardeşim, sen şimdi üzerinde putperstliğin kirini taşıyorsun, ona ancak temiz olanlar dokunabilir” dedi. Ömer gitti ve yıkandı, Fâtıma da ona, üzerinde Ta-Ha’nın ilk âyetlerinin yazılı olduğu sayfayı verdi.
Ömer okumaya başladı ve bir bölümünü bitirdiğinde: “Bu kelimeler ne kadar güzel ve ne kadar şerefli!” dedi. Habbâb bunu duyunca saklandığı yerden çıktı ve: “Ömer, ümit ederim ki Peygamber (s.a.v.)’in duasındaki Allah’ın seçtiği kişi sen olursun; çünkü dün Peygamber (s.a.v.)’i: ‘Allah’ım, İslâm’ı ya Hişâm’ın oğlu Ebû’l-Hakem’le ya da Hattâb’ın oğlu Ömer’le güçlendir’ diye dua ederken duydum.”
Ömer: “Ey Habbâb! Muhammed (s.a.v.) şimdi nerdedir, ona gideyim de İslâm’a gireyim” dedi. Habbab, ona Peygamber (s.a.v.)’in Safa kapısı yanındaki Erkam’ın evinde mü’minlerle beraber olduğunu söyledi. Ömer kılıcını tekrar kınına soktu ve Safa’ya gidip, evin önünde durdu, adını söyleyip kapıyı çaldı. Nuaym (r.a.) onlara haber vermişti, bu yüzden Ömer’in gelişi onları şaşırtmamıştı; fakat onun sesindeki yumuşaklığa hayret etmişlerdi. Mü’minlerden biri kapıya giderek anahtar deliğinden baktı ve üzüntü içinde Peygamber (s.a.v.)’e: “Ey Allah’ın Rasûlü! Gerçekten de Ömer, kılıcıyla birlikte” dedi. Hamza: “Bırakın içeri girsin, eğer iyi niyetle geldiyse hoş geldi; ama eğer kötü niyetle geldiyse onun kafasını kendi kılıcıyla keseriz” dedi. Peygamber (s.a.v.) de bunu uygun gördü ve onu kemerinden tutup odanın ortasına çekerek, “Ey Hattâb oğlu Ömer! Seni buraya getiren ne? Herhalde Allah senin üzerine mucize gönderdi” dedi. Ömer de: “Ey Allah’ın Rasûlü! Sana, Allah’a, Rasulû’ne ve getirdiklerine inandığımı söylemek için geldim” dedi. Peygamber: “Allahu Ekber (Allah Büyüktür)” dedi, bu şekilde evdeki herkes Ömer’in Müslüman olduğunu anlamış oldu ve hepsi tekrar tekbir getirdiler.
Ömer’in Müslüman olduğunu gizlemesi söz konusu değildi. Bunu herkese, özellikle de Peygamber (s.a.v.)’e en çok düşman olanlara duyurmak istiyordu. Daha sonraki yıllarda şöyle derdi: “O gece İslâm’a girdiğimde kendi kendime şöyle düşündüm: Mekke’de Allah’ın Rasûlü’ne en düşman olan kim? Gidip ona Müslüman olduğumu söyleyeyim? Hemen aklıma gelen cevap Ebû Cehil idi. Ertesi sabah kalkıp Ebû Cehil’in evine gittim kapısını çaldım. Kapıyı açtığında, “‘Hoş geldin ey kardeşimin oğlu, seni buraya getiren ne?’ dedi. Şu cevabı verdim: ‘Allah’a, Rasûlü’ne ve O’nun getirdiklerine inandığımı sana söylemek için geldim’; ‘Allah belânı versin!’ dedi, ‘Getirdiğin haberlere de lânet olsun.’ Daha sonra kapıyı yüzüme kapadı.”