Beliau memeluk Islam pada tahun ke-enam dari kenabian Muhammad SAW pada waktu berumur 27 tahun. Dari Ibn Umar diceritakan bahwa Rasulullah berdo’a, “Ya Allah muliakan Islam dengan salah satu dari orang yang lebih Engkau cintai; Abu Jahal atau Umar bin Khottob.” “Dan orang yang paling Allah cintai adalah Umar bin Khottob” kata Rasulullah (HR.Ahmad). Sebab beliau orang pertama yang menyatakan secara terang-terang keislamannya.
Semasa remaja, beliau terkenal sangat keras dan kuat pendirianya di kalangan kaum Quraisy. Pandai membaca dan menulis. Di masa jahiliyah beliau juga dikenal sebagai duta besar dan sangat disegani. Mengenai pribadinya, as-Syifa’ binti Abdullah berkata; “Kalau sudah bicara, suaranya terdengar kemana-mana, kalau jalan cepat, kalau mukul buat orang sakit. Sesunguhnya beliau adalah seorang ahli ibadah (an-naasik).”
Dalam sejarah Islam permulaan tahun dan penanggalan dimulai dari peristiwa hijrahnya Rasulullah dari Mekkah ke Madinah.
Sebelum masuk Islam, beliau adalah orang yang sangat benci dan menentang Islam. Maklum, beliau adalah orang yang disegani di kalangan Quraisy karena wataknya yang keras dan susah kompromi. Disamping itu beliau adalah ‘ikon pejuang’ kebanggaan sukunya. Konon ceritanya “sekiranya keledai Umar masuk Islam, tidak mungkin Umar akan ikut masuk Islam.”
Sejarah masuknya Umar dalam ajaran Islam sangatlah unik dan menarik. Disebutkan bahwa suatu hari Umar sedang jalan. Tiba-tiba terdengar suara orang mengaji al-Qur’an. Didatangilah suara aneh itu. Maklum suara itu belum pernah didengarnya sebalum itu. Sampailah Umar ke sumber suara itu. Ternyata dilihatnya Khobab bin ar-Art sedang mengajari ngaji Fatimah, saudaranya. Seketika Umar wajahnya sangat geram dan memukul Fatimah. Umar meminta supaya mushaf itu diberikannya. Tapi Fatimah menolaknya kecuali dengan syarat kalau Umar sudah bersuci dulu. Lalu Umar pun memenuhi syarat itu. Umar pun kemudian bersuci dengan mandi. Setelah itu dibacanya mushaf al-Qur’an itu. Waktu itu yang dibaca surat Thoha. Tanpa disadari Allah telah membukakan hatinya. Kemudian Umar pergi ke rumah al-Arqom bin ar-Arqom dan menyatakan masuk Islam di depan Rasulullah tiga hari setelah Hamzah bin Abdul Mutholib masuk Islam. Menurut pendapat yang masyhur, beliau masuk Islam pada tahun ke-6 kenabian Muhammad. Orang nomer 40 dalam urutan orang-orang yang masuk Islam. Masuknya Umar dalam ajaran Islam adalah bukti dari kecintaan dan kemulian Allah. Begitu juga jawaban atas do’a yang pernah dibacakan Rasulullah. Suatu ketika Rasulullah pernah berdoa; “Ya Allah, tinggikan dan muliakan Islam salah satu dari orang yang paling Engkau cinta; Abu Jahal danUmar bin Khotob.” (HR.at-Tirmidhi,hadits hasan sohih ghorib). Masuknya Umar dalam barisan orang-orang Islam waktu itu merupakan kegembiraan dan menjadi penyemangat bagi yang lain. Sebab beliau diantara orang yang berpengaruh di kaumnya. Maka dengan masuknya Islam, sedikit banyak mempengaruhi ‘imej’ masyarakat. Dalam hal ini Ibn Mas’ud berkata; “Kami masih tetap menjadi mulia sejak Umar masuk Islam.” Mengenai keislamanya Rasulullah berkata; “Sesunguhnya Allah telah menjadi kebanaran agama (Islam) melalui lisan/ucapan Umar dan (keteguhan) hatinya”(HR.Tirmidhi). Di hadits lain disebutkan; “ Dahulu kala umat-umat sebelum kalian mempunyai pahlawan yang selalu menjadi buah bibir (pembicaraan), sekiranya umatku dibandingkan dengan umat-umat terdahalu, maka Umar bin Khotob pahlawannya (HR.Bukhori). Mengenai pribadinya Rasulullah berkata; “Demi Jiwaku yang ada di genggam-Nya, syetan tidak akan mungkin dapat menghalangi jalanmu, melainkan jalan orang selain kamu” (HR. Bukhori).
Ada enam perkara yang diusulkan Umar hingga akhirnya turun wahyu membenarkan usulannya itu. Pertama mengenai haramnya khomer. Maka turunlah ayat larangan minum khomer. Kedua; usulan supaya tawanan perang Badr dibunuh dan tidak boleh menerima tebusan darinya. Maka turunlah ayat yang menguatkan pendapatnya itu. Ketiga; usulan supaya istri-istri Rasulullah memakai hijab (kerudung). Maka turunlah ayat yang memerintahkan memakai hijab. Keempat, usulan supaya orang-orang munafik yang meninggal tidak usah disholati. Maka turunlah ayat yang melarang sholat mayit untuk orang-orang munafik. Kelima, usulan untuk melakukan sholat di maqom (tempat) Ibrahim. Maka turunlah ayat yang memerintahkan sholat di maqom Ibrahim. Keenam, ketika istri-istri saling cemburu terhadap Rasulullah, Umar berkata; “Semoga saja Tuhannya menganti istri-istri yang lebih baik dari kalian sekiranya memang menceraikan kalian.” Dari situlah turun surah at-Tahrim dan menjadi bagian dari ayat-ayatnya. Begitupula diantara pendapatnya adalah memarangi orang-orang yang murtad dan menunda memerangi orang-orang yang engan membayar zakat karena kondisi negara yang sangat lemah. Tetapi pendapatnya itu ditolak Abu Bakar. Akhirnya pun Umar menerima pendapat Abu Bakar setelah Allah memberikan pencerahan dalam hatinya.
Setelah wafatnya Rasulullah, beliau orang yang pertama membaiat Abu Bakar menjadi kholifah. Sebelum wafatnya Abu bakar, kholifah pertama, beliau pernah mencalonkan Umar untuk mengantikannya. Setelah dipilih menjadi kholifah, pertama-tama yang dilakukan adalah memerangi orang-orang murtad (keluar dari Islamm) hingga para tawanan tidak menjadi cacat dan cela bagi bagi bangsa Arab. Pada masa kekholifannya, beliau berhasil mentaklukan Syam (Syiria), Irak, Persia (Iran), Mesir, Barqoh, Barat Tripolis, Azarbaijan, Nahawan dan Jarjan. Begitu juga pada masanya dibangun kota Kuffah, Basroh dan Fustat (kota Mesir kuno). Beliau adalah sosok yang sangat penyayang dengan rakyatnya dan penuh perhatian terhadap kepentingan rakyatnya. Diceritakan bahwa beliau datang menjumpai rakyatnya dengan menyamar sebagai orang biasa. Beliau ingin mendengar langsung keluhan rakyat dan memenuhi kebutuhannya. Dengan cara ini, beliau ingin mengajarkan kepada umat Islam bahwa penguasa adalah pembantu rakyat. Hidupnya didedikasikan dan curahkan untuk membantu rakyat.
Sebelum wafatnya, beliau pernah mimpi melihat seekor ayam jago mematuk tubuhnya. Mimpi itu ditakwilkan bahwa ajalnya sudah dekat. Tidak lama sesudah mimpi itu, tepatnya tahun 23 H, ketika sedang sholat subuh, Abu Lukluk al-Fairuz menikam tubuhnya dengan pisau. Abu Lukluk adalah anak al-Mughiroh bin Syu’bah, orang persia yang beragama Majusi. Lukanya cukup parah hingga hanya bertahan tiga hari. Dan setelah itu wafat sebagai seorang syahid yang berjuang di jalan Allah. Selama menahan sakit akibat tikaman pisau, beliau memilih dan merekomendasi 6 sahabat supaya kaum muslimin memilih satu diantara calon kholifah itu. Akhirnya terpilihlah Utsman sebagai pengantinya.
Beliau dimakamkan di kamar Aisyah berdampingan dengan makan Rasulullah dan Abu Bakar. Masa kekhalifahnya 10 tahun,6 bulan dan 4 hari. Umur beliau ketika wafat 63 tahun seperti umur Rasulullah dan Abu Bakar ketika wafat.
Diantara prestasi selama menjadi kholifah yaitu membuat pembukuan mengenai anggaran negara dan pengunaan alat-alat negara untuk dipertanggungjawabkan di depan rakyat. Hingga kemudian melahirkan undang-undang pengunaan alat negara (min aina hadha?). Dalam sejarah Islam, beliau orang pertama yang mengunakan penanggakan Hijriah, orang pertama yang digelari Amirul Mukminin, orang pertama yang berjalan kaki untuk menjenguk rakyatnya pada waktu malam, orang pertama kali yang mengadakan muktamar para penguasa dan pemimpin kaum pada musim tertentu, orang pertama kali yang mengunakan mutiara untuk perhiasan, orang pertama yang melakukan sholat tarawih dengan berjamaah, orang pertama yang menghidupkan malam-malam ramadhan, orang pertama yang melakukan sholat jenazah berjamaah dengan 4 takbir, orang pertama yang memberi hadiah untuk penghafal al-Qur’an, orang pertama yang menjadikan khilafah sebagai lembaga musyawarah. Disamping itu beliau juga menyuruh umat Islam (waktu itu) untuk melakukan sholat sunnah tarawih di bulan Ramadhan secara berjama’ah dengan tujuan untuk mengeratkan ukhuwah dan menjaga syiar agama.
Diantara nasehat dan petuahnya;
“Suatu perkara akan menjadi baik jika memenuhi tiga hal; melaksanakan amanah, memberi contoh dan menghukumi dengan hukum Allah.”
“Harta menjadi barokah dan bermakna jika memenuhi tiga hal; diperolehnya dengan cara yang hak, diberikan dengan cara yang hak dan tidak tercampuri barang batil (haram/bukan haknya).”
“Wahai Ahnaf, barangsiapa banyak tertawa, wibawanya berkurang dan barangsiapa suka bergurau, maka akan diremehkan, barangsiapa memperbanyak sesuatu maka akan dikenal dengan barang itu, siapa banyak biacara banyak salahnya, siapa banyak salahnya sedikit rasa malunya, siapa sedikit rasa malunya maka sedikit pula wara’nya (sikap hati2 dalam menjaga yang haram) dan siapa yang sedikit wara’nya, maka hatinya mati.”
Mengenai wasiatnya. Hayyawah bin Syarih berkata bahwa pada waktu mengutus tentara ke medan perang beliau berkata, “Hendaklah kalian tetap menjaga takwa kepada Allah.” Bismillah dan atas pertolongan Allah. Tanda-tangani perjanjian ini dengan memohon pertolongan Allah dan kemenangan. Dan selalu berlaku benar dan sabar. Perangilah orang kafir dan jangan kalian melampui batas. Sesungguhnya Allah tidak menyukai orang-orang melampui batas. Kemudian jangan kalian lari ketika bertemu musuh dan jangan berprilaku buruk, berlebih-lebihan dalam bersikap, banyak ngobrol ketika berperang. Jangan bunuh wanita, orang tua, anak kecil…”
Diantara doa yang biasa beliau lakukan adalah;
“Allahumma tawaffani ma’al abror, wala tukholifni fil asror, wa qini ‘azabannar, wa alhiqni bil abror”
Beliau wafat setelah terkena tikaman pada pagi hari Rabu, Dzulhijjah 23 Hijriah. waktu itu berumur 63 tahun seperti umurnya Rasulullah dan Abu Bakar ketika wafat. Masa kekhalifahannya 10 tahun, 5 bulan dan 21 hari.
Selama hidupnya, beliau telah meriwayatkan kurang lebih 527 hadits, diantara riwayat haditsnya; suatu ketika Rasulullah bersabda; “Sesungguhnya amalan (perbuatan) itu bergantung pada niatnya. Dan setiap seseorang itu mendapatkan apa yang diniatkan. Barangsiapa berhijrah karena ingin mendapatkan kenikmatan dunia atau wanita yang hendak dinikahi maka hijrahnya itu tidak diniatkan untuk Allah tapi untuk kenikmatan dunia dan wanita.”