Abdul Malik menjadi khalifah setelah ayahnya Marwan bin Hakam meninggal pada tahun

65 H/ 684 M. pada saat itu khalifah yang legal adalah Abdullah ibnuz-Zubair. Kemudian dia
berhasil mengambil Irak dari tangan Abdullah ibnuz-Zubair dan menaklukan Hijaz secara
keseluruhan. Setelah Abdullah ibnuz-Zubair terbunuh, maka ia dibaiat oleh seluruh masyarakat
muslim. Dia menjadi khalifah sejak tahun 73 H/ 692 M. keadaan negara aman berada di
tangannya.
Khalifah Abdul Malik adalah orang kedua yang terbesar dalam deretan khalifah Bani
Umayyah yang disebut-sebut sebagai ‘Pendiri Kedua’ bagi kedaulatan Umayyah. Ia dikenal
sebagai seorang khalifah yang dalam ilmu agamanya, terutama di bidang fiqih. Ia telah berhasil
mengembalikan sepenuhnya integritas wilayah dan wibawa kekuasaan keluarga Umayyah dari
segala pengacau negara yang merajalela pada masa-masa sebelumnya.
Khalifah Abdul Malik memerintah paling lama, yakni 20 tahun ditopang oleh para
pembantunya yang juga termasuk orang kuat dan menjadi kepercayaaannya, seperti Al-Hajjaj bin
Yusuf yang gagah berani di medan perang, dan Abdul Aziz, saudaranya yang dipercaya
memegang jabatan sebagai gubernur Mesir.
Pada awal kekuasaan dan selama dekade pertama sebagai khalifah, Abdul Malik berada di
tengah-tengah banyak musuh dan seperti pendahulunya yang termasyhur, Muawiyah, dia harus
mengahadapi musuh-musuh di berbagai front. Akan tetapi, keberanian, keteguhan hati dan
kebijaksanaannya memudahkan keberanian dan perasaan dendam lawan-lawannya.