Berawal di tahun 1988, seorang ulama kharismatik dari betawi yaitu Abuya KH. Abdurrahman Nawi berkeinginan untuk membuka suatu Pondok Pesantren yang kebetulan di kediaman beliau sendiri, di Depok. Alasannya, ingin mengembangkan dakwah Islam di tengah zaman yang semakin keropos akhlaknya.
Cita-cita itu lalu diprosesnya dengan bermusyawarah bersama keluarga dan kerabat dekat tentang keinginan beliau, “ternyata teman saya pun sangat mendukung akan cita-cita saya” ujar kiayi yang biasa dipanggil abuya ini.
Pada tahun 1989 terwujudlah cita-citanya untuk membangun sebuah Pondok Pesantren meskipun belum resmi. Pada tanggal 10 bulan Oktober tahun 1989 diresmikanlah Pondok Pesantren oleh Menteri Agama, Munawir Sadzali dan Ketua PBNU saat itu KH. Idham Chalid sekaligus diberi nama yaitu Pondok Pesantren Al-Awwabin yang bertempat di Pancoran Mas Depok.
Pada tahun 1990, pertama kali dibuka penerimaan santri baru untuk angkatan pertama yang kira-kira berjumlah 30 santri. Lambat laun santri di Pondok Pesantren Al-Awwabin meningkat sampai kira-kira 200 santri. Akan tetapi di dalam hati beliau rasanya belum cukup membuka Pesantren satu cabang saja. Akhirnya, beliau berinisiatif membuka cabang yang kedua di Desa Perigi, Sawangan yang di khususkan untuk santriwati.
Sampai sekarang para lulusannya menyebar luas ke berbagai pelosok daerah di Indonesia. Sekitar ribuan alumni sudah terjun ke masyarakat untuk berdakwah menegakan kalimat tauhid dan menyebarkan Islam yang rahmatan lil alamiin. Kepada santri-santrinya yang berdakwah Abuya berpesan “jaga akhlakmu dimana saja kau berada dan teruslah berdakwah dan menyebarkan ilmu yang bermanfaat, sebab satu orang yang mendapat petunjuk dari Allah sebab kamu, itu sesungguhnya lebih baik dari dunia dan segala isinya”.