Pasukan ini telah ditubuhkan pada 14 Mei 1969 di Kem Majidee, Johor Bahru, Johor berikutan tercetusnya peristiwa hitam pertikaian kaum pada 13 Mei 1969. Ketika penubuhanya pasukan ini dipimpin oleh Lt Kol Ismail bin Ghows sebagai Pegawai Memerintah yang pertama. Keanggotaan pada masa itu terdiri dari anggota kerahan dan sukarela Negeri Johor.

Dua bulan selepas penubuhan, iaitu pada Julai 1969 pasukan telah diisytiharkan sebagai unit beroperasi penuh dan pada 12 Julai 1969 pasukan ini telah melaksanakan tugas buat kali pertamanya iaitu bertanggungjawab menjaga ketenteraman awam. Oleh kerana penubuhannya adalah semasa negara dalam keadaan yang gawat maka tiada perbarisan yang dilaksanakan pada masa tersebut.