Berdasarkan Pasal 23 huruf G ayat (1) UUD 1945, BPK RI berkedudukan di ibu kota negara, dan memiliki perwakilan di setiap provinsi. Seiring dengan perkembangan pembangunan di setiap daerah, maka BPK RI mengambil langkah strategis untuk meningkatkan hasil mutu pemeriksaan. Perwakilan IV BPK RI di Denpasar dirasa memiliki lingkup pemeriksaan yang terlalu besar, meliputi wilayah Provinsi Bali, NTT, NTB, Maluku dan Papua, dan sejalan dengan misi BPK RI yang memiliki perwakilan di setiap provinsi, maka organisasi BPK RI mengalami penyesuaian. Penyesuaian tersebut antara lain dengan ditetapkannya Surat Keputusan Ketua BPK RI Nomor 09/SK/I-VIII.3/5/2004, tanggal 25 Mei 2004, dan dibentuklah Perwakilan VIII BPK RI di Jayapura.
Struktur organisasi BPK RI di Jayapura dipimpin oleh seorang Pejabat Kepala Perwakilan membawahi Kepala Sekretariat Perwakilan VIII, Kepala Sub Auditorat Perwakilan Papua dan Kepala Sub Auditorat Perwakilan Maluku, Maluku Utara, dan Irian Jaya Barat. Sekretariat Perwakilan VIII membawahi Sub Bagian Kepegawaian, Sub Bagian Keuangan, Sub Bagian Umum. Sub Auditorat Perwakilan Papua membawahi Seksi Papua I, Seksi Papua II, Seksi Papaua III. Sub Auditorat Perwakilan Maluku, Maluku Utara, Irian Jaya Barat membawahi Seksi Maluku, Seksi Maluku Utara, Seksi Irian Jaya Barat.
BPK RI di Jayapura diresmikan pada tanggal 11 April 2005 oleh Wakil Ketua BPK RI, Bapak H. Abdullah Zaini S.H., dengan nama Kantor Perwakilan VIII BPK RI di Jayapura dan sebagai Kepala Perwakilan pertama adalah Bapak Sudin Siahaan, S.H.. Wilayah pemeriksaan Perwakilan VIII BPK RI di Jayapura mencakup Propinsi Papua, Maluku, Maluku Utara, dan Irian Jaya Barat. Kantor Perwakilan VIII BPK RI di Jayapura untuk sementara berkedudukan di gedung kantor Pemerintah Provinsi Papua dengan lokasi di lantai III Gedung A, Kantor Dinas Otonom Provinsi Papua, JL. Raya Abepura-Kotaraja.
Setelah berjalan selama dua tahun, pada tahun 2006 Sub Auditorat Perwakilan Maluku, Sub Auditorat Maluku Utara dan Sub Auditorat Irian Jaya Barat terpisah menjadi Perwakilan BPK RI di Ambon dan Perwakilan BPK RI di Manokwari. Dengan dibentuknya 2 perwakilan baru tersebut, cakupan pemeriksaan Perwakilan BPK RI di Jayapura menjadi berkurang, yaitu hanya meliputi seluruh entitas yang ada di Provinsi Papua.
Berdasarkan Keputusan Ketua Badan Pemeriksa Keuangan Republik Indonesia Nomor. 39/K/I-VIII.3/7/2007 tanggal 13 Juli 2007 tentang Organisasi dan Tata Kerja Pelaksana Badan Pemeriksa Keuangan Republik Indonesia, Perwakilan BPK RI di Jayapura mempunyai tugas memeriksa pengelolaan dan tanggung jawab keuangan daerah pada Pemerintah Provinsi Papua, Kota/Kabupaten di Provinsi Papua serta BUMD dan lembaga terkait di lingkungan entitas tersebut diatas, termasuk melaksanakan pemeriksaan yang dilimpahkan oleh AKN. Struktur organisasi Perwakilan BPK RI di Jayapura membawahi Sekretariat Perwakilan, Sub Auditorat Papua I, Sub Auditorat Papua II, dan Sub Auditorat Papua III. Sekretariat Perwakilan membawahi Sub Bagian Sumber Daya Manusia, Sub Bagian Keuangan, Sub Bagian Hukum dan Humas, Sub Bagian Umum dan Sub Bagian Sekretariat Kalan. Sub Auditorat Papua I membawahi Seksi Papua I.A dan Seksi Papua I.B. Sub Auditorat Papua II membawahi Seksi Papua II.A dan Seksi Papua II.B. Sub Auditorat Papua III membawahi Seksi Papua III.A dan Seksi Papua III.B.
Dengan semakin bertambahnya kebutuhan sarana penunjang aktifitas dan tugas-tugas kedinasan maka kantor Perwakilan BPK RI di Jayapura mulai membangun Gedung kantor baru yang lebih Mandiri dan Representatif pada tahun 2007. Gedung Kantor Perwakilan BPK RI di Jayapura berlokasi di Jl. Balai Kota no. 2 Entrop, Jayapura.
Pada tahun 2008, berdasarkan Surat Keputusan Ketua BPK RI Nomor 06/K/I-XIII.2/10/2008 tentang Nama Kantor Perwakilan BPK RI, nama Perwakilan BPK RI di Jayapura berubah menjadi Kantor BPK RI Perwakilan Provinsi Papua. Pada tahun 2009, berdasarkan pada Surat Keputusan Ketua BPK RI Nomor 01/K/I-XIII.2/1/2009 tentang Nama Kantor Perwakilan BPK RI, nama Kantor Perwakilan BPK RI Provinsi Papua ditetapkan menjadi BPK RI Perwakilan Provinsi Papua.
