Lima Prinsip Dasar Kode Etik Kecerdasan Buatan (AI) di Industri Fintech

JAKARTA - Otoritas Jasa Keuangan (OJK) bersama dengan empat asosiasi industri financial technology (fintech) di Indonesia meluncurkan Panduan Kode Etik Kecerdasan Buatan (Artificial Intelligence/AI) di Industri Teknologi Keuangan.

Asosiasi yang terlibat dalam peluncuran kode etik ini yaitu Asosiasi Fintech Indonesia (AFTECH), Asosiasi Fintech Syariah Indonesia (AFSI), Asosiasi Fintech Pendanaan Bersama Indonesia (AFPI), dan Asosiasi Layanan Urun Dana Indonesia (ALUDI). 

Peluncuran ini dilakukan dalam acara Pembukaan Puncak 5th Indonesia Fintech Summit & Expo (IFSE) 2023 yang diselenggarakan beberapa waktu lalu.

Panduan tersebut bertujuan untuk mengedepankan penggunaan kecerdasan buatan dalam industri teknologi finansial secara bertanggung jawab dan dapat dipercaya. 

Langkah ini diambil sebagai upaya bersama untuk memastikan bahwa perkembangan teknologi finansial di Indonesia tetap mengutamakan prinsip-prinsip etika dan keamanan.

Dengan diluncurkannya Panduan Kode Etik ini, diharapkan industri fintech di Tanah Air dapat memberikan kontribusi positif secara berkelanjutan dalam pemanfaatan kecerdasan buatan. 

Langkah ini juga sejalan dengan visi OJK untuk menciptakan ekosistem fintech yang inovatif namun tetap menjunjung tinggi nilai-nilai integritas dan kepercayaan.

Mengutip Panduan Etik tersebut, dalam memanfaatkan kecerdasan buatan (AI), penyelenggara fintech sebagai pelopor dalam pengembangan model bisnis berbasis AI diatur untuk mengikuti prinsip dasar berikut:

1. Berazaskan Pancasila

Penyelenggara fintech memastikan pengembangan dan pemanfaatan AI sejalan dengan kepentingan nasional, didasarkan pada nilai-nilai Pancasila, serta memegang tanggung jawab etika.

2. Bermanfaat (Beneficial)

Dalam optimalisasi AI yang bermanfaat, penyelenggara fintech diwajibkan untuk memperhatikan aspek berikut:

- Pengembangan aplikasi berbasis AI harus memberikan nilai tambah pada operasional bisnis, meningkatkan kesejahteraan konsumen, mendukung pengambilan keputusan, mengurangi ketidaksetaraan, meningkatkan inklusi keuangan, dan mendukung ekonomi berkelanjutan.

   - Pengembangan aplikasi AI harus mengikuti ketentuan yang berlaku, prinsip hak asasi manusia, mendukung keberagaman, dan melindungi konsumen atau investor.

3. Wajar dan Akuntabel (Fair and Accountable)

Pemanfaatan aplikasi AI yang wajar dan akuntabel mencakup aspek validitas, akurasi, keadilan, dan non-diskriminatif. Beberapa poin penting melibatkan:

- Memastikan bahwa model bisnis dan aplikasi berbasis AI tidak merugikan konsumen, melanggar privasi, atau menyebabkan diskriminasi terkait ketidakpahaman konsumen terhadap pemrosesan AI.

- Mengimplementasikan kerangka mitigasi risiko untuk memastikan kontribusi yang relevan dan proporsional dari algoritma, kode, data input, dan instrumen pendukung aplikasi berbasis AI.

- Menjamin bahwa pengolahan data dapat dipertanggungjawabkan, valid, up-to-date, bebas dari bias, dan sesuai dengan regulasi perlindungan data pribadi.

- Menjamin akurasi tinggi melalui uji coba yang ketat pada aplikasi AI.

- Membuat aplikasi sesuai dengan nilai, etika, dan ketentuan yang berlaku serta memiliki kerangka pertanggungjawaban untuk output yang dihasilkan.

4. Transparan dan Dapat Dijelaskan (Transparent and Explicable)

Penyelenggara fintech harus mampu menjelaskan proses pemrosesan AI kepada konsumen, termasuk input hingga output. Aspek-aspek transparansi melibatkan:

- Penguasaan atas cara kerja pemrosesan aplikasi berbasis AI yang dapat dipertanggungjawabkan.

- Penjelasan yang mengacu pada pengembang atau pemilik sistem AI terkait output, potensi risiko, dan langkah mitigasi.

- Memastikan konsumen dapat memahami penjelasan tentang pemrosesan aplikasi berbasis AI dan mengambil tindakan terkait output yang dihasilkan.

- Menerapkan kerangka manajemen risiko AI yang mencakup mekanisme pemulihan untuk output yang tidak akurat.

5. Ketangguhan dan Keamanan (Robustness and Security)

Penyelenggara fintech harus memastikan ketangguhan dan keamanan aplikasi berbasis AI dengan memperhatikan:

- Penggunaan aplikasi yang robust sesuai dengan parameter dan tujuan bisnis.

- Keamanan dari serangan siber dan mekanisme pemulihan yang efektif.

- Pengembangan aplikasi oleh ahli atau perusahaan yang bersertifikasi di bidang AI.

- Pengujian dan pembelajaran berkelanjutan untuk menjamin ketangguhan aplikasi.

- Standar yang menunjukkan tingkat validitas yang dapat diukur dan diuji.(*)