AI adalah alat yang ampuh yang harus digunakan secara bertanggung jawab dan bijaksana untuk mengurangi bahaya.Kecerdasan buatan dapat digunakan untuk membantu perusahaan mempersempit kumpulan ribuan pelamar kerja. AI dapat diterapkan untuk membantu dokter membuat rekomendasi untuk perawatan atau melakukan prosedur. AI mungkin muncul dalam kehidupan sehari-hari dengan membantu pengemudi menemukan rute pulang yang lebih cepat.
Tetapi bagaimana jika rekomendasi di kantor dokter salah atau algoritma yang digunakan untuk membuat keputusan perekrutan secara sistematis mengecualikan jenis kandidat tertentu?
Bidang ilmu komputer canggih yang dimaksudkan untuk meningkatkan kehidupan ini mungkin berakhir dengan lebih banyak kerugian daripada kebaikan dalam beberapa kasus. Belum lagi, perusahaan juga dapat menderita kerugian reputasi atau hukum jika AI digunakan secara tidak bertanggung jawab.
Apa Itu Etika AI?
Etika AI adalah prinsip seputar penggunaan kecerdasan buatan yang bertanggung jawab dan bermoral, agar memastikan AI digunakan dengan cara yang paling akurat, tidak bias, dan bermoral, penting bagi perusahaan untuk menerapkan AI yang beretika. Itulah sebabnya perusahaan seperti Microsoft dan IBM telah membuat pedoman etika AI yang komprehensif dan perusahaan teknologi yang lebih kecil juga membuat standar tentang cara menggunakan AI secara bertanggung jawab.
“Ketepatan harus jauh lebih tinggi dalam perawatan kesehatan daripada dalam situasi lain di mana kita hanya menjalani hidup kita, dan Anda mendapatkan rekomendasi di Google Maps untuk restoran yang mungkin Anda sukai,” kata Sachin Patel, CEO di Apixio, platform AI perawatan kesehatan. “Kasus terburuk, Anda seperti, ‘Oh, saya sebenarnya tidak ingin makan itu hari ini,’ dan Anda baik-baik saja. Namun dalam kasus ini, kami ingin memastikan bahwa Anda dapat secara spesifik membuat rekomendasi dan merasa bahwa Anda 90 persen plus pada metrik presisi tersebut.”
Built In berbicara dengan AI dan pakar etika tentang praktik terbaik bagi perusahaan teknologi untuk memastikan mereka menjalankan etika AI yang kuat.
Ketahui Dampak AI Bagi Produk Anda
Pertama, perusahaan harus mengartikulasikan mengapa mereka berencana menggunakan AI dan bagaimana hal itu akan menguntungkan orang.
“Mereka harus mengatakan bahwa kita ingin membuat teknologi yang bermanfaat bagi dunia, bukan membuat dunia menjadi tempat yang lebih buruk, karena kita semua harus hidup bersama di sini.”
“Apa mungkin hal tersebut digunakan untuk hal-hal buruk seperti sistem senjata otonom versus penemuan obat hingga dapat membantu orang dalam pengobatan?” kata Brian Green, direktur etika teknologi di Markkula Center for Applied Ethics di Santa Clara University.
Bahkan dalam kasus yang tidak terlalu ekstrem, AI dapat membahayakan individu dengan membuat orang merasa lebih terisolasi atau kecanduan perangkat mereka.
“Ada begitu banyak algoritma dan aplikasi di luar sana yang menggunakan pembelajaran mesin atau jenis taktik lain untuk mencoba membuat Anda kecanduan, yang dalam beberapa hal melanggar kebebasan manusia,” kata Green. “Kamu dimanipulasi, pada dasarnya, oleh hal-hal ini.”
Misalnya, Flappy Bird adalah game seluler di mana pengguna menavigasi burung digital di sekitar rintangan. Setelah melompat ke salah satu dari 10 aplikasi yang paling banyak diunduh di AS pada tahun 2014, perancang menyadari bahwa game itu membuat ketagihan, jadi dia memutuskan untuk menarik game tersebut dari toko aplikasi.
“Hal tersebut mungkin membuatnya kehilangan uang hampir keseluruhan, namun pada saat yang sama, setidaknya dia tahu sendiri bahwa dia tidak akan menyakiti kehidupan di dunia dengan apa yang dia lakukan karena ia memiliki gambaran yang lebih besar,” kata Green. “Ada hal yang lebih penting daripada uang.”
Perusahaan harus mempertimbangkan bagaimana penggunaan AI akan mempengaruhi orang-orang yang menggunakan produk atau terlibat dengan teknologi dan bertujuan untuk menggunakan AI hanya dengan cara yang akan menguntungkan kehidupan masyarakat. Misalnya, AI dapat berdampak buruk pada lingkungan karena jumlah energi yang signifikan yang dibutuhkan model pembelajaran mesin untuk pelatihan, tetapi AI juga dapat digunakan untuk membantu memecahkan masalah iklim dan efisiensi, kata Green.
“Saya pikir hal pertama yang harus dilakukan untuk sebuah perusahaan adalah kepemimpinan harus membuat pilihan secara fundamental,” kata Green. “Mereka harus mengatakan bahwa kita ingin membuat teknologi yang bermanfaat bagi dunia, bukan membuat dunia menjadi tempat yang lebih buruk, karena kita semua harus hidup bersama di sini.”
Membangun, Menyatakan Nilai, dan Pedoman Etika Perusahaan
Ketika sebuah perusahaan memutuskan untuk melanjutkan menggunakan AI dalam model bisnisnya, maka langkah selanjutnya adalah mengartikulasikan nilai-nilai dan aturan organisasi tentang bagaimana AI akan digunakan.
“Selama mereka memiliki seperangkat prinsip, itu adalah awal yang baik, tetapi kemudian kalian harus mencari cara untuk mengoperasionalkannya dan benar-benar mewujudkannya di perusahaan,” kata Green. “kalian harus memasukkannya ke dalam produk hingga pada akhirnya. Itu berarti Anda perlu melibatkan para insinyur, untuk melibatkan manajer produk. Anda perlu melibatkan orang-orang yang berada dalam kepemimpinan di bagian perusahaan itu. Dapatkan mereka di kapal. Mereka harus menjadi juara etika.”
Markkula Center for Applied Ethics memiliki perangkat untuk membantu para insinyur dan desainer memikirkan tentang etika AI dalam pekerjaan mereka, seperti melakukan penyisiran risiko etis atau pemeriksaan sebelum dan sesudah kematian etis untuk menanggapi dan menyesuaikan diri dengan kegagalan etika apa pun. Di Apixio, kepala ilmu data perusahaan membuat sumpah etika AI internal untuk seluruh perusahaan, tetapi terutama untuk ilmuwan data, yang menguraikan praktik terbaik seputar topik seperti transfer data yang aman dan privasi data, kata Patel.
HireVue, platform perekrutan yang menggunakan AI untuk penilaian pra-pekerjaan dan keterlibatan pelanggan, telah membuat pernyataan kemampuan menjelaskan AI yang dibagikan secara publik. Dokumen tersebut menguraikan untuk pelanggannya mengapa dan bagaimana perusahaan menggunakan AI.
“Ketika saya bersama HireVue, saya telah melihat kami mulai bergerak ke arah yang lebih transparan kenapa, karena apa yang kami lihat adalah bukti jika kami tidak memberi tahu orang-orang apa yang kami lakukan, mereka sering menganggap sesuatu lebih buruk,” kata Lindsey Zuloaga, kepala ilmuwan data di HireVue.
Baca juga: Apache vs NginX : Mana yang lebih baik?
Menentukan Transparansi
Startup yang menggunakan AI sering mendapati diri mereka melakukan pengujian dengan cepat. Meskipun diperlukan, hal itu dapat menyebabkan lupa bagaimana algoritma pada awalnya dibuat dan mengapa keputusan tertentu dibuat pada waktu tertentu, kata Patel. Transparansi seputar pembuatan algoritma dapat membantu memahami keterlacakan dan alasan di balik keputusan.
“Ini adalah benda hitam bagi para insinyur yang benar-benar ingin membangunnya juga … dan itu membuatnya akan semakin sulit untuk mengetahui kapan bisa merayap masuk dan bagaimana memperbaiki dan membenarkan modelnya.”
“Kami akan melatih banyak sinyal. Mereka belajar sendiri. Itu sifat pembelajaran mesin, dan kemudian Anda seperti, ‘Apakah saya tahu cara melacak untuk memastikan [saya mengerti] apa yang dipelajarinya sendiri?’” kata Patel. “Kerap kali, Anda kembali setahun kemudian, dan Anda akan mengira seperti, ‘Oh, saya harus benar-benar mempelajarinya kembali mulai sekarang.'”
Terkadang teknik pembelajaran mesin bisa menjadi sangat kompleks sehingga manusia tidak mungkin memahaminya. Model kotak hitam di AI dibuat dari data oleh algoritme di mana tidak ada penjelasan kepada manusia mengapa keputusan itu dibuat. “Jika Anda tidak dapat memahami algoritma, itu akan menjadi masalah. Kami ingin mencoba melindungi orang-orang yang sedang dianalisis oleh algoritma, ”kata Green.
Transparansi seputar algoritma adalah cara untuk membantu mengurangi potensi bias dalam pengambilan keputusan AI, kata Sameer Maskey, asisten profesor di Universitas Columbia dan CEO Fusemachines, sebuah perusahaan pembelajaran mesin.
“Sampai sekarang, dengan sistem pembelajaran yang semakin mendalam dengan seratus juta parameter, ia dapat mengeluarkan keputusan. Ini adalah kotak hitam bagi kebanyakan orang, ”kata Maskey. “Kotak hitam ini bagi para insinyur yang benar-benar dapat membangun dan mengembangkan seseorang. Banyak insinyur tidak memiliki transparansi yang diperlukan dalam mencari tahu mengapa itu membuat keputusan itu, dan itu membuatnya semakin sulit untuk mengetahui kapan bisa merayap masuk dan bagaimana memperbaiki modelnya.”