Penulis: Herdiana Dwi M.
Prodi: Informatika
Universitas: Universitas Muhammadiyah Malang
Asal Kota: Banyuwangi
JurnalPost.com – Dahulu Artificial Intelligence atau disingkat dengan AI hanya mampu melakukan identifikasi pola, peningkatan efisiensi, atau otomatisasi tugas tertentu. Kini Generative AI mampu membuat sebuah kreasi menarik mulai dari gambar 3D, musik, video pendek, video iklan, hingga pembuatan website secara instan dan cepat. Hal tersebut menyebabkan generasi sekarang sangat ketergantungan dengan AI tanpa adanya verifikasi dalam menerima informasi. Fenomena ini menimbulkan information underload, yaitu berkurangnya kemampuan otak dalam berpikir kritis dan analisis terhadap suatu permasalahan.
Generative AI memiliki dampak lebih kompleks dalam bidang Teknologi Informasi dan Komunikasi. Pemrosesan dan sharing data bisa terjadi dalam kecepatan tinggi dan membuat data menjadi ancaman privasi dalam era Generative Artificial Intelligence. Sebagian profesional TIK tidak sadar tidak memiliki kontrol atas data sensitif; mereka mengunggah informasi sensitif seperti identitas pribadi, dokumen rahasia perusahaan, data nyata pelanggan tanpa adanya anonimisasi atau samaran. Padahal, data-data tersebut nantinya akan disimpan, dianalisis, hingga digunakan kembali untuk melatih model AI tanpa adanya izin dari pihak pemberi data.
Pada tahun 2023 beberapa karyawan di perusahaan smartphone yaitu Samsung secara tidak sengaja mengunggah source code internal untuk melakukan debugging di ChatGPT. Data yang diunggah oleh mereka akan disimpan AI ChatGPT dan berisiko akan terekspos ke pihak luar. Survei AvePoint 2024 mengatakan bahwa mayoritas perusahaan memiliki kekhawatiran terkait masalah privasi dan keamanan data. Kekhawatiran ini beralasan, mengingat semakin banyaknya data yang terhubungkan pada perangkat berbasis AI dan masih minimnya undang-undang atau aturan yang mengatur perlindungan informasi data tersebut. Situasi ini menegaskan bahwa di era Generative AI, kesadaran etika digital dan profesionalisme dalam menjaga kerahasiaan data menjadi tantangan besar bagi para pelaku TIK di seluruh dunia.
Generative Artificial Intelligence dapat menjadi kontroversi jika data diperoleh untuk pengembangan AI tanpa persetujuan orang-orang yang datanya dikumpulkan dalam konteks privasi data. Pelaku kejahatan juga dapat melakukan eksfiltrasi data dari AI. Pertimbangkan sebuah perusahaan layanan perbankan membangun aplikasi yang didukung AI internal berdasarkan data pelanggannya untuk membuat laporan transaksi, tanpa sadar akan mengunggah data pelanggan. Ini adalah contoh dari pelanggaran confidentiality policy dan memicu pelanggaran etika profesional TIK menurut ACM.
Sebagai calon profesional TIK di masa depan, kode etik menjadi hal yang sangat penting dalam membangun ekosistem digital yang dapat dipercaya dan bertanggung jawab sebagai seorang profesional TIK. Seiring dengan meningkatnya ancaman siber seperti peretasan dan pencurian data, menjaga keamanan sistem informasi adalah prioritas utama profesional TIK, seperti yang dirumuskan oleh Association for Computing Machinery (ACM). Kode etik ini menekankan empat nilai utama:
(1) Berkontribusi pada kesejahteraan masyarakat
Masing-masing prinsip ini terhubung dengan kualitas hidup manusia, seorang profesional TIK memiliki kewajiban dalam menjaga hak asasi manusia seperti meminimalisir ancaman pada keamanan data pribadi, kesehatan, serta keamanan. Para profesional TIK didorong untuk berkontribusi dalam menjaga lingkungan sehingga aman dan mensejahterakan masyarakat.
(2) Menghindarkan bahaya untuk orang lain
Seorang profesional TIK memiliki kewajiban dalam melaporkan setiap tanda-tanda risiko sistem yang dapat mengakibatkan bahaya terhadap orang lain. Seorang profesional TIK harus berhati-hati dalam melakukan sebuah analisis untuk pelaporan adanya bahaya, karena jika pelaporan salah arah akan menimbulkan bahaya lainnya.
(3) Bersikap jujur dan dapat dipercaya
Seorang profesional TIK wajib memiliki perilaku jujur agar dapat dipercaya. Dalam prinsip ini seorang profesional TIK harus transparan dan memberikan pengungkapan penuh terhadap sistem terkait, baik keterbatasan maupun potensi masalah yang muncul. Seorang profesional TIK tidak boleh melakukan pemalsuan data dan membuat laporan yang menyesatkan atau tidak benar karena hal ini merupakan pelanggaran pedoman kode etik.
(4) Menghormati privasi dan kerahasiaan data
Professional TIK harus menghormati data dan merahasiakannya, data boleh digunakan jika sudah mendapatkan persetujuan dari individu tersebut dan memiliki tujuan yang jelas dan sah. Seorang profesional TIK wajib menyampaikan informasi terkait untuk apa data tersebut digunakan dan sampai kapan data akan digunakan. Informasi yang digunakan untuk suatu tujuan tertentu tidak diperbolehkan untuk digunakan pada tujuan lain tanpa persetujuan individu tersebut.
Oleh karena itu, setiap profesional TIK wajib menjaga keamanan sistem dan melakukan transparansi mengikuti prinsip yang sudah ditetapkan oleh Association for Computing Machinery (ACM). Untuk calon profesionalitas TIK wajib membiasakan diri untuk memverifikasi setiap informasi yang dihasilkan oleh AI, karena satu kesalahan kecil yang berkaitan dengan privasi data dapat memberikan dampak buruk yang besar terhadap keamanan dan reputasi. Generative AI membuka peluang besar dalam efisiensi dan otomatisasi; namun, penggunaan Generative AI harus diimbang dengan tanggung jawab serta kebijakan karena jika tidak akan menimbulkan risiko.
Seorang profesional TIK wajib mengimplementasikan prinsip privacy by design dalam sistem yang dikembangkan serta mengikuti prinsip Association for Computing Machinery (ACM). Bagi seorang calon profesional TIK, sangat penting memahami bahwa data sensitif yang diunggah di sistem AI sangat berbahaya dan bernilai. Oleh karena itu, calon profesional TIK wajib membiasakan diri memverifikasi informasi apa pun yang dihasilkan oleh AI generatif sebelum mengambil keputusan, serta mempelajari etika digital dan keamanan data. Perusahaan harus bekerja sama dengan pemerintah untuk menetapkan peraturan perlindungan data yang harus dipatuhi dalam menangani data sensitif, seperti membatasi pengumpulan data, mendapatkan dan mengonfirmasi akses data, menilai risiko, melaporkan pengumpulan dan penggunaan data, dan hanya menyimpan data setelah tujuan tercapai. Tanpa regulasi, komitmen, dan kesadaran penuh akan pentingnya melindungi privasi data, AI generatif akan menjadi ancaman bagi kita karena akan menentukan keselamatan kita sendiri di masa depan.
