geosurvey.co.id – Dunia teknologi diguncang oleh kematian tragis Suchir Balaji, 26 tahun, mantan peneliti OpenAI yang menjadi terkenal karena melanggar praktik perusahaan.
Suchir Balaji ditemukan tewas di apartemennya di San Francisco pada 26 November 2024. Kematian Balaji dinyatakan sebagai bunuh diri oleh pemeriksa medis kota, tanpa ada bukti adanya pelanggaran.
Polisi San Francisco mengatakan Suchir Balaji meninggal karena bunuh diri. Namun, kematian pria cerdas berusia 26 tahun ini masih menjadi misteri.
Pasalnya, Suchir Balaji pernah membocorkan dugaan pelanggaran etika yang dilakukan oleh raksasa AI OpenAI dan menyampaikan kekhawatiran bahwa mereka secara ilegal menggunakan materi berhak cipta untuk melatih teknologinya, termasuk ChatGPT.
Insiden mengerikan ini telah menarik perhatian baru terhadap kritik terang-terangan Balaji terhadap kecerdasan buatan (AI) dan dilema etikanya. Kenali karakter Suchir Balaji lebih dalam
Suchir Balaji menjadi pusat perhatian setelah dia menyampaikan kekhawatiran tentang kecerdasan buatan generatif dan tuduhan penyalahgunaan konten yang dilindungi serta memperingatkan masalah etika dalam industri yang dia bantu dirikan.
Kantor kepala pemeriksa medis San Francisco mengatakan bahwa berdasarkan penyelidikan awal, pria keturunan India-Amerika berusia 26 tahun itu meninggal karena bunuh diri.
Sejauh ini polisi belum menemukan adanya penipuan. Suchir Balaji. (Postingan pertama)
Menariknya, pada tanggal 25 November, sehari sebelum polisi menemukan jenazah Balaji, mantan karyawan OpenAI tersebut disebutkan di pengadilan dalam gugatan hak cipta yang diajukan terhadap startup tersebut.
OpenAI kemudian setuju untuk meninjau file penyimpanan Balaji, yang menimbulkan masalah hak cipta yang serius, TechCrunch melaporkan.
Suchir Balaji adalah salah satu arsitek utama di balik ChatGPT, salah satu teknologi paling revolusioner di abad ke-21.
Dia terpesona oleh berita tentang DeepMind, sebuah startup yang mengembangkan AI yang dapat memainkan sendiri game klasik Atari, termasuk Space Invaders, Pong, dan Breakout.
“Saya pikir kecerdasan buatan adalah sesuatu yang dapat digunakan untuk memecahkan masalah-masalah sulit seperti mengobati penyakit dan menghentikan penuaan,” katanya dalam sebuah wawancara dengan New York Times.
“Saya pikir kita bisa menemukan ilmuwan yang bisa membantu memecahkan masalah ini.”
Suchir Balaji, seorang mahasiswa ilmu komputer di University of California, Berkeley, mulai mengeksplorasi ide untuk mengembangkan sistem matematika, yang disebut jaringan saraf, yang dapat mempelajari keterampilan dengan menganalisis data digital.
Ia bahkan sempat magang di OpenAI pada tahun 2018 dan kemudian resmi bergabung dengan perusahaan AI pada tahun 2020.
Balaji mengerjakan WebGPT pada awalnya di OpenAI dan kemudian bekerja di tim pra-pelatihan untuk GPT-4.
Menurut publikasi tersebut, Balaji memimpin penelitian di balik pengembangan jaringan saraf yang membutuhkan waktu berbulan-bulan untuk menganalisis hampir semua teks bahasa Inggris di internet. Saat Suchir Balaji pertama kali bergabung dengan OpenAI, dia mengerjakan WebGPT dan kemudian bekerja di tim pra-pelatihan untuk GPT-4.
“Dengan proyek penelitian, biasanya Anda dapat melatih data apa pun,” kata Balaji. “Itulah mentalitas saat itu.”
Kemudian, OpenAI merilis ChatGPT. Chatbots, awalnya didorong oleh pendahulunya GPT-4 dan kemudian oleh GPT-4 itu sendiri, menjadi berita utama dan mendapatkan popularitas besar. Dan itu dengan cepat menjadi usaha yang menghasilkan uang.
Pada Agustus 2024, Suchir Balaji memutuskan untuk meninggalkan OpenAI karena meningkatnya kekhawatiran bahwa teknologi yang ia bantu kembangkan akan lebih banyak merugikan daripada menguntungkan.
“Jika Anda yakin dengan apa yang saya yakini, Anda harus keluar dari perusahaan,” katanya kepada media. Inilah kekhawatiran yang dikemukakan Suchir Balaji
Balaji, mantan karyawan OpenAI yang bekerja di perusahaan tersebut selama lebih dari empat tahun, meninggalkan perusahaan tersebut, dengan alasan kekhawatiran tentang bagaimana raksasa AI tersebut diduga menggunakan data berhak cipta tanpa izin yang sesuai.
Dalam sebuah wawancara dengan The New York Times, dia menjelaskan bagaimana sistem seperti GPT-4 belajar dengan membuat salinan persis dari data yang menjadi dasar pelatihannya.
Setelah data disalin, perusahaan seperti OpenAI dapat melatih sistem mereka untuk menghasilkan salinan yang identik atau keluaran yang benar-benar baru. Suchir Balaji adalah salah satu arsitek utama di balik ChatGPT, salah satu teknologi paling revolusioner di abad ke-21. (Tertaut)
Kenyataannya adalah perusahaan mengajarkan sistem untuk melakukan hal-hal di antaranya.
“Output yang dihasilkan memang tidak sama persis dengan input yang sudah ada, namun pada dasarnya bukanlah sesuatu yang baru,” kata Balaji.
Dia memperingatkan bahwa ChatGPT dan chatbot serupa menimbulkan risiko bagi pembuat konten, bisnis, dan layanan Internet yang menghasilkan data yang awalnya digunakan untuk melatih bot AI.
Peringatan Suchir Balaji mencerminkan semakin banyak orang yang menuntut perusahaan AI, termasuk OpenAI, karena secara ilegal menggunakan materi berhak cipta untuk melatih teknologi mereka.
Ini termasuk pemrogram komputer, artis, label rekaman, penulis buku, dan organisasi berita.
Suchir Balaji juga menunjukkan masalah yang lebih besar: teknologi AI semakin menggantikan layanan internet yang ada, katanya.
Teknologi sering kali menghasilkan informasi palsu atau bahkan palsu; Ini adalah fenomena yang oleh para peneliti disebut sebagai “halusinasi”. Dia mengatakan internet berubah menjadi lebih buruk.
Namun klaimnya ditolak oleh OpenAI.
“Kami membangun model AI kami menggunakan data yang tersedia untuk umum, dilindungi oleh penggunaan wajar dan prinsip-prinsip terkait, serta didukung oleh preseden hukum yang sudah lama dan diterima secara luas.”
“Kami menganggap prinsip-prinsip ini adil bagi para pencipta, penting bagi para inovator, dan penting bagi daya saing AS,” kata perusahaan itu dalam sebuah pernyataan.
Dalam postingan October X, Balaji menyatakan keprihatinannya mengenai penggunaan materi berhak cipta oleh perusahaan AI yang produktif.
“Awalnya saya tidak tahu banyak tentang hak cipta, penggunaan wajar, dan sebagainya, namun setelah melihat semua tuntutan hukum yang diajukan terhadap perusahaan GenAI, saya mulai bertanya-tanya,” tulisnya.
Saat Balaji menyelidiki masalah ini lebih lanjut, dia sampai pada kesimpulan yang meresahkan.
“Penggunaan wajar sepertinya merupakan pembelaan yang tidak masuk akal bagi banyak produk AI generatif karena premis dasar bahwa mereka dapat menciptakan proxy yang bersaing dengan data yang mereka latih,” tambahnya.
Meskipun banyak mantan karyawan OpenAI yang menyatakan keprihatinannya mengenai budaya keamanan startup, Balaji merupakan salah satu dari sedikit orang yang secara langsung mempertanyakan data yang digunakan untuk melatih modelnya.
Tweet terakhirnya dan postingan blog yang menyertainya mendapat perhatian baru setelah kematiannya, sehingga mendorong seruan untuk peraturan yang lebih kuat dan transparansi yang lebih besar dalam industri kecerdasan buatan yang berkembang pesat.
Sumber: First Post dan berbagai sumber
