Kasus yang menyeret Jess Asato ke High Court Inggris tidak lagi sekadar soal gambar palsu yang beredar di internet. Perkara ini kini menjadi sorotan besar karena menyentuh pertanyaan yang lebih luas: seberapa jauh tanggung jawab pembuat AI ketika sistem mereka menghasilkan konten abusif tanpa persetujuan korban.
Melalui gugatan terhadap xAI, Asato menekan isu perlindungan data dan penyalahgunaan informasi pribadi ke ruang hukum yang lebih tegas. Firma hukum AWO yang mewakilinya menyebut Asato meminta ganti rugi finansial, penetapan bahwa tindakan itu melanggar hukum, serta perintah agar xAI menghentikan pelanggaran yang masih berlangsung.
Asato juga meminta perlindungan baru agar penyalahgunaan serupa tidak terulang. Dengan begitu, perkara ini tidak hanya menyentuh kerugian yang sudah terjadi, tetapi juga langkah pencegahan untuk masa depan.
Kontroversi bermula setelah gambar deepfake seksual yang dibuat lewat Grok disebut beredar tanpa persetujuannya. Menurut Reuters, setelah Asato secara terbuka mengutuk Grok pada Januari, konten fabrikasi mulai menyebar dan memicu kemarahan yang lebih luas.
Materi itu mencakup gambar dirinya mengenakan bikini dan sebuah video yang menggambarkan dirinya “dichloroform dan disiapkan untuk serangan seksual.” Asato mengatakan Grok telah menciptakan deepfake pornografi dan konten seksual yang merugikan ribuan perempuan dan anak-anak.
Ia juga menilai kemampuan tersebut bukan sekadar kecelakaan atau penyalahgunaan oleh pengguna, melainkan pilihan desain dari para pembuatnya. Pandangan itu membuat fokus kasus bergeser dari perilaku pengguna akhir ke keputusan desain, pembatasan sistem, dan tanggung jawab perusahaan pengembang.
Ravi Naik, direktur hukum AWO sekaligus pengacara utama Asato, menyebut perkara ini sebagai uji penting untuk tanggung jawab hukum pengembang AI. Ia mengatakan kasus tersebut termasuk salah satu klaim pertama yang menguji tanggung jawab atas desain sistem AI.
Naik juga menegaskan bahwa keselamatan tidak boleh diperlakukan sebagai pemikiran belakangan. Dari sudut pandang itu, gugatan Asato dipandang sebagai penanda penting bagi standar kehati-hatian dalam pengembangan AI generatif.
Dukungan politik terhadap langkah itu juga muncul. Perdana Menteri Keir Starmer menyebut gambar-gambar tersebut menjijikkan dan menurut Sky News mengatakan dirinya “100%” mendukung tindakan yang diambil Asato.
Di saat yang sama, xAI belum segera menanggapi permintaan komentar. Perusahaan ini juga sudah menghadapi sejumlah tantangan hukum lain terkait kemampuan Grok menghasilkan gambar.
Sekitar pertengahan Januari, xAI mengumumkan perubahan yang membatasi fitur pengeditan gambar Grok dan melarang pembuatan gambar orang dengan pakaian terbuka di wilayah yang melarang konten semacam itu. Meski kemudian ada larangan perusahaan terhadap fitur nudifikasi, AWO mengutip pengujian NBC News yang menunjukkan Grok masih mampu membuat deepfake seksual setelah pembatasan diberlakukan.
Di Inggris, membuat atau meminta gambar deepfake nonkonsensual untuk orang dewasa kini juga telah menjadi tindakan ilegal. Di luar Inggris, Baltimore menggugat xAI pada Maret dengan argumen bahwa kemampuan Grok menghasilkan citra seksual fabrikasi melanggar undang-undang perlindungan konsumennya.
Pada bulan yang sama, tiga remaja Tennessee mengajukan class action terpisah dan menuduh model Grok digunakan lewat aplikasi pihak ketiga berlisensi untuk membuat materi pelecehan seksual anak yang menggambarkan mereka. Regulator di sejumlah negara juga telah membuka penyelidikan terhadap Grok, menurut Reuters.
Asato turut meminta orang-orang lain di Inggris yang gambarnya dimanipulasi Grok dengan cara yang abusif atau merendahkan untuk maju dan mendukung klaim hukumnya. Ajakan itu membuat kasus ini meluas dari sengketa individual menjadi tekanan kolektif terhadap cara AI generatif diawasi dan dibatasi.
