OpenAI sedang menyiapkan cara baru agar ChatGPT tidak berhenti di layar saat percakapan mulai mengarah ke krisis. Fitur bernama Trusted Contact akan memberi tahu kontak tepercaya yang dipilih pengguna ketika sistem mendeteksi obrolan yang berkaitan dengan menyakiti diri sendiri.
Langkah ini langsung menempatkan ChatGPT di tengah perdebatan yang lebih besar. Di satu sisi, fitur tersebut bisa menjadi jalur bantuan cepat saat situasi emosional memanas, tetapi di sisi lain juga memunculkan pertanyaan soal batas campur tangan chatbot ke kehidupan nyata.
OpenAI memberi syarat yang cukup jelas untuk fitur ini. Trusted Contact hanya tersedia secara opsional bagi pengguna dewasa yang ingin menambah satu kontak dewasa tepercaya lewat pengaturan ChatGPT.
Kontak yang dipilih juga tidak bisa sembarang orang. Batas usia menyesuaikan wilayah pengguna, dengan ketentuan minimal 18 tahun secara global dan 19 tahun di Korea Selatan.
Setelah kontak ditambahkan, undangan akan dikirim ke orang tersebut. Keputusan untuk menerima atau menolak tetap ada di tangan kontak yang ditunjuk, sehingga pengguna tidak bisa memaksakan fitur ini berjalan sepihak.
Saat fitur sudah aktif, pengguna juga tidak perlu menekan tombol khusus setiap kali memakai ChatGPT. Sistem akan memantau percakapan di latar belakang selama obrolan berlangsung.
Cara kerja notifikasinya
Ketika ChatGPT mendeteksi percakapan yang mungkin membahas self-harm, sistem akan memberi tahu pengguna lebih dulu bahwa kontak tepercaya mereka berpotensi menerima notifikasi. Peringatan ini menjadi penanda awal sebelum proses berikutnya berjalan.
OpenAI tidak menyerahkan keputusan itu hanya pada deteksi otomatis. Perusahaan juga menempatkan tim peninjau manusia yang dilatih khusus untuk menilai percakapan yang memunculkan kekhawatiran keselamatan.
Tim tersebut menentukan apakah isi obrolan benar-benar menunjukkan masalah keamanan. Mereka juga memutuskan apakah kontak tepercaya perlu dihubungi atau tidak, sehingga tindakan ini tidak sepenuhnya bergantung pada sistem otomatis.
Pendekatan ini menunjukkan bahwa OpenAI mencoba menjaga keseimbangan antara respons mesin dan penilaian manusia. Dalam percakapan sensitif, keputusan seperti ini diperlakukan sebagai isu keselamatan, bukan sekadar pemicu teknis biasa.
Privasi tetap dijaga, meski ada notifikasi
Meski dirancang untuk keadaan darurat, fitur ini tidak berarti seluruh isi chat dibagikan ke orang lain. Kontak tepercaya tidak akan menerima transkrip percakapan pengguna.
Sebagai gantinya, kontak hanya mendapatkan notifikasi yang mendorong mereka untuk memeriksa keadaan pengguna. Dengan begitu, OpenAI mencoba membuka jalan bagi dukungan personal tanpa membongkar isi obrolan secara penuh.
Pembatasan ini menjadi penting karena percakapan dengan chatbot sering memuat hal yang sangat pribadi. Dengan tidak mengirim salinan chat, risiko pelanggaran privasi bisa ditekan saat fitur keselamatan diaktifkan.
Latar yang membuat fitur ini terasa sensitif
Kehadiran Trusted Contact juga muncul di tengah sorotan yang makin besar terhadap chatbot AI. ChatGPT sudah dipakai banyak orang untuk membicarakan hampir semua hal, termasuk topik yang sangat sensitif.
Dalam beberapa kasus, ChatGPT bahkan disebut terlibat dalam situasi self-harm. OpenAI juga telah menghadapi gugatan hukum terkait kejadian seperti itu, sehingga fitur baru ini terlihat sebagai upaya memperkuat perlindungan saat pengguna berada dalam kondisi rentan.
Karena itu, Trusted Contact tidak sekadar menambah fungsi baru. Fitur ini memperluas peran ChatGPT dari alat percakapan menjadi jembatan menuju bantuan dari orang terdekat ketika risiko dinilai meningkat.
Sebelum fitur ini hadir, ChatGPT sebenarnya sudah punya sejumlah pengaman untuk percakapan sensitif. Sistem mendorong pengguna menghubungi layanan bantuan atau hotline, sekaligus menyarankan jeda dari penggunaan ChatGPT itu sendiri.
Trusted Contact menambah lapisan perlindungan di atas sistem yang sudah ada. Fokusnya bukan membuat jawaban AI lebih panjang, melainkan membuka kemungkinan keterlibatan manusia di luar platform saat percakapan menunjukkan tanda bahaya.
Source: www.androidauthority.com-
-
-
-
