Brussels | EGINDO.co – Startup OpenAI yang didukung Microsoft pada hari Senin mendapati dirinya menjadi sasaran keluhan privasi oleh kelompok advokasi NOYB karena diduga tidak memperbaiki informasi salah yang disediakan oleh chatbot AI generatifnya, ChatGPT, yang mungkin melanggar aturan privasi UE.

ChatGPT, yang memulai booming GenAI pada akhir tahun 2022, dapat meniru percakapan manusia dan melakukan tugas-tugas seperti membuat ringkasan teks panjang, menulis puisi, dan bahkan menghasilkan ide untuk pesta bertema.

NOYB mengatakan pelapor dalam kasusnya, yang juga merupakan tokoh masyarakat, menanyakan ChatGPT tentang hari ulang tahunnya dan berulang kali diberikan informasi yang salah alih-alih chatbot memberi tahu pengguna bahwa mereka tidak memiliki data yang diperlukan.

Kelompok tersebut mengatakan OpenAI menolak permintaan pelapor untuk memperbaiki atau menghapus data, dengan mengatakan bahwa data tersebut tidak mungkin diperbaiki dan juga gagal mengungkapkan informasi apa pun tentang data yang diproses, sumber atau penerimanya.

NOYB mengatakan telah mengajukan keluhan kepada otoritas perlindungan data Austria yang memintanya untuk menyelidiki pemrosesan data OpenAI dan langkah-langkah yang diambil untuk memastikan keakuratan data pribadi yang diproses oleh model bahasa besar perusahaan tersebut.

“Jelas bahwa perusahaan saat ini tidak dapat membuat chatbot seperti ChatGPT mematuhi hukum UE, ketika memproses data tentang individu,” kata Maartje de Graaf, pengacara perlindungan data NOYB, dalam sebuah pernyataan.

“Jika suatu sistem tidak dapat memberikan hasil yang akurat dan transparan, maka sistem tersebut tidak dapat digunakan untuk menghasilkan data tentang individu. Teknologinya harus mengikuti persyaratan hukum, bukan sebaliknya,” ujarnya.

Di masa lalu, OpenAI telah mengakui kecenderungan alat ini untuk merespons dengan “jawaban yang terdengar masuk akal namun salah atau tidak masuk akal”, sebuah masalah yang dianggap sulit untuk diperbaiki.

Sumber : CNA/SL