NewYork | EGINDO.co -Apakah Anda mengalami sakit kepala atau infeksi sinus? Seperti apa rasanya patah tulang akibat stres? Haruskah Anda khawatir dengan nyeri di dada? Jika Anda mencari pertanyaan tersebut di Google sekarang, jawabannya mungkin ditulis oleh kecerdasan buatan.

Bulan ini, Google meluncurkan fitur baru yang disebut Ringkasan AI yang menggunakan AI generatif, sejenis teknologi pembelajaran mesin yang dilatih berdasarkan informasi dari seluruh Internet dan menghasilkan jawaban percakapan untuk beberapa pertanyaan pencarian dalam hitungan detik.

Dalam beberapa minggu sejak alat tersebut diluncurkan, pengguna telah menemukan berbagai ketidakakuratan dan jawaban aneh pada berbagai subjek. Namun, terkait cara menjawab pertanyaan kesehatan, para ahli mengatakan taruhannya sangat tinggi.

Teknologi tersebut dapat mengarahkan orang ke kebiasaan yang lebih sehat atau perawatan medis yang dibutuhkan, tetapi juga berpotensi memberikan informasi yang tidak akurat. AI terkadang dapat memalsukan fakta. Dan jika jawabannya dibentuk oleh situs web yang tidak didasarkan pada sains, AI tersebut mungkin menawarkan saran yang bertentangan dengan panduan medis atau menimbulkan risiko bagi kesehatan seseorang.

Sistem tersebut telah terbukti menghasilkan jawaban yang buruk yang tampaknya didasarkan pada sumber yang salah. Ketika ditanya “berapa banyak batu yang harus saya makan,” misalnya, AI Overviews memberi tahu beberapa pengguna untuk makan setidaknya satu batu sehari untuk mendapatkan vitamin dan mineral. (Saran tersebut diambil dari The Onion, situs satir.)

“Anda tidak dapat mempercayai semua yang Anda baca,” kata Dr Karandeep Singh, kepala petugas kesehatan AI di UC San Diego Health. Dalam bidang kesehatan, katanya, sumber informasi Anda sangat penting.

Hema Budaraju, direktur senior manajemen produk Google yang membantu memimpin pekerjaan pada AI Overview, mengatakan bahwa pencarian kesehatan memiliki “pagar pembatas tambahan,” tetapi menolak untuk menjelaskannya secara terperinci. Pencarian yang dianggap berbahaya atau eksplisit, atau yang menunjukkan bahwa seseorang berada dalam situasi rentan, seperti menyakiti diri sendiri, tidak memicu ringkasan AI, katanya.

Google menolak untuk memberikan daftar terperinci situs web yang mendukung informasi dalam AI Overviews, tetapi mengatakan bahwa alat tersebut bekerja bersama dengan Google Knowledge Graph, sistem informasi yang sudah ada yang telah menarik miliaran fakta dari ratusan sumber.

Respons pencarian baru memang menyebutkan beberapa sumber; untuk pertanyaan kesehatan, situs-situs seperti Mayo Clinic, WebMD, Organisasi Kesehatan Dunia, dan pusat penelitian ilmiah PubMed sering kali menjadi sumbernya. Namun, daftarnya tidak lengkap: Alat ini juga dapat mengambil informasi dari Wikipedia, posting blog, Reddit, dan situs web e-commerce. Alat ini juga tidak memberi tahu pengguna fakta mana yang berasal dari sumber mana.

Dengan hasil pencarian standar, banyak pengguna dapat langsung membedakan antara situs web medis yang bereputasi baik dan perusahaan permen. Namun, satu blok teks yang menggabungkan informasi dari berbagai sumber dapat menyebabkan kebingungan.

“Dan itu jika orang-orang benar-benar melihat sumbernya,” kata Dr. Seema Yasmin, direktur Stanford Health Communication Initiative, sambil menambahkan, “Saya tidak tahu apakah orang-orang benar-benar melihat, atau apakah kita benar-benar telah mengajari mereka untuk melihat dengan baik.” Dia mengatakan penelitiannya sendiri tentang misinformasi telah membuatnya pesimis tentang minat rata-rata pengguna untuk melihat lebih jauh dari sekadar jawaban cepat.

Mengenai keakuratan jawaban tentang cokelat, Dr. Dariush Mozaffarian, seorang ahli jantung dan profesor kedokteran di Universitas Tufts, mengatakan bahwa jawaban tersebut sebagian besar benar dan merangkum penelitian tentang manfaat kesehatan cokelat. Namun, jawaban tersebut tidak membedakan antara bukti kuat yang diberikan oleh uji coba acak dan bukti yang lebih lemah dari studi observasional, katanya, atau memberikan peringatan apa pun tentang bukti tersebut.

Benar bahwa cokelat mengandung antioksidan, kata Dr. Mozaffarian. Namun, klaim bahwa konsumsi cokelat dapat membantu mencegah kehilangan ingatan? Itu belum terbukti dengan jelas, dan “perlu banyak peringatan,” katanya. Mencantumkan klaim tersebut secara berdampingan memberi kesan bahwa beberapa klaim lebih mapan daripada yang sebenarnya.

Jawaban juga dapat berubah seiring dengan perkembangan AI itu sendiri, bahkan ketika sains di balik jawaban yang diberikan belum berubah.

Seorang juru bicara Google mengatakan dalam sebuah pernyataan bahwa perusahaan berupaya untuk menampilkan pernyataan sanggahan pada tanggapan jika diperlukan, termasuk catatan bahwa informasi tersebut tidak boleh diperlakukan sebagai nasihat medis.

Tidak jelas bagaimana tepatnya AI Overviews mengevaluasi kekuatan bukti, atau apakah ia memperhitungkan temuan penelitian yang saling bertentangan, seperti temuan tentang apakah kopi baik untuk Anda. “Sains bukanlah sekumpulan fakta statis,” kata Dr. Yasmin. Ia dan pakar lainnya juga mempertanyakan apakah alat tersebut akan memanfaatkan temuan ilmiah lama yang telah dibantah atau tidak menangkap pemahaman terkini tentang suatu masalah.

“Mampu membuat keputusan penting – untuk membedakan kualitas sumber – itulah yang dilakukan manusia sepanjang waktu, yang dilakukan dokter,” kata Dr. Danielle Bitterman, seorang dokter-ilmuwan dalam kecerdasan buatan di Dana-Farber Cancer Institute dan Brigham and Women’s Hospital. “Mereka sedang mengurai bukti.”

Jika kita ingin alat seperti AI Overviews memainkan peran itu, katanya, “kita perlu lebih memahami bagaimana mereka akan menavigasi berbagai sumber dan bagaimana mereka menerapkan lensa kritis untuk sampai pada suatu ringkasan,” katanya.

Para ahli mengatakan hal-hal yang tidak diketahui itu mengkhawatirkan, mengingat sistem baru itu meningkatkan respons AI Overview atas tautan individual ke situs web medis terkemuka seperti Mayo Clinic dan Cleveland Clinic. Situs-situs semacam itu secara historis naik ke puncak hasil untuk banyak pencarian kesehatan.

Seorang juru bicara Google mengatakan bahwa AI Overviews akan mencocokkan atau meringkas informasi yang muncul di hasil teratas pencarian, tetapi tidak dirancang untuk menggantikan konten itu. Sebaliknya, kata juru bicara itu, itu dirancang untuk membantu orang mendapatkan gambaran tentang informasi yang tersedia.

Mayo Clinic menolak berkomentar mengenai tanggapan baru tersebut. Seorang perwakilan dari Cleveland Clinic mengatakan bahwa orang yang mencari informasi kesehatan harus “langsung mencari sumber yang dikenal dan tepercaya” dan menghubungi penyedia layanan kesehatan jika mereka mengalami gejala apa pun.

Seorang perwakilan dari Scripps Health, sistem layanan kesehatan berbasis di California yang dikutip dalam beberapa ringkasan Tinjauan AI, mengatakan dalam sebuah pernyataan bahwa “kutipan dalam tanggapan yang dihasilkan AI Google dapat membantu karena tanggapan tersebut menjadikan Scripps Health sebagai sumber informasi kesehatan yang bereputasi baik.”

Namun, perwakilan tersebut menambahkan, “kami memiliki kekhawatiran bahwa kami tidak dapat menjamin konten yang dihasilkan melalui AI dengan cara yang sama seperti kami dapat menjamin konten kami sendiri, yang telah diperiksa oleh profesional medis kami.”

Untuk pertanyaan medis, bukan hanya keakuratan jawaban yang penting, tetapi juga bagaimana jawaban tersebut disajikan kepada pengguna, kata para ahli. Misalnya pertanyaan “Apakah saya mengalami serangan jantung?” Respons AI tersebut memiliki ringkasan gejala yang bermanfaat, kata Dr. Richard Gumina, direktur kedokteran kardiovaskular di Ohio State University Wexner Medical Center.

Namun, tambahnya, ia harus membaca lebih dari sekadar daftar gejala yang panjang sebelum teks menyarankannya untuk menelepon 911. Dr. Gumina juga mencari “Apakah saya mengalami stroke?” untuk melihat apakah alat tersebut dapat memberikan respons yang lebih mendesak – yang memang terjadi, memberi tahu pengguna di baris pertama untuk menelepon 911. Ia mengatakan akan segera menyarankan pasien yang mengalami gejala serangan jantung atau stroke untuk meminta bantuan.

Para ahli mendorong orang yang mencari informasi kesehatan untuk mendekati respons baru dengan hati-hati. Intinya, kata mereka, pengguna harus memperhatikan cetakan kecil di bawah beberapa jawaban AI Overviews: “Ini hanya untuk tujuan informasi. Untuk saran medis atau diagnosis, konsultasikan dengan profesional. AI generatif bersifat eksperimental.”

Sumber : CNA/SL