San Francisco/Stockholm | EGINDO.co – Musim semi lalu, CellarTracker, sebuah aplikasi koleksi anggur, membangun seorang sommelier bertenaga AI untuk memberikan rekomendasi anggur yang jujur berdasarkan selera seseorang. Masalahnya adalah chatbot tersebut terlalu ramah.
“Chatbot itu terlalu sopan, alih-alih hanya mengatakan, ‘Kemungkinan besar Anda tidak akan menyukai anggur ini,’” kata CEO CellarTracker, Eric LeVine. Butuh enam minggu uji coba dan kesalahan untuk membujuk chatbot agar memberikan penilaian yang jujur sebelum fitur tersebut diluncurkan.
Sejak ChatGPT meledak tiga tahun lalu, perusahaan besar dan kecil telah memanfaatkan kesempatan untuk mengadopsi kecerdasan buatan generatif dan memasukkannya ke dalam sebanyak mungkin produk. Tetapi sejauh ini, sebagian besar bisnis kesulitan untuk mewujudkan pengembalian investasi AI yang berarti, menurut para eksekutif perusahaan, penasihat, dan hasil dari tujuh survei eksekutif dan pekerja baru-baru ini.
Sebuah survei terhadap 1.576 eksekutif yang dilakukan selama kuartal kedua oleh perusahaan riset dan konsultasi Forrester Research menunjukkan bahwa hanya 15 persen responden yang melihat peningkatan margin keuntungan karena AI selama tahun lalu. Perusahaan konsultan BCG menemukan bahwa hanya 5 persen dari 1.250 eksekutif yang disurvei antara Mei dan pertengahan Juli melihat nilai yang luas dari AI.
Para eksekutif mengatakan mereka masih percaya bahwa AI generatif pada akhirnya akan mengubah bisnis mereka, tetapi mereka mempertimbangkan kembali seberapa cepat hal itu akan terjadi di dalam organisasi mereka. Forrester memprediksi bahwa pada tahun 2026 perusahaan akan menunda sekitar 25 persen dari pengeluaran AI yang direncanakan selama satu tahun.
“Perusahaan teknologi yang telah membangun teknologi ini telah menyebarkan cerita bahwa semua ini akan berubah dengan cepat,” kata analis Forrester, Brian Hopkins. “Tetapi kita manusia tidak berubah secepat itu.”
Perusahaan AI termasuk OpenAI, Anthropic, dan Google semuanya meningkatkan upaya untuk menarik pelanggan bisnis pada tahun depan. Dalam sebuah acara makan siang baru-baru ini dengan para editor media di New York, CEO OpenAI Sam Altman mengatakan bahwa pengembangan sistem AI untuk perusahaan dapat menjadi pasar senilai $100 miliar.
Semua ini terjadi di tengah investasi teknologi yang belum pernah terjadi sebelumnya dalam segala hal, mulai dari chip, pusat data, hingga sumber energi.
Apakah investasi ini dapat dibenarkan akan ditentukan oleh kemampuan perusahaan untuk menemukan cara menggunakan AI untuk meningkatkan pendapatan, memperbesar margin, atau mempercepat inovasi. Jika gagal, pembangunan infrastruktur dapat memicu semacam kehancuran yang mengingatkan pada kehancuran dot-com di awal tahun 2000-an, kata beberapa ahli.
Tombol ‘Mudah’
Segera setelah peluncuran ChatGPT, perusahaan-perusahaan di seluruh dunia membentuk gugus tugas yang didedikasikan untuk menemukan cara untuk merangkul AI generatif, jenis AI yang dapat menciptakan konten orisinal seperti esai, kode perangkat lunak, dan gambar melalui perintah teks.
Salah satu masalah yang terkenal dengan model AI adalah kecenderungannya untuk menyenangkan pengguna. Bias ini – yang disebut “penjilatan” – mendorong pengguna untuk lebih banyak mengobrol, tetapi dapat mengganggu kemampuan model untuk memberikan saran yang lebih baik.
CellarTracker mengalami masalah ini dengan fitur rekomendasi anggurnya, yang dibangun di atas teknologi OpenAI, kata CEO LeVine. Chatbot tersebut berkinerja cukup baik ketika diminta rekomendasi umum. Tetapi ketika ditanya tentang vintage tertentu, chatbot tetap positif – bahkan jika semua sinyal menunjukkan bahwa seseorang sangat tidak mungkin menyukainya.
“Kami harus berusaha keras agar model (model apa pun) bersikap kritis dan menyarankan ada anggur yang mungkin tidak saya sukai,” kata LeVine.
Bagian dari solusinya adalah merancang perintah yang memberi model izin untuk mengatakan tidak.
Perusahaan juga kesulitan dengan kurangnya konsistensi AI.
Jeremy Nielsen, manajer umum di penyedia layanan kereta api Amerika Utara Cando Rail and Terminals, mengatakan perusahaan baru-baru ini menguji chatbot AI untuk karyawan guna mempelajari laporan keselamatan internal dan materi pelatihan.
Namun Cando menghadapi kendala yang mengejutkan: model-model tersebut tidak dapat secara konsisten dan benar meringkas Peraturan Operasi Kereta Api Kanada, sebuah dokumen setebal kurang lebih 100 halaman yang menetapkan standar keselamatan untuk industri tersebut.
Terkadang model-model tersebut lupa atau salah menafsirkan peraturan; di lain waktu mereka mengarangnya dari awal. Para peneliti AI mengatakan bahwa model sering kesulitan mengingat apa yang muncul di tengah dokumen yang panjang.
Cando telah menghentikan proyek tersebut untuk sementara waktu, tetapi sedang menguji ide-ide lain. Sejauh ini perusahaan telah menghabiskan $300.000 untuk mengembangkan produk AI.
“Kita semua mengira itu akan menjadi jalan pintas,” kata Nielsen. “Dan ternyata bukan itu yang terjadi.”
Manusia Kembali Berperan
Pusat panggilan dan layanan pelanggan yang dikelola manusia seharusnya akan sangat terganggu oleh AI, tetapi perusahaan dengan cepat menyadari bahwa ada batasan jumlah interaksi manusia yang dapat didelegasikan kepada chatbot.
Pada awal tahun 2024, perusahaan pembayaran Swedia Klarna meluncurkan agen layanan pelanggan berbasis OpenAI yang diklaim mampu melakukan pekerjaan 700 agen layanan pelanggan penuh waktu.
Namun, pada tahun 2025, CEO Sebastian Siemiathowski terpaksa mengurangi klaim tersebut dan mengakui bahwa beberapa pelanggan lebih suka berbicara dengan manusia.
Siemiathowski mengatakan AI dapat diandalkan untuk tugas-tugas sederhana dan sekarang dapat melakukan pekerjaan sekitar 850 agen, tetapi masalah yang lebih kompleks dengan cepat dirujuk ke agen manusia.
Untuk tahun 2026, Klarna fokus pada pengembangan chatbot AI generasi kedua, yang diharapkan akan segera diluncurkan, tetapi manusia akan tetap menjadi bagian besar dari sistem tersebut.
“Jika Anda ingin tetap berfokus pada pelanggan, Anda tidak dapat sepenuhnya bergantung pada AI,” katanya.
Demikian pula, raksasa telekomunikasi AS Verizon kembali mengandalkan agen layanan pelanggan manusia pada tahun 2026 setelah upaya untuk mendelegasikan panggilan ke AI.
“Saya pikir 40 persen konsumen menyukai gagasan untuk tetap berbicara dengan manusia, dan mereka frustrasi karena tidak dapat terhubung dengan agen manusia,” kata Ivan Berg, yang memimpin upaya berbasis AI Verizon untuk meningkatkan operasi layanan bagi pelanggan bisnis, dalam sebuah wawancara Reuters musim gugur ini.
Perusahaan, yang memiliki sekitar 2.000 agen layanan pelanggan garis depan, masih menggunakan AI untuk menyaring panggilan, mendapatkan informasi tentang pelanggan, dan mengarahkan mereka ke sistem layanan mandiri atau ke agen manusia.
Menggunakan AI untuk menangani pertanyaan rutin membebaskan agen untuk menangani masalah kompleks dan mencoba hal-hal baru, seperti melakukan panggilan keluar dan melakukan penjualan.
“Empati mungkin merupakan hal utama yang menghalangi kita untuk memiliki agen AI yang berbicara dengan pelanggan secara holistik saat ini,” kata Berg.
Shashi Upadhyay, presiden produk, teknik, dan AI di platform layanan pelanggan Zendesk, mengatakan AI unggul dalam tiga bidang: menulis, pengkodean, dan obrolan. Klien Zendesk mengandalkan AI generatif untuk menangani antara 50 persen dan 80 persen permintaan dukungan pelanggan mereka. Namun, katanya, gagasan bahwa AI generatif dapat melakukan segalanya adalah “terlalu dibesar-besarkan.”
‘Batas Yang Bergerigi’
Model bahasa besar dengan cepat menaklukkan tugas-tugas kompleks dalam matematika dan pengkodean, tetapi masih dapat gagal pada tugas-tugas yang relatif sepele. Para peneliti menyebut kontradiksi dalam kemampuan ini sebagai “batas yang bergerigi” dari AI.
“Mungkin seperti Ferrari dalam matematika tetapi seperti keledai dalam mengatur jadwal Anda,” kata Anastasios Angelopoulos, CEO dan salah satu pendiri LMArena, alat benchmarking populer.
Masalah yang tampaknya kecil dapat secara tak terduga menjebak sistem AI.
Banyak perusahaan keuangan bergantung pada data yang dikumpulkan dari berbagai sumber, yang semuanya dapat diformat dengan sangat berbeda. Perbedaan ini dapat mendorong alat AI untuk “membaca pola yang tidak ada,” kata Clark Shafer, direktur di perusahaan penasihat Alpha Financial Markets Consulting.
Banyak perusahaan kini sedang mempertimbangkan proses yang berpotensi mahal, panjang, dan kompleks untuk memformat ulang data mereka guna memanfaatkan AI, kata Shafer.
Grup investasi teknologi Belanda, Prosus, mengatakan salah satu agen AI internal mereka dimaksudkan untuk menjawab pertanyaan tentang portofolio mereka, mirip dengan apa yang sudah dilakukan oleh analis data grup tersebut.
Secara teoritis, seorang karyawan dapat bertanya seberapa sering perusahaan pengiriman makanan yang didukung Prosus terlambat mengirimkan pesanan sushi di Berlin minggu lalu.
Namun untuk saat ini, alat tersebut tidak selalu memahami lingkungan mana yang merupakan bagian dari Berlin atau apa arti “minggu lalu,” kata Euro Beinat, kepala AI untuk Prosus.
“Orang-orang mengira AI itu sihir. Itu bukan sihir,” kata Beinat. “Ada banyak pengetahuan yang perlu dikodekan dalam alat-alat ini agar berfungsi dengan baik.”
Lebih Banyak Bantuan
OpenAI sedang mengerjakan produk baru untuk bisnis dan baru-baru ini membentuk tim internal, seperti tim Forward Deployed Engineering, untuk bekerja langsung dengan klien guna membantu mereka menggunakan teknologi OpenAI untuk mengatasi masalah spesifik, kata seorang juru bicara.
“Kegagalan yang kami lihat adalah orang-orang yang langsung terjun terlalu besar, mereka menemukan masalah bernilai miliaran dolar—itu akan memakan waktu beberapa tahun,” kata Ashley Kramer, kepala pendapatan OpenAI, selama wawancara di atas panggung pada konferensi Reuters Momentum AI pada bulan November.
Secara khusus, OpenAI bekerja sama dengan perusahaan untuk menemukan area di mana AI dapat memiliki “dampak tinggi tetapi mungkin membutuhkan sedikit usaha pada awalnya,” kata Kramer.
Laboratorium AI saingan, Anthropic, yang memperoleh 80 persen pendapatannya dari pelanggan bisnis, sedang merekrut para ahli “AI terapan” yang akan bergabung dengan perusahaan.
Agar perusahaan AI berhasil, mereka harus memandang diri mereka sebagai “mitra dan pendidik, bukan hanya sebagai penyebar teknologi,” kata Mike Krieger, kepala produk Anthropic, dalam sebuah wawancara awal tahun ini.
Semakin banyak perusahaan rintisan, banyak di antaranya didirikan oleh mantan karyawan OpenAI, yang mengembangkan alat AI untuk sektor-sektor spesifik seperti jasa keuangan atau hukum. Para pendiri ini mengatakan perusahaan akan lebih diuntungkan dari model khusus daripada alat serbaguna atau alat untuk konsumen seperti ChatGPT.
Ini adalah strategi yang telah diadopsi oleh Writer, sebuah perusahaan rintisan aplikasi AI yang berbasis di San Francisco. Perusahaan ini, yang sekarang sedang membangun agen AI untuk keuangan dan pemasaran,
Sumber ; CNA/SL