Memitigasi risiko AI generatif dengan melibatkan manusia

“Tidak ada kasus penggunaan berkelanjutan untuk AI jahat.”

Begitulah cara Dr. Rob Walker, pakar kecerdasan buatan terakreditasi dan VP pengambilan keputusan dan analitik Pega, merangkum diskusi meja bundar tentang AI nakal di konferensi PegaWorld iNspire minggu lalu.

Dia telah menjelaskan perbedaan antara algoritma buram dan transparan. Di salah satu ujung spektrum AI, algoritme buram bekerja dengan kecepatan tinggi dan tingkat akurasi tinggi. Masalahnya adalah, kami sebenarnya tidak dapat menjelaskan bagaimana mereka melakukan apa yang mereka lakukan. Itu cukup untuk membuat mereka kurang lebih tidak berguna untuk tugas-tugas yang membutuhkan akuntabilitas — membuat keputusan tentang hipotek atau aplikasi pinjaman, misalnya.

Algoritme transparan, di sisi lain, memiliki sifat dapat dijelaskan. Mereka hanya kurang bisa diandalkan. Ini seperti pilihan, katanya, antara menjalani perawatan medis yang diresepkan oleh dokter yang dapat menjelaskannya kepada Anda, atau mesin yang tidak dapat menjelaskannya tetapi lebih mungkin benar. Itu adalah pilihan - dan bukan pilihan yang mudah.

Tetapi pada akhirnya, menyerahkan semua keputusan kepada alat AI yang paling kuat, dengan risiko mereka menjadi nakal, memang tidak berkelanjutan.

Pada konferensi yang sama, CTO Pega Don Schuerman mendiskusikan visi untuk “Autopilot,” sebuah solusi bertenaga AI untuk membantu menciptakan perusahaan otonom. “Harapan saya adalah kami memiliki beberapa variasi di tahun 2024. Saya pikir ini akan membutuhkan tata kelola dan kendali.” Memang itu akan: Beberapa dari kita, misalnya, ingin naik pesawat yang hanya memiliki autopilot dan tidak ada manusia di dalamnya.

Manusia dalam lingkaran

Mempertahankan manusia dalam lingkaran adalah mantra konstan di konferensi, menggarisbawahi komitmen Pega terhadap AI yang bertanggung jawab. Sejak tahun 2017, ia meluncurkan Pega "T-Switch", yang memungkinkan bisnis untuk menaikkan dan menurunkan tingkat transparansi pada skala geser untuk setiap model AI. “Misalnya, menggunakan model pembelajaran mendalam yang buram yang mengklasifikasikan gambar pemasaran berisiko rendah. Sebaliknya, bank di bawah peraturan ketat untuk praktik pemberian pinjaman yang adil membutuhkan model AI yang sangat transparan untuk menunjukkan distribusi penawaran pinjaman yang adil,” jelas Pega.

Akan tetapi, AI generatif membawa tingkat risiko lain — paling tidak untuk fungsi yang berhubungan dengan pelanggan seperti pemasaran. Secara khusus, itu benar-benar tidak peduli apakah itu mengatakan yang sebenarnya atau mengada-ada ("berhalusinasi"). Jika tidak jelas, risiko ini muncul dengan penerapan AI generatif apa pun dan tidak spesifik untuk solusi Pega mana pun.

“Ini memprediksi apa yang paling mungkin dan masuk akal dan apa yang ingin kita dengar,” jelas direktur Pega AI Lab Peter van der Putten. Tapi itu juga menjelaskan masalahnya. “Itu bisa mengatakan sesuatu, lalu sangat pandai memberikan penjelasan yang masuk akal; itu juga bisa mundur. Dengan kata lain, itu bisa kembali dengan respons yang berbeda — mungkin lebih baik — jika menetapkan tugas yang sama dua kali.

Tepat sebelum PegaWorld, Pega mengumumkan 20 "booster" bertenaga AI generatif, termasuk chatbot AI gen, alur kerja otomatis, dan pengoptimalan konten. “Jika Anda melihat dengan cermat apa yang kami luncurkan,” kata Putten, “hampir semuanya melibatkan manusia. Pengembalian tinggi, risiko rendah. Itulah manfaat membangun produk yang digerakkan oleh gen AI daripada memberi orang akses ke teknologi AI generatif generik.”

Pega GenAI, kemudian, menyediakan alat untuk mencapai tugas tertentu (dengan model bahasa besar berjalan di latar belakang); itu bukan hanya kanvas kosong yang menunggu permintaan manusia.

Untuk sesuatu seperti chatbot yang dibantu gen AI, kebutuhan akan manusia dalam lingkaran cukup jelas. “Saya rasa perlu waktu lama sebelum banyak perusahaan merasa nyaman menempatkan chatbot model bahasa besar langsung di depan pelanggan mereka,” kata Schuerman. “Apa pun yang dihasilkan AI generatif — saya ingin manusia melihatnya sebelum meletakkannya di depan pelanggan.”

Empat juta interaksi per hari

Tetapi menempatkan manusia dalam lingkaran memang menimbulkan pertanyaan tentang skalabilitas.

Finbar Hage, VP digital di perusahaan kue dan jasa keuangan Belanda Rabobank, mengatakan pada konferensi bahwa Pusat Keputusan Pelanggan Pega memproses 1,5 miliar interaksi per tahun untuk mereka, atau sekitar empat juta per hari. Tugas hub adalah menghasilkan rekomendasi tindakan terbaik berikutnya, menciptakan perjalanan pelanggan secara real-time dan dengan cepat. Tindakan terbaik berikutnya mungkin, misalnya, mengirim email yang dipersonalisasi — dan gen AI menawarkan kemungkinan untuk membuat email semacam itu hampir secara instan.

Setiap email tersebut, disarankan, perlu disetujui oleh manusia sebelum dikirim. Berapa banyak email itu? Berapa banyak waktu yang perlu dialokasikan pemasar untuk menyetujui konten yang dihasilkan AI?

Mungkin yang lebih mudah dikelola adalah penggunaan Pega GenAI untuk membuat dokumen bisnis yang kompleks dalam berbagai bahasa. Dalam keynote-nya, chief product officer Kerim Akgonul mendemonstrasikan penggunaan AI untuk membuat alur kerja yang rumit, dalam bahasa Turki, untuk aplikasi pinjaman. Template memperhitungkan aturan bisnis global serta peraturan lokal.

Melihat hasilnya, Akgonul, yang juga orang Turki, bisa melihat beberapa kesalahan. Itu sebabnya manusia dibutuhkan; tetapi tidak diragukan lagi bahwa generasi AI ditambah persetujuan manusia tampaknya jauh lebih cepat daripada generasi manusia yang diikuti oleh persetujuan manusia.

Itulah yang saya dengar dari setiap eksekutif Pega yang saya tanyakan tentang hal ini. Ya, persetujuan akan memakan waktu dan bisnis perlu menerapkan tata kelola — “praktik terbaik preskriptif,” dalam frasa Schuerman — untuk memastikan bahwa tingkat tata kelola yang tepat diterapkan, bergantung pada tingkat risiko.

Untuk pemasaran, dalam perannya yang pada dasarnya berhadapan dengan pelanggan, tingkat tata kelola tersebut cenderung tinggi. Harapan dan janji, bagaimanapun, adalah otomatisasi yang digerakkan oleh AI akan tetap menyelesaikan pekerjaan dengan lebih baik dan lebih cepat.