Apa itu AI Percakapan? Risiko Keamanan dari AI Percakapan

Teknologi kecerdasan buatan (AI) terus berkembang, baik atau buruk. AI dapat bermanfaat bagi orang-orang yang mengandalkan otomatisasi tugas rutin dan rumit. Namun, AI berpotensi digunakan untuk memicu penipuan yang semakin kompleks melalui telepon dan melalui chatbot.

Artikel ini akan merangkum apa itu AI percakapan, risiko keamanan AI percakapan, dan apa yang harus dilakukan untuk menguranginya.

Apa itu AI Percakapan?

AI percakapan mengacu pada penggunaan aplikasi perpesanan, asisten berbasis ucapan, dan chatbot untuk mengotomatiskan komunikasi dan menciptakan pengalaman pelanggan yang dipersonalisasi.

Ratusan juta orang menggunakan platform perpesanan media sosial untuk berkomunikasi dengan teman dan keluarga mereka setiap hari. Sementara itu, jutaan lainnya berbicara secara teratur dengan asisten berbasis ucapan seperti Amazon Alexa dan Google Home. AI percakapan menawarkan peluang baru untuk mengotomatisasi tanggung jawab sehari-hari.

Akibatnya, program berbasis pesan dan ucapan dengan cepat menggantikan aplikasi web dan seluler tradisional menjadi platform baru untuk percakapan interaktif.

Hampir tiga perempat orang (73%) tidak mungkin memercayai AI percakapan untuk menjawab panggilan atau email sederhana untuk mereka, tetapi para ahli mengatakan keraguan ini akan berubah karena teknologi menjadi lebih umum, meskipun ada risiko keamanan.

Baca juga: AI Membuat Virtual & Augmented Reality Lebih Nyata

AI Percakapan Bisa Tidak Akurat atau Diretas

Saat orang-orang mengadopsi asisten digital dan antarmuka AI percakapan yang memungkinkan dialog waktu nyata dengan mesin, ada beberapa implikasi keamanan yang perlu dipertimbangkan.

Misalnya, pengenalan ucapan yang tidak akurat dapat memungkinkan pesan yang salah dikirim ke orang yang salah di daftar kontak Kamu.

Ini terjadi pada satu pasangan dari Portland, Oregon pada tahun 2018, yang mengetahui bahwa Alexa mereka mengirim rekaman percakapan mereka ke rekan suami, meskipun mereka meminta untuk tidak direkam atau mengirim pesan.

Selain itu, peretas dapat mengambil alih kendali asisten digital. Ini akan memungkinkan peretas untuk menguping percakapan pribadi atau sensitif, yang dapat menyebabkan pencurian identitas atau penipuan.

AI Percakapan Dapat Meniru Orang

Peniruan identitas juga menjadi perhatian nyata. Tahun lalu, sebuah perusahaan aplikasi perpesanan bernama Luka membuat chatbot yang menyamar sebagai pemeran Lembah Silikon HBO.

AI percakapan juga berpotensi mengelabui orang agar berpikir bahwa mereka sedang berbicara dengan seseorang yang bukan mereka. Pertimbangkan Google Duplex, asisten suara Google yang dapat menelepon restoran dan memesan reservasi untuk pengguna.

Teknologi ini membuat gelombang saat dirilis pada tahun 2018, sebagian besar karena sifat percakapannya yang mirip manusia. Orang belum tentu tahu siapa AI dan siapa manusianya.

Sementara itu, perusahaan AI Burung Kecapi mengembangkan program yang dapat mensintesis suara siapa pun dengan menganalisis rekaman satu menit. Dan Wavenet Google menyediakan fungsionalitas suara serupa yang membutuhkan kumpulan data yang jauh lebih besar tetapi terdengar sangat nyata.

Baca juga: Hambatan Perawatan Kesehatan: Cara Mengatasi Hambatan untuk Mengadopsi AI

Secara keseluruhan, AI percakapan dapat menggunakan replika suara orang untuk melakukan percakapan, menipu orang agar berpikir bahwa mereka sedang berbicara dengan teman, anggota keluarga, atau kolega. Orang-orang kemudian dapat berbagi informasi pribadi tanpa menyadari bahwa mereka tidak sedang berbicara dengan orang kepercayaan yang tepercaya.

Sederhananya, teknologi AI percakapan maju dengan kecepatan yang semakin cepat, dan potensi untuk menyalahgunakan teknologi itu menjadi perhatian nyata.

Seberapa Banyak Kita Harus Khawatir?

Pengembang publik dan AI perlu menggunakan akal sehat untuk semua situasi AI percakapan, baik itu dengan orang langsung atau chatbot.

Dengan tidak membagikan informasi sensitif melalui komputer, perangkat seluler, atau asisten suara, orang dapat meminimalkan potensi dampak AI percakapan untuk aktivitas ilegal.

Rate this post
Share Jika Bermanfaat Ya 🙂

Leave a Comment