Dengan satu kemampuan AI baru demi satu memasuki arus utama, tergoda untuk memberikan masing -masing pertimbangan sepintas yang sama. Tetapi beberapa mendapat lebih banyak perhatian daripada yang lain.
Pertimbangkan AI Deepfakes. Scammers sekarang dapat menggunakan alat generatif-AI untuk membuat suara, atau bahkan pemalsuan video langsung, yang terdengar atau terlihat seperti orang tertentu-dan meminta transfer uang. Dengan demikian, ada risiko “signifikan” dari kemampuan semacam itu “melanggar kepercayaan dan sistem identitas yang menjadi sandaran seluruh ekonomi kita,” kata Emily Chiu, CEO FinTech Startup Novo yang berbasis di Miami, di Harta bendaKTT Wanita Paling Kuat di Riyadh, Arab Saudi, minggu lalu.
Penipuan bertenaga AI
Dia mengutip sebuah kasus di Hong Kong tahun lalu di mana seorang karyawan keuangan berada ditipu untuk mentransfer lebih dari $ 25 juta ke penipu. Karyawan itu, meskipun skeptis setelah menerima permintaan email untuk dana tersebut, terpikat ke dalam panggilan zoom di mana tidak ada orang lain yang nyata-meskipun mereka melihat dan terdengar seperti CFO yang berbasis di Inggris dan eksekutif lainnya.
Seorang pejabat polisi yang menyelidiki kasus tersebut memberi tahu media setempat bahwa sementara penipuan sebelumnya telah melibatkan panggilan video satu-satu, “kali ini, dalam konferensi video multi-orang, ternyata semua orang yang Anda lihat palsu.”
Namun sama canggihnya dengan teknologi AI di balik penipuan seperti itu, relatif mudah diakses dan digunakan.
“Aksesibilitas publik dari layanan ini telah menurunkan penghalang masuk untuk penjahat cyber – mereka tidak perlu lagi memiliki set keterampilan teknologi khusus,” David Fairman, kepala petugas keamanan di perusahaan cybersecurity Netskope, memberi tahu CNBC.
Arup, sebuah perusahaan teknik Inggris, kemudian mengkonfirmasi bahwa itu adalah korban dalam serangan itu.
“Seperti banyak bisnis lain di seluruh dunia, operasi kami tunduk pada serangan rutin, termasuk penipuan faktur, penipuan phishing, spoofing suara WhatsApp, dan Deepfake,” dikatakan Arup cio rob greig dalam sebuah pernyataan. “Ini adalah masalah industri, bisnis, dan sosial, dan saya berharap pengalaman kami dapat membantu meningkatkan kesadaran akan meningkatnya kecanggihan dan teknik yang berkembang dari aktor buruk.”
Ancaman berkelanjutan
Pusat Layanan Keuangan Deloitte baru -baru ini mempertimbangkan masalah ini, menyatakan“AI generatif diperkirakan akan secara signifikan meningkatkan ancaman penipuan, yang dapat membebani bank dan pelanggan mereka sebanyak US $ 40 miliar pada tahun 2027.”
Chiu mengatakan insiden Hong Kong menunjukkan bahwa “kita akan bertemu ke dunia di mana kemampuan kita untuk benar -benar mempercayai dan memvalidasi apa yang nyata – sistem kepercayaan yang diandalkan oleh perdagangan, yang diandalkan Fintech – akan menjadi tantangan nyata.”
Tentu saja, itu menghadirkan peluang bagi perusahaan yang dapat menghasilkan solusi yang efektif untuk masalah ini, “tapi ini belum menjadi situasi yang diselesaikan,” kata Chiu. “Jadi, itu sesuatu yang akan saya waspadai … bahkan jika Anda berada di luar Fintech.”
Kisah ini awalnya ditampilkan di Fortune.com
