Dalam usaha untuk memerangi maklumat salah dalam talian, syarikat perisian V7 Labs telah mencipta pemalam Google Chrome baharu yang mampu mengesan gambar profil palsu yang dicipta oleh kecerdasan buatan (AI). Syarikat itu mendakwa bahawa perisiannya, yang juga bergantung pada teknologi AI, mempunyai kadar ketepatan 99.28% untuk menentukan sama ada orang yang sepatutnya di media sosial dan sebagainya sebenarnya tidak wujud.
Perniagaan dan profil palsu adalah perkara biasa untuk individu yang berniat jahat, dan kewujudan alat yang membolehkan mereka mencipta orang palsu boleh menambahkan lagi kelicikan kepada penipuan mereka. Ia akan menyebabkan penguatkuasa hanya mengejar individu yang tidak pernah wujud.
Teknologi sedemikian sememangnya tersedia seperti yang ditunjukkan oleh penjana potret tiruan dalam talian This Person Does Not Exist, yang beroperasi pada sistem AI yang dikuasakan oleh rangkaian neural NVIDIA StyleGAN. Agensi berita China Xinhua juga menggunakan teknologi serupa pada tahun 2018, di mana ia memperkenalkan kepada dunia pembaca berita AI pertamanya.
Pengasas V7 Labs Alberto Rizzoli berharap bahawa kesedaran tentang profil palsu, bersama-sama dengan perisiannya akan membolehkan pengguna mengelakkan diri mereka daripada menjadi mangsa penipuan dalam talian dan maklumat salah. “Terdapat banyak kandungan yang mengelirukan di media sosial hari ini dan salah satu penyebarnya adalah profil palsu,” katanya sambil menunjukkan perisian syarikat itu dalam video yang diterbitkan di Loom.
Beliau juga menyatakan bahawa beberapa gambar, terutamanya yang dihasilkan oleh laman web yang dinyatakan sebelum ini, akan mempamerkan percanggahan yang ketara termasuk anak mata berbentuk aneh dan anting-anting yang diletakkan dengan janggal yang menyebabkan ia kelihatan palsu. Seperti yang dinyatakan oleh This Person Does Not Exist – yang juga mendidik pengguna tentang kesedaran orang yang dihasilkan secara buatan – rangkaian saraf kadang-kadang membuat kesilapan, oleh itu mengapa artifak seperti corak yang tidak bengkok dengan betul, warna rambut yang pelik dan sebagainya akan muncul.
Walau bagaimanapun, terdapat juga potret yang telah dihasilkan oleh perisian yang lebih maju yang dapat mengelakkan kelemahan biasa. Lebih membimbangkan, ini lebih sukar bagi manusia untuk mengenal pasti kesahihan mereka. Rizzoli memberi jaminan bahawa perisian V7 Labs dapat menentukan dengan cepat sama ada gambar profil tersebut adalah palsu dalam beberapa klik, walaupun dia menyatakan bahawa ia masih tidak dapat mengesan deepfake berkualiti tinggi yang dipaparkan dalam video buat masa ini.
Mereka yang berminat boleh mencuba perisian dan pemalam Google Chrome dengan memasangnya melalui kedai web rasmi Chrome. Dari segi privasi, V7 Labs menyatakan bahawa pemalam Fake Profile Detector tidak akan mengumpul atau menggunakan mana-mana data penggunanya.
