image featured from : unsplash.com
Dikutip dari techradar, Kamis (8/12/2022) Mengapa saya melakukannya? Mengapa saya membayar $ 8 untuk 50 potret diri saya yang abstrak, impresionistik, dan mencengangkan? Apakah saya seorang narsisis? Apakah kita semua?
Instagram kami dan umpan sosial lainnya saat ini dibanjiri dengan interpretasi resolusi tinggi dari wajah kami dan berbagai cabul, juga dikenal sebagai Avatar Ajaib. Semuanya berasal dari aplikasi Lensa, mesin generasi gambar AI yang menciptakan beberapa interpretasi liar dan seringkali didorong oleh fantasi dari gambar apa pun yang kami beri makan.
Ada platform serupa lainnya seperti Reface, yang memungkinkan Anda menempatkan wajah Anda di dalam klip film terkenal. Semua orang melakukannya untuk sementara waktu. Saya mengubah diri saya menjadi Tom Cruise.
Aplikasinya gratis (dengan banyak iklan, jika saya ingat) dan akhirnya kami semua memutuskan bahwa mungkin bukan ide yang bagus untuk mengunggah gambar kami ke beberapa pengembang aplikasi rando.
Lensa mengisi ruang itu tetapi dengan produk yang hampir menuntut Anda membayarnya, pertama dengan penjualan keras dengan biaya berlangganan yang mahal dan kemudian lebih santai dengan penawaran kumpulan gambar bayar per AI.
Yang mengejutkan bagi saya hanyalah banyaknya orang yang membayar agar gambar mereka dicerna dan kemudian dimuntahkan sebagai karya seni AI yang mencolok. FOMO begitu kuat di sini sehingga semua orang (bahkan reporter yang sekarang malu ini) menyerah. Putra dewasa saya menghabiskan hampir $15 untuk sekumpulan gambar pacarnya.
Saya tidak bangga
Mengapa saya melakukannya? Dua alasan. Saya bosan melihat Lensa Magic Avatar orang lain di feed saya dan saya juga sangat membutuhkan sesuatu yang segar untuk Instagram. Saya agak seperti itu tentang umpan sosial saya, selalu berusaha untuk menjaga saluran tetap penuh karena alasan yang sulit saya jelaskan di sini.
Menambahkan gambar AI saya ke kumpulan potret megah yang dihasilkan Lensa di Instagram tidaklah sulit. Aplikasi ini tersedia secara gratis di iOS dan Android. Membukanya memberi Anda penawaran berlangganan $ 49,99 yang dapat Anda “batalkan kapan saja”. Saya pribadi benci aplikasi seperti ini, yang menggoda Anda dengan fitur yang sangat keren tetapi menuntut pembayaran tunai yang sangat tinggi di muka (saya mungkin juga murah).
Seperti banyak aplikasi lain, penawaran sub semacam front. Jika Anda mengabaikannya, aplikasi akan segera membuang Anda ke bagian bayar-per-main, di mana Anda dapat membeli mulai dari 50 ($7,99) hingga 100 ($14,99) Avatar Ajaib yang dihasilkan AI tanpa berlangganan apa pun.
Sekarang, saya tidak dapat mengingat kapan terakhir kali saya membayar $8 untuk hak istimewa menggunakan satu fitur aplikasi, tetapi begitulah nyanyian sirene dari potret yang indah itu. Saya merasionalisasi biaya di kepala saya, “Ayo, Anda akan membayar sebanyak itu untuk dua donat Krispy Kreme dan air,” yang saya beli minggu lalu.
Setelah itu, aplikasi meminta Anda untuk mengunggah antara 10 hingga 20 gambar diri Anda dalam berbagai pose dan berbagai ekspresi. Saya memutuskan untuk membaca dengan teliti folder “Selfies” iPhone saya, di mana saya menemukan banyak foto yang sesuai. Saya mengunggah satu batch, tetapi Lensa menolak beberapa karena tidak dapat digunakan (tidak disebutkan alasannya), jadi saya memilih beberapa lagi. Kalau dipikir-pikir, saya seharusnya memilih foto profil dan gambar yang jauh lebih sedikit dengan saya membuat wajah konyol. Seperti kebanyakan sistem gambar AI, Anda mendapatkan apa yang Anda masukkan ke dalam Lensa.
Secara umum, saya senang dengan hasilnya (Anda dapat melihat beberapa contoh di atas) tetapi saya merasa tidak nyaman, merasa sedikit seperti telah dipermainkan. Saya seharusnya mengajukan beberapa pertanyaan, sebenarnya banyak, sebelum mengunggah foto saya.
Sehari setelah Lensa mengirimkan 50 gambar 4K AI saya (mereka tetap ada di aplikasi, tetapi Anda dapat mengunduh favorit Anda dalam resolusi standar atau 4K), saya mengirimkan daftar pertanyaan kepada pengembang Lensa Prisma Labs:
- Apakah Anda menyimpan foto yang diunggah kepada Anda? Jika demikian, apakah mereka dienkripsi?
- Kapan Anda meluncurkan bagian Magic Avatar?
- Bagaimana tepatnya AI digunakan untuk menghasilkan gambar?
- Berapa banyak orang yang telah mengunggah gambar mereka?
- Mengapa Anda membebankan biaya langganan di awal ketika orang cukup membayar $7,99 untuk 50 gambar?
- Bagaimana Anda mengatasi kekhawatiran tentang gambar orang yang diunggah tanpa izin mereka?
- Pernahkah Anda mendengar tentang beberapa yang digunakan untuk menghasilkan konten dewasa?
Dalam beberapa hal, Anda dapat mengambil salah satu – atau semua – pertanyaan ini dan menerapkannya ke sistem generatif AI-image secara virtual. Meskipun semua sistem AI ini menarik, mereka terasa seperti kotak hitam. Untuk beberapa, kami hanya memasukkan petunjuk teks, tetapi kami masih tidak mengerti bagaimana mereka menghasilkan karya seni.
Pengangkatan berat di balik Magic Avatars Lensa, misalnya, dilakukan oleh platform pembuatan gambar sumber terbuka gratis Stable Diffusion – salah satu dari banyak yang dituduh menggunakan karya seniman(dibuka di tab baru) untuk melatih AI-nya model.
Tapi itu hanya salah satu keprihatinan saya. Lain adalah apa yang terjadi pada gambar yang dengan sukarela kami berikan padanya? Bagaimana kita tahu, misalnya, bahwa gambar yang kita unggah tidak digunakan untuk melatih AI lebih lanjut? Saya tidak melihat cara untuk menyisih dari kemungkinan itu.
Juga tidak ada petunjuk peringatan bahwa Anda tidak boleh mengunggah gambar seseorang tanpa izin. Saya pernah mendengar laporan bahwa beberapa orang menggunakan sistem untuk membuat gambar porno dari orang yang tidak menaruh curiga(terbuka di tab baru) tanpa persetujuan mereka.
Kemana perginya gambar asli kita saat pekerjaan Lensa selesai? Tanpa informasi yang menjanjikan Lensa akan menghapusnya, saya harus berasumsi bahwa mereka menyimpan semuanya dalam file. Kami hanya bisa berharap mereka setidaknya dienkripsi.
Prisma Labs merespons
Saya punya kabar baik. Meskipun Prisma Labs tidak menyertakan banyak informasi yang saya anggap perlu dalam aplikasinya dan tidak menjawab pertanyaan saya secara langsung, Prisma Labs mengarahkan saya ke FAQ yang sangat banyak (terbuka di tab baru) yang menjawab beberapa masalah ini.
Mengenai pertanyaan tentang apa yang dilakukan Lensa dengan gambar kami, Prisma Labs menulis bahwa gambar tersebut dihapus dari server Prisma Labs setelah pemrosesan selesai. Namun, FAQ juga mengandung bahasa ini:
“Kami menyimpan avatar selama diperlukan untuk menyediakan layanan bagi pengguna kami. Harap diperhatikan, fitur baru, yang memungkinkan pengguna menghapus avatar mereka secara permanen dari server kami saat ini sedang berlangsung.”
Dengan kata lain, foto asli Anda hilang, tetapi gambar yang dibuat Lensa? Prisma Labs masih memilikinya. Omong-omong, tidak disebutkan enkripsi data.
FAQ tidak membahas pertimbangan kepemilikan gambar: Gambar yang Anda unggah harus milik Anda sendiri atau yang berhak Anda akses. Itu memang membahas gambar “seksual”, tetapi terutama kecenderungan AI untuk membuat karakter wanita menjadi seksual. Lebih penting lagi, Prisma Labs menambahkan, “Penggunaan aplikasi yang disengaja untuk membuat konten eksplisit benar-benar dilarang oleh Ketentuan Penggunaan kami dan mewajibkan pengguna Lensa untuk mematuhi persyaratan tersebut.”
Tidak jelas bagaimana Prisma Labs menerapkan aturan tersebut dan, yang kurang membantu, Prisma Labs menambahkan catatan ini, “Sayangnya, semua upaya ini belum membuat AI benar-benar aman dari konten bias dan citra eksplisit. Oleh karena itu, kami menetapkan bahwa produk ini tidak ditujukan untuk penggunaan anak di bawah umur dan memperingatkan pengguna tentang potensi risiko konten.”
Saya tidak dapat secara sah memberi tahu Anda untuk tidak mencoba aplikasinya, terutama setelah saya melanjutkan dan melakukannya. Namun, sebelum Anda melakukannya, pastikan Anda merasa nyaman dengan jawaban Prisma Lab (dan kurangnya jawaban) untuk semua pertanyaan ini.
Milano – UKDW 2018
Be the first to comment