Metin girdilerinden görseller üretebilen Yapay zeka aracı Midjourney, berbata kullanım ile boğuşuyor. Yakın vakitte Midjourney v5 sürümü çıkan araç, devasa bir ilerleme kaydetmiş ve neredeyse gerçeğiyle ayırt edilemeyecek kalitede görseller üretmeye başlamıştı. Beşerler ise bu yüksek kaliteyi “deepfake” dediğimiz Düzmece imajlar üretmek için kullanmaya başlamıştı. Bu nedenle Midjourney, fiyatsız denemeleri sonlandırdı. Olağanüstü berbata kullanım
CEO David Holz, Discord’da şirketin “olağanüstü talep ve berbata kullanım” nedeniyle fiyatsız denemeleri sonlandırdığını söyledi. Holz, var tedbirlerin berbata kullanımı engellemek için kâfi olmadığını kelamları ekledi. Şimdilik, Midjourney’yi kullanabilmek için ayda en az 10 dolar ödemek gerekecek.
Midjourney kendisini nihayet haftalarda istenmeyen ilginin merkezinde buldu. Kullanıcılar, tutuklanan Donald Trump ve modaya Müsait bir ceket giyen Papa Francis’in Düzmece imgelerini ürettiler. Dikkatli gözler görsellerin Düzmece olduğunu anlasa da Özellikle Papa görseli kitleler tarafından gerçek olarak kabul edilmişti. Hasebiyle Midjourney, OpenAI’ın DALL-E ve gibisi görsel üreten Yapay zekaları giderek yanlış bilgiyi yaymak için kullanılmaya başlandı. Üretken Yapay zeka endişelendiriyor
Kullanıcılarla çarşamba günü yaptığı bir sohbette Holz, Yapay zeka her zamankinden daha gerçekçi imgeler sağladığından içerik prensiplerini belirlemekte zahmet çektiklerini aktardı. CEO birebir vakitte Midjourney’nin berbata kullanımını tespit eden bir yapay zeka denetçisi geliştirmeyi umduklarını Anlatım etti.
Daha evvelki haberlerimizde belirttiğimiz üzere Elon Musk, Steve Wozniak ve daha binlerce alanında uzman şahıslar yapay zeka çalışmalarına derhal Ara verilmesi gerektiğini Aleni bir mektupla taraflara iletmişti. Görünüşe nazaran Yapay zeka çıktılarını tespit eden Yapay zekalara Önemli bir gereksinim bulunuyor. Bilhassa bir görselin gerçek mi yoksa Düzmece mi olduğunu ayırt edebilecek sistemlerin toplumsal medya platformlarına entegre edilmesi infiali engelleyebilir. Yalnızca toplumsal medya değil, üretken Yapay zekalar imtihanlarda, ödevlerde hatta bilimsel makalelerde bile kullanılmaya başlanmış durumda.
Yorum Yok