Microsoft, Bing AI'nin Görüntü Oluşturucusunu kontrol ediyor - ve sonuçlar pek mantıklı değil - Dünyadan Güncel Teknoloji Haberleri

Microsoft, Bing AI'nin Görüntü Oluşturucusunu kontrol ediyor - ve sonuçlar pek mantıklı değil - Dünyadan Güncel Teknoloji Haberleri
Reddit Ancak işin ilginç yanı şu; yapay zeka bir görüntü oluşturuyor ve ardından onu hemen sansürlüyor

Ancak Dall-E 3 ile ilgili başka bir sorun daha var çünkü Windows Merkezi Microsoft’un son yenilemesinden bu yana aracı önemli ölçüde dizginlediği gözlemlendi

Kaçırmış olmanız ihtimaline karşı, Bing’in görüntü oluşturma sistemi, çok daha güçlü olan tamamen yeni bir sürüm olan Dall-E 3’e yükseltildi Bu, Bing AI kullanıcılarının sistemin oluşturmasını sağlamaya çalıştığı içerik türüne bir tepki olabilir

Adil olmak gerekirse bunun bir sürpriz olduğunu düşünüyoruz – ve bu, Microsoft’un Image Creator’a yönelik sansürünün çok ileri gittiğini, kullanışlılığını en azından bir dereceye kadar sınırladığını uygun bir şekilde gösteriyor gibi görünüyor Öyle ki Microsoft, süper şarjlı Dall-E 3’ün çok fazla ilgi ve trafik oluşturduğunu ve bu nedenle başlangıçta yavaş olabileceğini belirtti

Bunu gerçekten gösteren şey, birisinin de belirttiği gibi, Bing AI’nin kendisini bile sansürlemesidir

Windows Central, Bing’in otosansürüne ilişkin bu senaryoyu tekrarlayabildiğini ve bunun nadir bir olay bile olmadığını, bildirildiğine göre üçte bir oranında gerçekleştiğini gözlemliyor Başlangıçta da söylediğimiz gibi, bu bir ileri adım, sonra hızlı bir geri adım durumudur Bing Image Creator’ın rastgele bir görüntü oluşturan bir ‘beni şaşırt’ düğmesi vardır (rastgele bir arama üreten Google’ın ‘Kendimi şanslı hissediyorum’ düğmesinin eşdeğeri)

Bunları da beğenebilirsin …

Geçen hafta Bing AI’nın görüntü oluşturma aracı için (diğer son iyileştirmelerin yanı sıra) büyük bir yükseltme aldığını fark etmiş olabilirsiniz, ancak görünen o ki Microsoft bu büyük adımı ileriye doğru attıktan sonra şimdi bir adım geri attı Microsoft’un bu alanda biraz daha ince ayar yapmasının zamanı gelmiş gibi görünüyor; ancak doğruyu söylemek gerekirse, yeni yetenekler kullanıma sunulduğunda, muhtemelen bir süre için ayarlamalar uygulanacaktır – yani belki de bu çalışma zaten devam ediyor olabilir

Resim oluşturma aracının, uygunsuz resimlerin oluşturulmasını durdurmak için bir ‘içerik denetleme sistemi’ kullanacağının zaten farkındaydık, ancak uygulanan sansürün beklenenden daha sert olduğu görülüyor Windows Central, sohbet robotunun sunucu rafını balyozla kıran bir adamın görüntüsünü oluşturmasını sağlamaya çalıştı ancak bunun Microsoft’un Bing AI kullanım koşullarını ihlal ettiği söylendi

Oysa geçen hafta makale yazarı, Bing AI’nin şikayette bulunmadığı popüler karakterlerin (telif hakkıyla korunan) yer aldığı şiddetli zombi kıyamet senaryoları oluşturabileceklerini belirtti Görünen o ki Microsoft, ilk uygulamada kuralları çok gevşek bırakmış ancak daha da ileri gitmiş ve işleri artık çok fazla sıkılaştırmış

Ancak sorun, bu tür aşırı soruların ötesinde, makalenin de açıkça belirttiği gibi, bazı kullanıcıların zararsız görüntü oluşturma isteklerinin reddedildiğini görmesidir

Analiz: Rastgele sansür

Burada mesele sansürün aşırı bir tepki olduğu ya da raporlara göre durum böyleymiş gibi göründüğünü de eklememiz gerekiyor

Microsoft’un denklemin “üzülmekten ziyade güvenli” tarafında çok fazla hata yapması tehlikesi, bunun sonuçta yaratıcılığı keşfetmeyle ilgili olması gereken bir aracın kullanışlılığını sınırlayacak olmasıdır

Bu bağlamda Bing AI ile ilgili neler olup bittiğini kontrol etmek için Microsoft’a ulaştık ve geri bildirim alırsak bu hikayeyi güncelleyeceğiz

Windows Central’ın işaret ettiği gibi, 11 Eylül saldırısını gerçekleştiren Mickey Mouse’un (hiç de şaşırtıcı olmayan bir şekilde) oluşturulan görüntüsü hakkında pek çok tartışma yaşandı