OpenAI tarafından üretilen DALL-E2, Ocak 2022’de piyasaya sürülen kendi kendine öğrenen bir metinden imgeye oluşturucu.
Ana fonksiyonu, kullanıcılar tarafından sağlanan metin istemlerini kullanmak ve sözcükleri altyazılarla eşleştirmek için bir fotoğraf oluşturmak.
TRT Haber’de yer alan bilgilere nazaran yazılım web tabanlı çalışıyor. Size bıraktığı tek şey, başınızda tasarladığınız sahneyi sözlere dökmeniz. Gerisini yapay zeka hallediyor.
Ancak, Bilgisayar Bilimleri doktora öğrencisi Giannis Daras’a nazaran, DALL-E2’nin yetenekleri bununla sonlu kalmadı.
Yalnızca istendiğinde anlamsız sözcükleri döndürebildiği için metin üretme yeteneği oluşturdu.
Ancak araştırmacılar, programın anlaşılmaz görünen kelamlarında çok daha fazlasının olabileceğini fark etti.
KELİME DAĞARCIĞI GELİŞTİRDİ
Daras , “Bu üretilen metin çıktısının rastgele olmadığını, daha çok modelin dahili olarak geliştirdiği görünen bâtın bir söz dağarcığını ortaya çıkardığını keşfettik” dedi.
Daras, DALL-E2 algoritmasına “sebzelerle ilgili konuşan çiftçiler”i görsel olarak yaratması komutunu veriyor. DALL-E2 bu komut karşısında yarattığı metinde “vicootes” diye bilinmeyen bir söz kullanıyor.
Sonra Daras, bu sefer algoritmaya “vicootes”i görsel olarak yaratma komutu verince DALL-E2 zerzevat görselleri göstermeye başlıyor.
Daha da ilginci çiftçi görsellerinin kodunda “poploe vesrreaitars” diye mana söz etmeyen öteki bir tabir daha bulunuyor. Bunu algoritmaya girdiğinde ise karşısına kuş görselleri geliyor. Daras’a nazaran “poploe vesrraeaitars” DALL-E2’nin kendi yarattığı lisanda kuşlara verdiği isim.
Daras, DALL-E2’nin kendi lisanını yaratmasının ortaya çıkaracağı güvenlik meselelerine vurgu yapıyor. Ayrıyeten bunun pek çok farklı biçimde yorumlanabileceğini söylüyor.
Daras’ın bu argümanları şimdilik kanıtlanmamış durumda.
Daras ve bir meslektaşı tarafından hazırlanan makalenin öbür meslektaşlarına sunulup onlar tarafından da incelenmesi ve onaylanması gerekiyor.