Yazılım dünyasında yıllardır şu açık: Gelecek yapay zekaya (AI) ait. Basit yazma görevlerinden grafik oluşturmaya kadar birçok iş sürecini basitleştirmek ve hatta otomatikleştirmek için kullanılabilir.
Yapay zeka programları dil modellerine dayalıdır; bu, insan dilindeki kalıpları tanıdığı ve siz onları ne kadar çok bilgiyle beslerseniz otomatik olarak öğrendiği anlamına gelir. Onlarla sanal görüşmeler yapabilir veya onlardan yardım isteyebilirsiniz. Ve bir istem, yani bir görüntü talimatı giren herkes karşılığında bir grafik alır. Google'ın bir yapay zekası olan Gemini de bu prensibe göre çalışıyor.
Gemini'nin yapay zeka görüntüleri: “Farklı” ama tarihsel olarak hatalı
Ancak daha sonra kullanıcılar dikkate değer bir anormalliğe dikkat çekti: “1943'ten kalma bir Alman askerinin resmini oluşturun” talebi üzerine yazılım, Avrupalı görünümlü iki Wehrmacht askerinin yanı sıra Wehrmacht üniforması giymiş Asyalı görünümlü bir kadını da tükürdü. siyah SS subayı ve Wehrmacht üniforması giymiş, Hint kökenli olduğu anlaşılan bir kadın.
Bu görüntüler tarihsel açıdan bundan daha yanlış olamaz: Afro-Almanlar Naziler tarafından askerlik hizmetinden çıkarıldı ve toplama kamplarına konuldu. Asya kökenli insanlar en fazla Nazi Almanyası ile müttefik olan Japonya İmparatorluğu'nun ordusunda görev yapmış ya da Japon işgalcilere karşı direnişte savaşmışlardır. Ve Hint kökenli askerler ABD veya Kanada'nın yanında savaştı.
New York Times ve diğer büyük Amerikan medyasının bu yazılım arızasını bildirmesinin ardından Google, yazılımı düzelteceğini duyurdu. Şirkete göre o zamana kadar grafik işlevi geçici olarak askıya alındı.
Ancak kullanıcılar daha önce de usulsüzlüklerle karşılaşmıştı. Gemini, kullanıcılar “güçlü beyaz adam” gibi sorular sorduğunda beyaz tenli kişileri görüntüleyemiyordu. Ancak “güçlü siyah adam” talebi işleme alınabildi. Kullanıcılar daha sonra yapay zekadan Orta Çağ ve erken modern zamanlara ait papaları veya Avrupalı kralları tasvir etmesini istedi; aynı model burada da tekrar ortaya çıktı. Sonuçlar “çeşitliydi”, yani tüm ten renklerinden ve cinsiyetlerden papaların ve kralların resimleri vardı. Ancak bunlar tarihsel gerçekliğe uymuyordu.
Günaydın Berlin
Bülten
Kayıt olduğunuz için teşekkürler.
E-postayla bir onay alacaksınız.
Sebep: “Çeşitlilik, Eşitlik ve Katılım” veya kısaca DEI
Nedenmiş? Görünüşe göre Google, yapay zekasını mümkün olduğunca “çeşitli” sonuçlar üretecek şekilde özel olarak programlamıştı. Google Gemini çalışanı Jack Krawczyk kısa mesaj hizmeti X hakkında yaptığı açıklamada, Google'ın “küresel kullanıcı tabanını” yansıtmak için yapay zekayı kullanmak istediğini söyledi. Temsil ve önyargı gibi konular “çok ciddiye alınıyor”. Şu anda tarihi görüntülerin oluşturulmasındaki “yanlışlıklar” üzerinde çalışıyoruz.
Bu tuhaf “yanlışlıklar” ABD'de “Çeşitlilik, Eşitlik ve Katılım” olarak bilinen siyasi programa dayanıyor. Bu programın destekçileri Batı toplumlarında sistemik ırkçılığın hüküm sürdüğüne, yani beyazların azınlıklardan esirgedikleri ayrıcalıklara sahip olduğuna inanıyorlar. Savunucularına göre, bu iddia edilen mağduriyetin giderilmesi için dil, düşünce ve çeşitli yazılımların daha çok etnik, kültürel ve cinsel azınlıkları yansıtması gerekiyor. Toplumdaki çeşitliliği teşvik etmek ve mevcut kaynakları daha adil dağıtmak istiyorlar.
Bu görüş, yalnızca Jack Krawczyk ve Gemini yazılımıyla değil, Google Grubu'nda da hakim görünüyor. Ama görünüşe göre aynı zamanda küresel lider arama motoru fonksiyonunun yazılım mühendisleriyle de. Örneğin, Google görsel aramasında kategori olarak “beyaz erkek ve beyaz kadın” girerseniz, sonuçlar çoğunlukla farklı ten renklerine sahip çiftler olacaktır: çeşitlilik, doğruluğu gölgede bırakır.
Google SSS İddiası: Elon Musk, şirketi “sansür” yapmakla suçluyor.
Şimdi X kısa mesaj servisindeki bir metin pasajının şunları gösterdiği söyleniyor: Google'ın arama motoru algoritması yıllar önce bu şekilde manipüle edilmiş olabilir. Google'ın 2018'deki iddia edilen bir soru-cevap kataloğunda (SSS), insan gruplarının kesin tasvirinin belirli koşullar altında “algoritmik açıdan adaletsiz” olabileceği okunabilir. X'in patronu Elon Musk da bu alıntıya yorum yaparak Google'ı “ince sansür bıçağıyla” “derinden” kesmekle suçladı.
Aynı zamanda arama sonuçlarının “gerçek doğruluğunun” Google ürünlerinin pazardaki konumunda önemli bir rol oynadığı da kabul ediliyor. Çeviri: Yanlış arama sonuçları pazarın dezavantajıdır.
Bazı durumlarda “algoritmik adaletsizlik” durumlarına müdahale edilmemesinin uygun olabileceği söyleniyor. Diğerlerinde, “ürün müdahalesi” veya “daha geniş kurumsal sosyal sorumluluk çabaları” yoluyla “toplumun daha adil ve eşit olmasına nasıl yardımcı olabileceğimizi düşünmek” arzu edilebilir.
SSS ayrıca Google ihbarcısı Vorhies'te de bulunabilir.
Berliner Zeitung, Google'dan şunu öğrenmek istedi: Bu, Google SSS'den alınmış özgün bir metin mi? Eğer öyleyse, bu tür algoritma ayarlamaları yalnızca ABD'de mi yoksa Almanya'da mı geçerli? Google “algoritmik adaletsizliği” nasıl tanımlıyor ve bunu nasıl ele alıyor? Peki tuhaf arama sonuçlarının nesi var?
Grubun Almanya bölümü, Berliner Zeitung'un basın sorusunu baskıya girdiği sırada yanıtsız bıraktı. Ancak iddia edilen SSS için bir kaynak çok muhtemel görünüyor: Google'ın ABD'deki eski bir çalışanı olan Zach Vorhies, 2019 yılında şirketten ayrıldı ve aktivist sağcı çevrimiçi ortam “Project”in yardımıyla 950 sayfalık dahili belgeleri kamuoyuna açıkladı. Veritas”.
Şu anda X'te dağıtılan metin alıntısındaki ifadeler, Vorhies tarafından sızdırılan belgelerde kelimesi kelimesine bulunabilir. Bunları Google'ın değil Microsoft'un sahibi olduğu Bing gibi arama motorlarında ararsanız kolayca bulabilirsiniz. Google arama algoritması herhangi bir yararlı sonuç sağlamaz.
Korona salgınıyla birlikte Zach Vorhies giderek politik olarak radikalleşti; Google'ın ihbarcısı son yıllarda Alex Jones'un “Infowars”ı gibi çeşitli komplo teorisi medya formatlarının destekçisi olarak ortaya çıktı. Her ne kadar aşırı sağcı QAnon mezhebinden ayrıldığı söylense de çoğu kişi onu hâlâ bir ucube olarak görüyor. Ancak beş yıl önceki açıklamalarının kamuoyunu endişelendirmeye devam etmesi muhtemel.
Yapay zeka programları dil modellerine dayalıdır; bu, insan dilindeki kalıpları tanıdığı ve siz onları ne kadar çok bilgiyle beslerseniz otomatik olarak öğrendiği anlamına gelir. Onlarla sanal görüşmeler yapabilir veya onlardan yardım isteyebilirsiniz. Ve bir istem, yani bir görüntü talimatı giren herkes karşılığında bir grafik alır. Google'ın bir yapay zekası olan Gemini de bu prensibe göre çalışıyor.
Gemini'nin yapay zeka görüntüleri: “Farklı” ama tarihsel olarak hatalı
Ancak daha sonra kullanıcılar dikkate değer bir anormalliğe dikkat çekti: “1943'ten kalma bir Alman askerinin resmini oluşturun” talebi üzerine yazılım, Avrupalı görünümlü iki Wehrmacht askerinin yanı sıra Wehrmacht üniforması giymiş Asyalı görünümlü bir kadını da tükürdü. siyah SS subayı ve Wehrmacht üniforması giymiş, Hint kökenli olduğu anlaşılan bir kadın.
Bu görüntüler tarihsel açıdan bundan daha yanlış olamaz: Afro-Almanlar Naziler tarafından askerlik hizmetinden çıkarıldı ve toplama kamplarına konuldu. Asya kökenli insanlar en fazla Nazi Almanyası ile müttefik olan Japonya İmparatorluğu'nun ordusunda görev yapmış ya da Japon işgalcilere karşı direnişte savaşmışlardır. Ve Hint kökenli askerler ABD veya Kanada'nın yanında savaştı.
New York Times ve diğer büyük Amerikan medyasının bu yazılım arızasını bildirmesinin ardından Google, yazılımı düzelteceğini duyurdu. Şirkete göre o zamana kadar grafik işlevi geçici olarak askıya alındı.
Ancak kullanıcılar daha önce de usulsüzlüklerle karşılaşmıştı. Gemini, kullanıcılar “güçlü beyaz adam” gibi sorular sorduğunda beyaz tenli kişileri görüntüleyemiyordu. Ancak “güçlü siyah adam” talebi işleme alınabildi. Kullanıcılar daha sonra yapay zekadan Orta Çağ ve erken modern zamanlara ait papaları veya Avrupalı kralları tasvir etmesini istedi; aynı model burada da tekrar ortaya çıktı. Sonuçlar “çeşitliydi”, yani tüm ten renklerinden ve cinsiyetlerden papaların ve kralların resimleri vardı. Ancak bunlar tarihsel gerçekliğe uymuyordu.
Günaydın Berlin
Bülten
Kayıt olduğunuz için teşekkürler.
E-postayla bir onay alacaksınız.
Sebep: “Çeşitlilik, Eşitlik ve Katılım” veya kısaca DEI
Nedenmiş? Görünüşe göre Google, yapay zekasını mümkün olduğunca “çeşitli” sonuçlar üretecek şekilde özel olarak programlamıştı. Google Gemini çalışanı Jack Krawczyk kısa mesaj hizmeti X hakkında yaptığı açıklamada, Google'ın “küresel kullanıcı tabanını” yansıtmak için yapay zekayı kullanmak istediğini söyledi. Temsil ve önyargı gibi konular “çok ciddiye alınıyor”. Şu anda tarihi görüntülerin oluşturulmasındaki “yanlışlıklar” üzerinde çalışıyoruz.
Bu tuhaf “yanlışlıklar” ABD'de “Çeşitlilik, Eşitlik ve Katılım” olarak bilinen siyasi programa dayanıyor. Bu programın destekçileri Batı toplumlarında sistemik ırkçılığın hüküm sürdüğüne, yani beyazların azınlıklardan esirgedikleri ayrıcalıklara sahip olduğuna inanıyorlar. Savunucularına göre, bu iddia edilen mağduriyetin giderilmesi için dil, düşünce ve çeşitli yazılımların daha çok etnik, kültürel ve cinsel azınlıkları yansıtması gerekiyor. Toplumdaki çeşitliliği teşvik etmek ve mevcut kaynakları daha adil dağıtmak istiyorlar.
Bu görüş, yalnızca Jack Krawczyk ve Gemini yazılımıyla değil, Google Grubu'nda da hakim görünüyor. Ama görünüşe göre aynı zamanda küresel lider arama motoru fonksiyonunun yazılım mühendisleriyle de. Örneğin, Google görsel aramasında kategori olarak “beyaz erkek ve beyaz kadın” girerseniz, sonuçlar çoğunlukla farklı ten renklerine sahip çiftler olacaktır: çeşitlilik, doğruluğu gölgede bırakır.
Google SSS İddiası: Elon Musk, şirketi “sansür” yapmakla suçluyor.
Şimdi X kısa mesaj servisindeki bir metin pasajının şunları gösterdiği söyleniyor: Google'ın arama motoru algoritması yıllar önce bu şekilde manipüle edilmiş olabilir. Google'ın 2018'deki iddia edilen bir soru-cevap kataloğunda (SSS), insan gruplarının kesin tasvirinin belirli koşullar altında “algoritmik açıdan adaletsiz” olabileceği okunabilir. X'in patronu Elon Musk da bu alıntıya yorum yaparak Google'ı “ince sansür bıçağıyla” “derinden” kesmekle suçladı.
Alıntı şöyle devam ediyor: Örneğin CEO'ları, yani şirketlerin yönetim kurulu başkanlarını ararsanız, Google Görsel Arama öncelikle erkekleri gösterir. Bu, yazarlar açısından sorunlu bir durum: “Bu, gerçeğin doğru bir yansıması olsa bile algoritmik olarak adaletsiz olurdu çünkü kadınların liderlik pozisyonlarındaki rolüne ilişkin stereotipleri güçlendirecektir.”
Aynı zamanda arama sonuçlarının “gerçek doğruluğunun” Google ürünlerinin pazardaki konumunda önemli bir rol oynadığı da kabul ediliyor. Çeviri: Yanlış arama sonuçları pazarın dezavantajıdır.
Bazı durumlarda “algoritmik adaletsizlik” durumlarına müdahale edilmemesinin uygun olabileceği söyleniyor. Diğerlerinde, “ürün müdahalesi” veya “daha geniş kurumsal sosyal sorumluluk çabaları” yoluyla “toplumun daha adil ve eşit olmasına nasıl yardımcı olabileceğimizi düşünmek” arzu edilebilir.
SSS ayrıca Google ihbarcısı Vorhies'te de bulunabilir.
Berliner Zeitung, Google'dan şunu öğrenmek istedi: Bu, Google SSS'den alınmış özgün bir metin mi? Eğer öyleyse, bu tür algoritma ayarlamaları yalnızca ABD'de mi yoksa Almanya'da mı geçerli? Google “algoritmik adaletsizliği” nasıl tanımlıyor ve bunu nasıl ele alıyor? Peki tuhaf arama sonuçlarının nesi var?
Grubun Almanya bölümü, Berliner Zeitung'un basın sorusunu baskıya girdiği sırada yanıtsız bıraktı. Ancak iddia edilen SSS için bir kaynak çok muhtemel görünüyor: Google'ın ABD'deki eski bir çalışanı olan Zach Vorhies, 2019 yılında şirketten ayrıldı ve aktivist sağcı çevrimiçi ortam “Project”in yardımıyla 950 sayfalık dahili belgeleri kamuoyuna açıkladı. Veritas”.
Şu anda X'te dağıtılan metin alıntısındaki ifadeler, Vorhies tarafından sızdırılan belgelerde kelimesi kelimesine bulunabilir. Bunları Google'ın değil Microsoft'un sahibi olduğu Bing gibi arama motorlarında ararsanız kolayca bulabilirsiniz. Google arama algoritması herhangi bir yararlı sonuç sağlamaz.
Korona salgınıyla birlikte Zach Vorhies giderek politik olarak radikalleşti; Google'ın ihbarcısı son yıllarda Alex Jones'un “Infowars”ı gibi çeşitli komplo teorisi medya formatlarının destekçisi olarak ortaya çıktı. Her ne kadar aşırı sağcı QAnon mezhebinden ayrıldığı söylense de çoğu kişi onu hâlâ bir ucube olarak görüyor. Ancak beş yıl önceki açıklamalarının kamuoyunu endişelendirmeye devam etmesi muhtemel.