Odatv Çeviri
The intercept ile paylaşılan verilere göre, Facebook’un içerik moderasyon standartlarını test etmek amacıyla hazırlanan ve Filistinlilere yönelik şiddet çağrısı yapan bir dizi reklamın tamamı sosyal medya ağı tarafından onaylandı.
Hem İbranice hem de Arapça olarak gönderilen reklamlar, Facebook ve ana şirketi Meta’nın politikalarının açık ihlallerini içeriyordu. Bazılarında doğrudan Filistinli sivillerin öldürülmesi çağrısında bulunan şiddet içerikleri yer alıyordu. Örneğin “Filistinliler için bir soykırım” talep eden ve “Gazzeli kadınları, çocukları ve yaşlıları” yok etmeyi amaçlayan reklamlar gibi.
Gazzeli çocukları “geleceğin teröristleri” olarak tanımlayan ve “Arap domuzlarına” atıfta bulunanlar gibi diğer paylaşımlar da aşağılayıcı bir dil içeriyordu.
Test reklamlarını sunan Filistinli sosyal medya araştırma ve savunuculuk grubu 7amleh’in kurucusu Nadim Nashif The Intercept’e yaptığı açıklamada, “Bu reklamların onaylanması Meta’nın Filistin halkına yönelik bir dizi başarısızlığının sadece sonuncusu. Bu kriz boyunca Meta’nın Filistinlilere yönelik açık önyargı ve ayrımcılığının devam ettiğini gördük” dedi.
7amleh’in Facebook’un makine öğrenimli sansür aygıtını test etme fikri geçen ay Nashif’in Facebook akışında Özgür Gazze Hareketi’nin kurucularından Amerikalı aktivist Paul Larudee’nin öldürülmesini isteyen bir reklam bulmasıyla ortaya çıktı. Facebook’un otomatik çevirisi reklam metninde şöyle yazıyordu: “ABD’li anti-Semitik ve ‘insan hakları’ teröristi Paul Larudi’ye suikast düzenleme zamanı geldi.” Nashif reklamı Facebook’a bildirdi ve reklam kaldırıldı.
İlan, web sitesine göre, eski İsrail Savunma Kuvvetleri ve istihbarat subayları tarafından kurulan ve finansmanı antisemitik kaynaklardan geldiği iddia edilen “İsrail karşıtı örgütlerle” mücadele eden sağcı bir İsrailli grup olan Ad Kan tarafından verilmişti.
Bir siyasi aktiviste suikast çağrısında bulunmak Facebook’un reklamcılık kurallarının ihlalidir. Ad Kan’ın sponsor olduğu gönderinin platformda yer alması, Facebook’un bu kurallara rağmen reklamı onayladığını gösteriyor. Reklam muhtemelen Facebook’un makine öğrenimine dayanan ve küresel reklamcılık işinin hızlı bir şekilde işlemesini sağlayan otomatik süreci tarafından filtrelemeden geçti.
Facebook reklam politikasına genel bakışta, “Reklam inceleme sistemimiz, tüm reklamları yayına girmeden önce incelemek üzere tasarlanmıştır,” deniyor. Meta’nın geçmişte neredeyse tamamen dış kaynaklı taşeron işçiliğine dayanan insan tabanlı moderasyonu daha fazla dikkat ve eleştiri çektikçe, şirket ifade kurallarını ve sansür politikalarını uygulamak için otomatik metin tarama yazılımına daha fazla ağırlık vermeye başladı.
Bu teknolojiler şirketin insan denetçilerle ilgili işgücü sorunlarını aşmasına olanak tanırken, denetleme kararlarının gizli algoritmaların arkasında nasıl alındığını da belirsizleştiriyor.
Geçtiğimiz yıl Meta tarafından yaptırılan bir dış denetim, şirketin Arapça gönderileri silmek için rutin olarak algoritmik sansür kullanırken, ırkçı söylemler ve şiddete teşvik gibi “İbranice düşmanca söylemleri” tespit etmek için eşdeğer bir algoritmaya sahip olmadığını ortaya koydu. Denetimin ardından Meta, “daha fazla ihlal edici İbranice içeriği proaktif olarak tespit etmemize yardımcı olmak için bir İbranice ‘düşmanca söylem’ sınıflandırıcısı başlattığını” iddia etti. Yani, cinayeti teşvik eden bir reklam gibi içerikler.
FACEBOOK’TA ŞİDDETE TEŞVİK
İsrail’in Gazze’deki Filistinlilere yönelik saldırısının sürdüğü bir dönemde, Nashif reklamdaki Larudee’yi öldürmeye yönelik açık çağrıdan rahatsız olmuş ve benzer ücretli paylaşımların Filistinlilere yönelik şiddete katkıda bulunabileceğinden endişe etmiş.
Sosyal medyadan gerçek dünyaya sıçrayan büyük ölçekli şiddet kışkırtıcılığı sadece bir varsayım değil. 2018’de Birleşmiş Milletler müfettişleri, şiddet içeren kışkırtıcı Facebook paylaşımlarının Myanmar’daki Rohingya soykırımında “belirleyici bir rol” oynadığını tespit etti. (Geçen yıl başka bir grup, 7amleh’in deneyi ile aynı çizgide bir proje olan Rohingya’ya karşı kışkırtıcı test reklamları yayınladı; bu durumda tüm reklamlar da onaylandı).
Larudee’nin gönderisinin hızla kaldırılması, reklamın ilk etapta nasıl onaylandığını açıklamadı. Facebook’tan alınan güvenlik önlemlerine ilişkin teminatlar ışığında, Nashif ve sansür ve ifade özgürlüğü konularında Meta ile resmi olarak işbirliği yapan 7amleh’in kafası karıştı.
Onayın bir tesadüf olup olmadığını merak eden 7amleh, Meta ve Facebook için bir test niteliğinde, şirket kurallarını kasıtlı olarak ve alenen ihlal eden metinlerle hem İbranice hem de Arapça 19 reklam oluşturdu ve gönderdi. 7amleh’in reklamları, onay sürecini test etmek ve Meta’nın şiddet ve ırkçı kışkırtmaları otomatik olarak eleme becerisinin, açık şiddet kışkırtması örneklerinde bile daha iyi hale gelip gelmediğini görmek için tasarlanmıştı.
Nashif, “Myanmar’da Rohingyaların başına gelenler örneğinden, Meta’nın marjinalleştirilmiş toplulukları korumak için yeterince çaba göstermeme konusunda bir sicili olduğunu ve reklam yöneticisi sisteminin özellikle savunmasız olduğunu biliyorduk” dedi.
META SINIFTA KALDI
Şirketin Topluluk Standartları kural kitabı sadece şiddeti savunan metinleri değil, aynı zamanda ırkları, etnik kökenleri, dinleri veya milliyetleri temelinde insanlara karşı insanlıktan çıkarıcı ifadeleri de yasaklıyor. Buna rağmen, The Intercept ile paylaşılan onay e-postaları Facebook’un her bir reklamı onayladığını gösteriyor.
Her ne kadar 7amleh, The Intercept’e kuruluşun bu reklamları yayınlamak gibi bir niyeti olmadığını ve yayınlanmaları planlanmadan önce geri çekeceğini söylese de, onaylanmalarının sosyal platformun 4 milyardan fazla kullanıcısının büyük çoğunluğu tarafından kullanılan İngilizce dışındaki diller konusunda temelde miyop kaldığını gösterdiğine inanıyor. (Meta, The Intercept’in şirketin dikkatine sunmasının ardından 7amleh’in İbranice reklamlarını geriye dönük olarak reddetti, ancak Arapça versiyonlar Facebook’un reklam sisteminde onaylanmaya devam ediyor).
Facebook sözcüsü Erin McPike reklamların yanlışlıkla onaylandığını doğruladı. “Devam eden yatırımlarımıza rağmen, hem makineler hem de insanlar hata yaptığı için gözden kaçırdığımız ya da yanlışlıkla onayladığımız örneklerin olacağını biliyoruz. Bu nedenle reklamlar, yayına girdikten sonra da dahil olmak üzere birçok kez gözden geçirilebiliyor” dedi.
Kendi deneysel reklamlarının onaylanmasından birkaç gün sonra 7amleh, kendilerine “Migrate Now” diyen bir grup tarafından yayınlanan ve “Judea ve Sumaria’daki Arapları” Ürdün’e taşınmaya çağıran Arapça bir reklam keşfetti.
Facebook belgelerine göre, otomatik, yazılım tabanlı tarama, reklamları onaylamak veya reddetmek için kullanılan “birincil yöntem”. Ancak şiddet içeren ya da ırkçı paylaşımları tespit etmek için kullanılan “düşmanca söylem” algoritmalarının reklam onay sürecinde de kullanılıp kullanılmadığı belirsiz. Facebook, geçen yılki denetime verdiği resmi yanıtta, İbranice dilindeki yeni sınıflandırıcının, İsrail ve Filistin arasındaki çatışmaların alevlenmesi gibi “ihlal edici içerikteki büyük artışları” ele alma yeteneğini “önemli ölçüde geliştireceğini” söyledi. Ancak 7amleh’in deneyine göre, bu sınıflandırıcı ya çok iyi çalışmıyor ya da bir nedenden dolayı reklamları taramak için kullanılmıyor. (McPike, 7amleh’in reklamlarının onaylanmasının düşmanca söylem sınıflandırıcısıyla ilgili altta yatan bir sorunu yansıtıp yansıtmadığı sorusuna yanıt vermedi).
Nashif’e göre her iki durumda da, bu reklamların onaylanmış olması genel bir soruna işaret ediyor. Meta, şiddete yönelik açık tahriki caydırmak için makine öğrenimini etkili bir şekilde kullanabileceğini iddia ederken, bunu yapamayacağı açık.
Nashif yaptığı açıklamada, “Meta’nın İbranice sınıflandırıcılarının etkili bir şekilde çalışmadığını biliyoruz ve şirketin endişelerimizin neredeyse hiçbirine yanıt verdiğini görmedik. Bu eylem eksikliği nedeniyle, Meta’nın Filistinlilerin sahada maruz kaldığı zarar ve şiddetin bir kısmından en azından kısmen sorumlu olabileceğini düşünüyoruz” dedi.
Reklamların Arapça versiyonlarının onaylanması, Wall Street Journal tarafından kısa bir süre önce yayınlanan ve Meta’nın Arapça gönderileri kaldırmak için algoritmik sansür sisteminin ihtiyaç duyduğu kesinlik düzeyini – gönderinin kuralları ihlal ettiğine dair yüzde 80’lik güvenden sadece yüzde 25’e düşürdüğüne dair bir raporun ardından özellikle sürpriz oldu. Başka bir deyişle, Meta bastırdığı ya da sildiği Arapça gönderilerin gerçekten politika ihlalleri içerdiğinden daha az emin oluyordu.
Nashif, “Filistinli seslerin susturulmasıyla sonuçlanan sürekli eylemler oldu” dedi.
