YouTube’un önerileri, çocukları aşağıdakilere yönlendiriyor…

Yeni bir rapora göre YouTube’un önerileri, küçük çocukları okullardaki silahlı saldırılar ve diğer silahlarla ilgili içeriklerle ilgili videolara yönlendiriyor. Kâr amacı gütmeyen bir izleme grubu olan Tech Transparency Project’e (TTP) göre, YouTube’un tavsiye algoritması, “video oyunlarıyla ilgilenen çocukları okuldaki silahlı çatışma sahnelerine, silahların nasıl kullanılacağına ve değiştirileceğine ilişkin talimatlara ve diğer silah merkezli içeriğe yönlendiriyor”.

Raporun arkasındaki araştırmacılar, 9 yaşında iki erkek ve 14 yaşında iki erkek çocuğu olarak poz veren dört yeni YouTube hesabı oluşturdu. Tüm hesaplar, aşağıdakiler gibi popüler video oyunlarıyla ilgili içerik oynatma listelerini izledi: roblox, Lego Yıldız Savaşları, hale Ve Büyük otomobil hırsızlığı. Araştırmacılar daha sonra geçen Kasım ayında 30 günlük bir süre boyunca hesapların tavsiyelerini takip ettiler.

TTP, “Çalışma, YouTube’un atış ve silahlarla ilgili içeriği tüm oyuncu hesaplarına aktardığını, ancak YouTube tarafından önerilen videolara tıklayan kullanıcılara çok daha yüksek bir hacimde” yazdığını yazdı. “Bu videolar, okul silahlı saldırılarını ve diğer toplu silahlı saldırı olaylarını tasvir eden sahneler içeriyordu; silahların bir insan vücuduna ne kadar zarar verebileceğinin grafik gösterimleri; ve bir tabancayı tam otomatik bir silaha dönüştürmek için nasıl yapılır kılavuzları.

Raporda belirtildiği gibi, önerilen videolardan birçoğunun YouTube’un kendi politikalarını ihlal ettiği görüldü. Öneriler arasında genç bir kızın silahla ateş ettiği videolar ve tabancaları “tam otomatik” silahlara dönüştürme ve diğer modifikasyonlar hakkında eğitimler yer alıyordu. Bu videolardan bazıları reklamlarla da para kazanıldı.

Bir YouTube sözcüsü yaptığı açıklamada, platformunda “aralar ve gençler için daha güvenli bir deneyim yaratan” YouTube Kids uygulamasına ve uygulama içi araçlarına işaret etti.

Sözcü, “Önerilerimizle ilgili araştırmaları memnuniyetle karşılıyoruz ve akademik araştırmacıları sistemlerimizi incelemeleri için bir araya getirmek için daha fazla yol araştırıyoruz” dedi. “Ancak bu raporun metodolojisini incelerken, güçlü sonuçlar çıkarmamız zor. Örneğin çalışma, test hesaplarına genel olarak kaç videonun önerildiğine ilişkin bağlam sağlamıyor ve YouTube’un Denetimli Deneyimler araçlarının uygulanıp uygulanmadığı da dahil olmak üzere test hesaplarının nasıl oluşturulduğuna dair fikir vermiyor.”

TTP raporu, araştırmacıların YouTube’un öneri algoritması hakkında ilk sorularını gündeme getirmesinden çok uzak. Şirket ayrıca, kurallarını tamamen ihlal etmeyen ancak başka türlü toplu dağıtım için uygun olmayabilecek sözde içeriğin önerilerde görünmesini azaltmak için yıllarca çalıştı. Ve geçen yıl şirket, bu tür içeriklerden bazılarını tamamen paylaşmayı düşündüğünü söyledi.