Twitch’in Klip özelliği platformda çocuk istismarının artmasına neden oluyor

Twitch’in canlı yayın platformunu yönetme konusunda yaşadığı zorluklara dair Bloomberg tarafından yapılan araştırmalar içeren bir rapor, telaş verici bir tablo çiziyor. Bilhassa, kullanıcıların kısa görüntüleri kaydetmesine imkan tanıyan Klip özelliği, platformda önemli bir sorun oluşturuyor. Bloomberg’in yaklaşık 1.100 klip tahlil ettikten sonra, en az 83’ünde çocukların cinselleştirildiği içerikler bulduğu belirtiliyor. Twitch, durumdan haberdar edildikten sonra bu görüntüleri kaldırdı ve şirket sözcüsü, Engadget e-posta yoluyla, uygulama araçlarına ve önleyici önlemlere büyük yatırım yaptıklarını ve yapmaya devam edeceklerini belirtti.

Bloomberg, Klip özelliğinin kalıcı tabiatının, süreksiz olarak tasarlanmış platformda yarattığı sıkıntıları örneklendiren bir olayı vurguluyor. Geçen bahar, Twitch’te sandviç yiyip Fransız çalgısı çalan 12 yaşındaki bir çocuğun kıssası anlatılıyor. Çocuk, izleyicilerden gelen isteklere karşılık vermeye başladığında maalesef bu durum, çocuğun pantolonunu indirmesine yol açıyor ve yayın kesiliyor.

Bloomberg, bu olayın “bir anda” bittiğini lakin Klip özelliğinin kayıt fonksiyonu yüzünden, çocuklara ilişkin yüzlerce hesabı takip eden bir izleyicinin bu anı kaydetmesine imkan tanıdığını belirtiyor. Bu durum, Twitch’e haberdar edilip Twitch tarafından kaldırılana kadar 20 saniyelik klibin 130’dan fazla defa izlenmesine yol açtı.

Klip özelliği, 2016 yılında platformdaki süreksiz anları korumak maksadıyla başlatıldı. Bu özellik, kayıt butonuna basıldığında evvelki 25 saniye ve sonraki 5 saniyeyi kaydediyor. Ne yazık ki, bu durum, rahatsız edici anların avcılar tarafından kaydedilip öteki yerlere dağıtılmasına neden oluyor.

Twitch, bu yıl Klip özelliğini, platformda daha fazla TikTok gibisi içerik üretmek amacıyla genişletmeyi planlıyor. Kullanıcıların kısa görüntülerini yayınlayabilecekleri TikTok’a benzeri bir keşif akışı başlatmayı planlıyor.

Bloomberg’in raporu, 83 istismarcı videoyu inceleyen Kanada Çocuk Koruma Merkezi’nin sonuçlarını aktarıyor. Merkez, bu görüntülerden 34’ünün kamera karşısında genital bölgelerini gösteren genç kullanıcıları içerdiği sonucuna varıyor. Çoğunlukla beş ile on iki yaş ortası erkek çocuklarını içeren bu görüntüler, cinsel içerikli yahut tacize maruz kalmış minörleri içeriyor.

Merkez, en önemli 34 görüntünün 2.700 kere izlendiğini, geri kalanların ise 7.300 kere izlendiğini belirtiyor.

Twitch’in Yanıtı

“Herhangi bir yerde, çevrimiçi olarak yaşanan çocuk ziyanı kabul edilemez ve bu mevzuyu son derece ciddiye alıyoruz,” diye bir Twitch sözcüsü Engadget’a yazdı. Çocuk cinsel istismar malzemeleri (CSAM) konusunda uyarıldıktan sonra şirket, mümkün taciz davranışlarını tespit etmek için yeni modeller geliştirdiğini ve mevcut araçlarını yasaklı kullanıcıların yeni hesaplar oluşturmasını daha tesirli bir formda tespit etmek ve kaldırmak için güncellediğini söylüyor.

Twitch ayrıyeten, Klip özelliğinin kaynağı olan canlı yayınların güvenlik takımları tarafından uygulanmasını artırdığını ekliyor. “Bu, ziyanlı içerik içeren bir canlı yayını devre dışı bırakıp kanalı askıya aldığımızda, klip oluşturulmasını ve ziyanlı kliplerin kaynağında yayılmasını engelliyoruz,” diye şirket yazıyor. “Önemli olarak, topluluk kurallarımızı ihlal eden klipleri sildiğimizde ve devre dışı bıraktığımızda, bu kliplerin kamu alanları yahut başka direkt irtibatlar aracılığıyla erişilebilir olmadığını sağlamak için çalıştık.”

Ne yazık ki, çevrimiçi ziyanların evrimleştiğinin de farkındayız,” diye sözcü devam ediyor. “İç güvenlik gruplarımızın birtakım evrimleşen çevrimiçi ziyanları, örneğin generatif AI destekli Çocuk Cinsel İstismar Gereci (CSAM) üzere tespit etmek için kullandığı yönergeleri geliştirdik.” Twitch, benzeri içeriği gelecekte engellemek ümidiyle çalıştığı dış kuruluşların listesini genişlettiğini ekledi.

Twitch’in Moderasyon Sorunları

Bloomberg, Klip özelliğinin Twitch’te en az yönetilen kısımlardan biri olduğunu bildiriyor. Ayrıyeten, şirketin Nisan 2023’te iç güvenlik ve güvenlik takımının yüzde 15’ini işten çıkardığını ve CSAM içeriğini bastırmak için dış ortaklara daha fazla bağımlı hale geldiğini belirtiyor.

Twitch’in canlı yayına odaklanan platformu, YouTube yahut Instagram üzere daha klasik görüntü sitelerinden daha sıkıntı bir moderasyon meydan okuması oluşturuyor. Bu platformlar, yüklenen görüntüleri daha evvel bilinen sıkıntılı evrakları tespit edebilen dijital parmak izleri olan hash’lerle karşılaştırabilir. “Hash teknolojisi, daha evvel görülen bir şeyle eşleşen bir şey arıyor,” diye Lauren Coffren, ABD Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi’nden Bloomberg’e söyledi. “Canlı yayın demek, bu büsbütün yeni bir şey demek.”

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir