İSTANBUL (İGFA) – TikTok’ta canlı yayın içeriklerinin gerçek vakitli olarak denetlenmesi konusunu kıymetlendiren Doç. Dr. Aylin Tutgun Ünal, TikTok platformu, Topluluk Kurallarına karşıt olan ziyanlı içerikleri ve davranışları belirleyip kaldırmak için hem otomatik kıymetlendirme hem de insan değerlendirmesini kullandığını belirterek, bu tedbirlerin yeterliliği konusunda birtakım kaygılar ve tartışmalar devam ettiğini söyledi.
Canlı yayın içeriklerinin gerçek vakitli olarak denetlenmesi için kullanılan teknolojilerin ekseriyetle yapay zeka ve makine tahsili algoritmalarını içerdiğini kaydeden Doç. Dr. Aylin Tutgun Ünal, “Yapay zeka ve makine tahsili, gerçek vakitli içerik sürece için ölçeklenebilir (scalable) tahliller sunarak platformların uygunsuz içerikleri süratli ve verimli bir halde tespit edip kaldırmasını sağlar. Geçmişte manuel olarak yapılan içerik moderasyonu insan moderatörlere dayanıyordu ve büyük data ile baş etmede ölçeklenebilir tahliller sunmadığı için uygun değildi. Günümüzde toplumsal medya üzere büyük bilgi barındıran düzeneklerin gerçek vakitli denetlenebilmesi yapay zeka ve makine tahsili algoritmaları içeren teknolojilerle mümkün” diye konuştu.
YAPAY ZEKA TAKVİYELİ TEKNOLOJİLER NE KADAR BAŞARILI?
Bu teknolojilerin; sesli içerik moderasyonu, manzara içerik moderasyonu, metin içerik moderasyonu, gerçek vakitli izleme ve tespit, yapay zeka dayanaklı bağlantı üzere teknolojiler olduğunu anlatan Doç. Dr. Aylin Tutgun Ünal, “Bu teknolojilerin çalışma prensiplerine değinecek olursak; canlı yayın sırasında kullanılan yazılı metinleri tahlil eden yapay zeka algoritmaları küfür, nefret telaffuzları yahut başka uygun olmayan içerikleri tespit edebilir. Ya da sesli içerik moderasyonu, sesli içeriği metne dönüştürür ve canlı yayın sırasında kullanılan sözleri ve telaffuzları tahlil eder, uygun olup olmadığını denetim eder. Gerçek vakitli olarak içeriklerin uygun olup olmadığını yapay zeka çabucak tespit edebilir. Bu da insan moderatörlerin yükünü azaltmakla kalmayıp içeriklerin daha süratli yönetilmesini sağlar. Twitch, YouTube Live ve Facebook Live üzere platformlar, bu teknolojileri kullanarak izleyicileri muhafazayı, daha inançlı ve keyifli bir tecrübe sunmayı amaçlıyor. Ne kadar başarılı oldukları ise tartışma konusu.” dedi.
ÖNLEMLERİN KÂFİ OLABİLMESİ İÇİN NELER YAPILMALI?
Alınan tedbirlerin kâfi olabilmesi için daha tesirli bir kontrol sisteminin oluşturulup işe katılması gerektiğine de dikkat çeken Doç. Dr. Aylin Tutgun Ünal, “Bu sistemde olması gereken bileşenler; Gelişmiş yapay zeka ve makine tahsili, Gerçek vakitli izleme, kullanıcı raporlama sistemleri, eğitim ve farkındalık, insan moderatörler, güçlü topluluk kuralları ve yaptırımlar olarak sıralanabilir. Bu noktada, Aile ve Sosyal Hizmetler Bakanlığı, TikTok ve diğer toplumsal medya platformlarıyla şiddet ve istismar içerikli yayınlar konusunda görüşmeler yaparak, daha tesirli adımlar atmayı planlıyor. Bu noktada, toplumsal medya platformları kapsamında düzenlenecek siyasetlerin kontrol sistemlerindeki değerinden bahsedebiliriz. Topluluk kurallarının net bir halde belirlenmesi ve ihlallerin önemli yaptırımlarla karşılanması, kullanıcıların bu kurallara uymasını teşvik edecektir.” diye konuştu.
TİKTOK ÜZERE PLATFORMLARIN SORUMLULUKLARI NELERDİR?
Bu ortada Tik Tok üzere toplumsal medya platformlarının, şiddet içerikli olayların yayılmasını önlemek ve kullanıcıları korumak için çeşitli sorumluluklara sahip olduğunu tabir eden Doç. Dr. Aylin Tutgun Ünal, bu sorumlulukları şu formda sıraladı:
1- Topluluk kuralları ve siyasetler: Şiddete teşvik eden yahut şiddet içeren içeriklerin paylaşılması yasaklanmalıdır.
2- İçerik moderasyonu: Hem otomatik kıymetlendirme sistemleri hem de insan moderatörler kullanarak içerikler denetlenmelidir. Şiddet içerikli içerikler tespit edildiğinde, bu içerikler süratle kaldırılmalıdır ve ihlal eden hesaplar hakkında gerekli tedbirler alınmalıdır.
3- Gerçek vakitli izleme ve müdahale: Şiddet içerikli olayların anında tespit edilmesi ve müdahale edilmesi için gerçek vakitli izleme sistemi kullanılmalıdır. Bu, kullanıcıların güvenliğini sağlamak için kritik bir adımdır.
4- Kullanıcı raporlama sistemleri: Kullanıcılar, şiddet içerikli içerikleri rapor edebilir ve bu raporlar süratli bir biçimde değerlendirilmelidir. Böylelikle, topluluk üyelerinin platformun güvenliğine katkıda bulunması sağlanır.
5- Eğitim ve farkındalık: Şiddet içerikli içeriklerin ziyanları konusunda kullanıcıları eğitmek ve farkındalık yaratmak için çeşitli kampanyalar ve programlar düzenlenmelidir.