Yasmin Green, Google’ın ana şirketinde cüretkar bir hedefle bir ekibe liderlik ediyor: İnternette ortaya çıkan en zorlu jeopolitik sorunları çözmek. Araştırma ve geliştirme başkanı olduğu Jigsaw, Alphabet bünyesinde teknolojik ilerlemenin istenmeyen tatsız sonuçlarıyla mücadele etmekle görevli bir düşünce kuruluşudur. Green’in internetin karanlık yüzüyle mücadele etmek için kullandığı radikal strateji? Doğrudan arkasındaki insanlarla konuşun.
Bu, kendisinin ve ekibinin onların motivasyonlarını, süreçlerini ve hedeflerini anlayabilmesi için sahte haber yaratıcılarını, cihatçıları ve siber zorbaları dinlemek anlamına gelir. Green bugün WIRED’in New York’taki 2017 İş Konferansı’nda “Sansüre, siber güvenliğe, siber saldırılara, IŞİD’e ve internet yaratıcılarının internetin ne için kullanılacağını düşünmedikleri her şeye bakıyoruz.” dedi.
Geçen hafta, Green, ABD’deki 2016 cumhurbaşkanlığı seçimlerinde büyük etkisi olan, sahte haber seyyar satıcılarıyla, tıklamaya aç oportünistlerle buluşmak için Makedonya’ya gitti. Amacı, sahte haber yayma iş modelini anlamaktı, böylece kendisi ve ekibi süreci tanımlayacak ve bozacak algoritmalar oluşturabilecekti. Bu içerik çiftliklerinin, yasal çevrimiçi yayıncılar tarafından kullanılan araçların aynısı olan sosyal medyayı ve çevrimiçi reklamcılığı kullandığını öğrendi. “[Sahte haber sorunu], algoritmaların algılayabilmesi gereken bir şekilde başlıyor” dedi. Ekibi şu anda bu sistemi engellemek için Google’ın yanı sıra Facebook ve Twitter gibi rakip platformlarda paylaşılabilecek bir araç üzerinde çalışıyor.
“Şiddete dayalı aşırılık yanlısı gruplara katılanlar çoğunlukla kötü kararlar veren iyi insanlardır.” { 2}
Yalan haberlerin yanı sıra Jigsaw, yoğun bir şekilde çevrimiçi terör yanlısı propagandayla mücadeleye odaklanıyor. Geçen yıl Green ve ekibi, eski IŞİD üyeleriyle doğrudan konuşmak için Irak’a gitti. Görüşmeler, aşırılık yanlısı sempatileri arama kalıplarına dayalı olarak tespit eden makine öğrenimini kullanan Yönlendirme Yöntemi adlı bir araca yol açtı. Yönlendirme Yöntemi tespit edildikten sonra, bu kullanıcılara IŞİD’in çirkin tarafını gösteren videolar sunar – ideolojinin cazibesine karşı bir anlatım. Hilafete katılmak için bilet aldıkları noktada, artık çok geç olduğunu söyledi.
“Katılmak için çoğunlukla iyi insanlar kötü kararlar veriyor şiddetli aşırılık yanlısı gruplar,” diyor Green. “Yani iş şuydu: Bu insanların kötü olmadığına ve bir şeyi satın aldıklarına saygı duyalım ve onlara, sempatik ama satılmayan insanlara ulaşmak için hedefli reklamcılığın gücünü kullanalım.”
O zamandan beri Green, geçen yıl kullanıma sunulduğunda, 300.000 kişinin Yönlendirme Yöntemi tarafından sunulan videoları izlediğini, yani toplamda yarım milyon dakikadan fazla izlediğini söyledi.
KABLOLU İş Konferansı
Green’in ekibi, sahte haberlerin ve aşırılığın ötesinde, haber kuruluşlarının sitelerindeki yorum bölümlerinde yer alan zehirli konuşmaları hedeflemek için bir araç da oluşturdu. Potansiyel çevrimiçi tacizi tespit etmek ve moderatörleri soruna karşı uyarmak için bağlam ve duygu eğitimini kullanan bir makine öğrenimi algoritması olan Perspective’i yarattılar. Beta sürümü, New York Times gibileri tarafından kullanılıyor. Ancak Green’in açıkladığı gibi, sürekli gelişen bir araçtır. Potansiyel bir endişe, kendisinin belirli kelimelere, fikirlere ve hatta konuşma tonlarına karşı önyargılı olabilmesidir. Bu riske karşı koymak için Jigsaw, otoriter bir rejimin aracı tam bir sansür için kullanabileceğinden korkarak API’yi açarak başkalarının parametreleri kendilerinin belirlemesine izin vermemeye karar verdi.
“Önlemler almalıyız. Bu araçların kötüye kullanılmasını önleyin” dedi. Tıpkı yaratıcılarının asla hayal bile edemeyeceği yıkıcı şekillerde kullanılan internetin kendisi gibi, Green de ekibinin ürettiği çözümlerin kötüye kullanılabileceğinin farkındadır. Bu riskin her zaman aklında olduğunu söylüyor. Ancak bu, denemeyi bırakmanız için bir neden değil.