Google memperkenalkan teknologi untuk membantu penerbit menemukan komentar jahat pada artikel
Google Alphabet Inc (GOOGL.O) dan anak perusahaan Jigsaw pada hari Kamis memperkenalkan teknologi baru untuk membantu organisasi berita dan platform online mengidentifikasi komentar kasar di situs web mereka.
Menurut Reuters, teknologi, yang disebut Perspektif, akan meninjau komentar dan menilainya berdasarkan seberapa mirip komentar tersebut dengan komentar yang dikatakan orang “beracun” atau cenderung membuat mereka meninggalkan percakapan.
Ini telah diuji di New York Times dan perusahaan berharap untuk mengembangkannya ke organisasi berita lain seperti The Guardian dan The Economist serta situs web.
“Organisasi berita ingin mendorong keterlibatan dan diskusi tentang konten mereka, tetapi menemukan bahwa dibutuhkan banyak uang, tenaga, dan waktu untuk memilah-milah jutaan komentar untuk menemukan komentar yang mengolok-olok atau kasar. Akibatnya, banyak situs yang menutup komentar sama sekali,” tulis Jared Cohen, presiden Jigsaw, yang merupakan bagian dari Alphabet, dalam postingan blog.
“Tapi mereka memberi tahu kami bahwa ini bukan solusi yang mereka inginkan. Kami pikir teknologi dapat membantu.”
Perspektif memeriksa ratusan ribu komentar yang dianggap ofensif oleh pengulas manusia untuk mempelajari cara menemukan bahasa yang berpotensi ofensif.
CJ Adams, Manajer Produk Jigsaw, mengatakan perusahaan terbuka untuk meluncurkan teknologi ke semua platform, termasuk platform yang lebih besar seperti Facebook ( FB.O ) dan Twitter ( TWTR.N ) di mana trolling bisa sangat memusingkan.
Teknologi ini dapat diperluas di masa depan untuk mencoba mengidentifikasi serangan pribadi atau komentar di luar topik, kata Cohen.
Perspektif tidak akan memutuskan apa yang harus dilakukan dengan komentar yang menurutnya berpotensi menyinggung; sebaliknya, penerbit akan dapat menandainya ke moderator mereka atau mengembangkan alat untuk membantu pemberi komentar memahami dampak dari apa yang mereka tulis.
Cohen mengatakan sebagian besar komentar kasar datang dari orang-orang yang “hanya mengalami hari yang buruk”.
Inisiatif anti-troll mengikuti upaya Google dan Facebook untuk menindak berita palsu di Prancis, Jerman, dan Amerika Serikat setelah mereka mendapat kecaman selama pemilihan presiden AS ketika menjadi jelas bahwa mereka secara tidak sengaja memicu berita palsu.
Perdebatan seputar berita palsu telah menyebabkan seruan dari politisi agar jejaring sosial lebih bertanggung jawab atas konten yang diposting di platform mereka.
Teknologi Perspektif masih dalam tahap awal dan “jauh dari sempurna,” kata Cohen, menambahkan bahwa ia berharap dapat diluncurkan untuk bahasa selain bahasa Inggris juga.