Tecnología
Martes 12 mayo de 2020 | Publicado a las 19:03
Facebook desarrolla nueva Inteligencia Artificial para detectar "memes de odio"
Por Camilo Suazo
La información es de Agence France-Presse
visitas

Facebook dio a conocer una iniciativa este martes para hacer frente a los “memes de odio” usando inteligencia artificial respaldada por la colaboraci√≥n externa (crowdsourcing) para identificar ese tipo de publicaciones.

La red social líder explicó que ya creó una base de datos de 10.000 memes -imágenes a veces con texto para transmitir un mensaje específico que se presume humorístico- como parte de la intensificación de sus acciones contra los discursos de odio.

Facebook dijo que est√° dando acceso a investigadores a esa base de datos como parte de un “desaf√≠o de memes de odio” para desarrollar algoritmos mejorados que permitan detectar mensajes visuales con contenido odioso, con un premio de 100.000 d√≥lares.

“Estos esfuerzos estimular√°n a la comunidad de investigadores de IA [inteligencia artificial] en general a probar nuevos m√©todos, comparar su trabajo y cotejar sus resultados para acelerar el trabajo en la detecci√≥n del discurso de odio multimodal”, dijo Facebook en una publicaci√≥n de blog.

La red se está apoyando fuertemente en la inteligencia artificial para filtrar contenido cuestionable durante la pandemia de coronavirus, que ha reducido su capacidad de moderación humana como resultado de los confinamientos.

El informe de transparencia trimestral de la compa√Ī√≠a detalla que Facebook elimin√≥ unos 9,6 millones de publicaciones por violar las pol√≠ticas de “discurso de odio” en los primeros tres meses de este a√Īo, incluyendo 4,7 millones de contenidos “vinculados al odio organizado”.

Guy Rosen, vicepresidente de integridad de Facebook, dijo que con inteligencia artificial “podemos encontrar m√°s contenido y ahora podemos detectar casi el 90% del contenido que eliminamos antes de que alguien nos lo informe”.

Facebook se comprometi√≥ hace un a√Īo a “interrumpir” la conducta de odio organizada tras los letales ataques en una mezquita de Nueva Zelanda, que provocaron un “llamado a la acci√≥n” por parte de los gobiernos para frenar la propagaci√≥n del extremismo en l√≠nea.

Los sistemas automatizados y la inteligencia artificial pueden ser √ļtiles, dijo Facebook, para detectar contenido extremista en varios idiomas y analizar texto incrustado en im√°genes y videos para comprender su contexto completo.

Mike Schroepfer, director de tecnolog√≠a de Facebook, dijo a los periodistas en una conferencia telef√≥nica que una de las t√©cnicas que ayudaron a este esfuerzo fue un sistema para identificar im√°genes “casi id√©nticas”, con el que es posible vigilar la publicaci√≥n de im√°genes y videos maliciosos con peque√Īos cambios para evadir la detecci√≥n.

“Esta tecnolog√≠a puede detectar coincidencias casi perfectas”, dijo Schroepfer.

Heather Woods, profesora de la Universidad del Estado de Kansas que estudia memes y contenido extremista, elogió la iniciativa de Facebook y la inclusión de investigadores externos.

“Los memes son claramente complejos, no solo porque son multimodales, al incorporar im√°genes y texto, como se√Īala Facebook, sino porque son contextuales”, dijo Woods.

“Me imagino que los matices y la especificidad contextual de los memes seguir√°n siendo un desaf√≠o para Facebook y otras plataformas que buscan eliminar el discurso de odio”, a√Īadi√≥.

Tendencias Ahora