Facebook utiliza la IA para encontrar contenidos ofensivos

facebook inteligencia artificial contenido computer male facing screen dark background 640x0
“Moderación en el contenido” es una expresión común en el lenguaje académico o en una tarea editorial, pero la realidad sobre esta expresión está tomando matices más oscuros.

De acuerdo a Wired, hay más de 100,000 personas que tienen como trabajo en las Filipinas y en los Estados Unidos, el de leer el contenido en línea buscando comentarios ofensivos, amenazadores, obscenos o abusivos.

Relacionado: Google anuncia nueva plataforma de mensajería con toques de inteligencia artificial

El nivel de estrés que manejan estos moderadores es inmenso y puede dejar problemas emocionales.

Es una realidad  sobre la necesidad de tener contenido en la web, con el cual los usuarios interactúen.

Twitter, Google, Netflix, YouTube y otras compañías no publican los problemas de moderación de contenidos con los que se encuentran a diario, pero eso no quiere decir que no estén haciendo esfuerzos para controla el problema.

No se trata simplemente de controlar la información que aparece en sus plataformas, sino también de construir sistemas de inteligencia artificial capaces de reconocerlos y que sea capaz de hacer este trabajo.

Los ingenieros de Facebook declararon hace poco que los sistemas de inteligencia artificial están ahora encontrando más contenido ofensivo que el que encontraban los seres humanos, ,de acuerdo a un reporte de TechCrunch.

Joaquín Candela, el Director de Ingeniería de Facebook para aprendizaje de las máquinas,  habló sobre el incremento del uso de este tipo de sistemas en varios aspectos del negocio que es Facebook, incluyendo el área de moderación de contenido.

“Algo que sucede hoy es que estamos encontrando más fotos ofensivas con algoritmos de inteligencia artificial que con personas (…) entre más la utilicemos, menos posibilidades habrá de que los usuarios las vean”, afirma Candela.

Claramente, estos sistemas no son perfectos y algunos errores han sucedido. Un reporte de Wired indica que en el 2015, Twitter afirmó que su sistema de inteligencia artificial está diseñado para reconocer la pornografía el 99% de las veces.

Relacionado: Inteligencia Artificial predice y gana en el Derby de Kentucky

Sin embargo, la red social admite que el 7% de esos contenidos bloqueados eran inocentes y habían sido bloqueadas de forma incorrecta.

Muchas veces las imágenes dadas de baja, son fotos de bebés medio desnudos o madres lactando.

Esto quiere decir que los sistemas de inteligencia artificial  tienen aún mucho por aprender y a partir de ahí, cambiar el tipo de análisis que hacen con la información que reciben.

Varias redes sociales están trabajando en conjunto para compartir y aprender sobre estos sistemas y un ingeniero de Facebook añade que no ven la inteligencia artificial como un arma secreta para competir con las otras empresas”.

Redes sociales

¡Cuidado! Pedófilos se infiltran en los videos de niños de YouTube

varias marcas importantes dejaron de comprar anuncios en YouTube después de que, una vez más, su publicidad apareció en videos de niños donde los pedófilos se habían infiltrado en las secciones de comentarios.
Noticias

El mejor navegador web para ti dependerá de tus necesidades, y aquí lo descubrirás

Saber cuál es mejor navegador web no es como seleccionar un sistema operativo. A diferencia de elegir MacOS, Windows o Chrome OS, cambiar de un navegador no es tan complicado. Hemos revisado los más usados, y este es nuestro "ranking".
Opinión

La batalla del 2019 ha comenzado y Samsung lidera en telefonía móvil

Nuestro Editor en Jefe nos da su opinión al concluir el evento "Unpacked" de Samsung, donde se revelaron los nuevos teléfonos de la firma surcoreana. La batalla está más agitada que nunca y al parecer el reino de Apple está en…
Computación

Este sitio web crea caras muy reales de personas que no existen

En este sitio web puedes interactuar con un algoritmo que crea caras nuevas increíblemente parecidas a las de un humano. Es un gran avance, ya que anteriormente no se había logrado crear imágenes computarizadas tan realistas.
Redes sociales

Ya puedes compartir tu contenido favorito de Netflix en Instagram

Si no tienes nadie a tu lado para compartir tus películas o series favoritas, una nueva función de Netflix quiere hacer que tu experiencia sea más social a través de Instagram. Te explicamos de qué se trata.
Redes sociales

Encuentra una aventura, una amistad o el amor con alguna de estas apps LGBT de citas

Si bien no hay escasez de aplicaciones de citas que se adapten a prácticamente todas las audiencias e intereses, pocas se han creado pensando exclusivamente en la comunidad LGBTQ. Reunimos aquí las más populares que puedes descargar hoy…
Computación

Microsoft Edge te ayudará a detectar noticias falsas

Microsoft se ha asociado con el popular sitio de protección al consumidor NewsGuard para ayudar a los usuarios a detectar más fácilmente noticias falsas o publicaciones que no son de confianza.
Computación

Pequeñas, portátiles y poderosas: ¿cómo compiten la Asus Zenbook 13 UX333 y Dell XPS 13?

Si estás buscando una computadora portátil de 13 pulgadas existe una gran variedad de dispositivos entre los que puedes elegir. Para ayudarte, comparamos las laptops Asus Zenbook 13 UX333 y Dell XPS 13.
Redes sociales

Mensajes de WhatsApp se integrarían con Instagram y Facebook Messenger

¿Te comunicas con tus amigos o contactos a través del servicio de mensajes de Facebook Messenger, prefieres hacerlo por Instagram o te gusta más WhatsApp? Parece que pronto ya no tendrás que elegir.
Redes sociales

Facebook pagó $20 dólares al mes a algunos usuarios para espiar su teléfono e internet

Facebook estuvo pagando $20 al mes a algunos usuarios, muchos de ellos adolescentes, para obtener acceso completo a sus datos sobre el uso de su teléfono e Internet. Te explicamos cómo lo hicieron.
Telefonía celular

Apple impide que Google distribuya o ejecute aplicaciones internas en iOS

Apple impide que Google distribuya y ejecute sus aplicaciones internas de iOS en su red corporativa, luego de que una investigación encontró que estaba abusando de los certificados de permiso.
Tendencias

Google quiere ayudarte a proteger y educar a los pequeños de la casa sobre los males del internet

A propósito del Día Internacional de Internet Seguro a celebrarse el 5 de febrero, Google ha publicado el resultado de una encuesta en la que participaron padres y maestros sobre los riesgos y retos para mantener a los niños seguros en…
Entretenimiento

Seleccionamos las mejores apps para iPhone que no pueden faltar en tu teléfono

Apps para iPhone hay miles, pero no te preocupes, que ya nos hemos metido a fondo en iTunes y hemos hecho una selección con as mejores que puedes descargar. Desde Instagram a Google Chrome, ninguna de estas aplicaciones puede faltar en tu…
Redes sociales

¡Buenas noticias! Facebook Messenger ya te deja borrar mensajes enviados

La largamente prometida característica de "Unsend" de Facebook para eliminar mensajes enviados, ya está siendo desplegada. Aquí te explicamos cómo usarla y todo lo que deberías saber al respecto.