El continuo avance de la inteligencia artificial (IA) ha sido motivo de algunas controversias, pero ahora Facebook quiere utilizarla para abordar uno de sus más oscuros desafíos: el uso de su plataforma para publicaciones de personas con tendencias suicidas.
Mark Zuckerberg anunció en su muro que Facebook está desplegando un sistema mejorado de inteligencia artificial, que será capaz de escanear publicaciones en busca de signos de intenciones suicidas, y alertar en estos casos antes de que se lleven a cabo dichas intenciones.
“A partir de hoy, estamos actualizando nuestras herramientas de inteligencia artificial para identificar cuando alguien está expresando ciertos pensamientos sobre el suicidio en Facebook, de modo que podamos ayudarlos a obtener la ayuda que necesitan rápidamente”, dijo el CEO de Facebook en su muro. “Sólo en el último mes, estas herramientas de IA nos han ayudado a conectarnos con las autoridades locales de emergencia rápidamente, más de 100 veces”.
Los nuevos algoritmos de la red social utilizan el reconocimiento de patrones para buscar publicaciones y comentarios con palabras clave. Si la inteligencia artificial reconoce alguno que podría ser causa de preocupación, enviará la información a un empleado de Facebook para su revisión en profundidad y, si es necesario, realizar un seguimiento.
“El suicidio es una de las principales causas de muerte entre los jóvenes, y este es un nuevo enfoque para la prevención”, señaló Zuckerberg, explicando que continuarán trabajando estrechamente con sus socios de Save.org, National Suicide Prevention Lifeline, Forefront Suicide Prevention y con las autoridades locales. “Si podemos usar inteligencia artificial para ayudar a las personas a estar presentes para ayudar sus familiares y amigos, ese es un paso adelante, importante, y positivo”.
El nuevo sistema, que no depende de que los usuarios marquen ni denuncien contenido, se lanzará automáticamente en todo el mundo, a excepción de los países de la Unión Europea, debido a restricciones regionales.
