Skip to main content

Instagram utilizará IA para bloquear comentarios ofensivos

Instagram trabaja en una nueva función para proteger a los usuarios de los trolls que suelen dejar comentarios abusivos en sus publicaciones.

De acuerdo con un reporte de PhoneArena, el equipo de la red social de fotos y videos estaría desarrollando una nueva herramienta basada en Inteligencia Artificial, que permitirá a los usuarios filtrar los comentarios que puedan resultarles ofensivos de manera automática, sin que estos lleguen a publicarse.

En la actualidad, Instagram ya nos permite filtrar los comentarios ofensivos a través de la opción “Ocultar comentarios ofensivos” ubicada en la sección de “Privacidad de la configuración del servicio”. También puedes seleccionar manualmente una o aquellas palabras que no quieras que se usen en los comentarios de tus publicaciones.

Según el medio fuente, este nuevo algoritmo en desarrollo será capaz de utilizar el aprendizaje automático para clasificar las palabras y el contenido ofensivos, y así evitar que lleguen a nuestros perfiles y feed. El algoritmo basará su aprendizaje en aquellas palabras que habitualmente son reportadas por los usuarios y se activaría mediante una opción llamada “Ocultar más comentarios”. Por el momento, la herramienta está en fase de desarrollo y se desconoce cuándo Instagram podría implementarla en fase beta.

Las redes sociales son, por desgracia, un nido de trolls dispuestos a herir con sus comentarios sin tener en cuenta las consecuencias que esto puede tener en las personas. Por este motivo, varias redes sociales como Facebook, Twitter o la popular TikTok te permiten desactivar los comentarios en tus publicaciones desde hace algún tiempo.

Recomendaciones del editor

Topics
Érika García
Ex escritor de Digital Trends en Español
Érika García es una editora especializada en nuevas tecnologías y comunicación. Ha trabajado en diferentes medios en…
Tinder usa IA para ayudar a los usuarios a elegir fotos atractivas
tinder ia para ayudar a elegir fotos atractivas christopher campbell rdeovte7vos unsplash

La gente de Tinder está entendiendo que la IA también podría dominar las relaciones interpersonales, y por eso ayudado de la inteligencia artificial está posibilitando a los usuarios a seleccionar sus mejores fotografías.
La herramienta mirará el álbum de fotos de un usuario y seleccionará las cinco imágenes que mejor los representen.

Bernard Kim, director ejecutivo del propietario de Tinder, Match Group, dijo que la IA podría responder a las preocupaciones de las personas sobre qué imagen los representa mejor y eliminar el estrés de la selección.
"Realmente creo que la IA puede ayudar a nuestros usuarios a construir mejores perfiles de una manera más eficiente que realmente muestre sus personalidades", dijo Kim en una llamada con inversores y analistas.
Dijo que Match Group lanzaría una serie de iniciativas que utilizan IA generativa para "eliminar la incomodidad" y hacer que las citas sean más gratificantes.
Tinder también ha estado probando otras características de IA, ya que permite que la tecnología de vanguardia desempeñe un papel más importante en los asuntos del corazón. Usando un lenguaje algo robótico en una carta a los accionistas esta semana, Match dijo que la aplicación planeaba usar IA para "mostrar el contenido correcto a las personas adecuadas para ayudar a mejorar la relevancia y, en última instancia, los resultados del usuario", en otras palabras, menos deslizamientos a la izquierda.

Leer más
Meta explica cómo la IA elige lo que ves en Instagram y Facebook
Cómo desbloquear a alguien en Instagram en unos breves pasos.

Por intermedio de su presidente de Asuntos Globales, Nick Clegg, Meta, informó al público cómo la IA hace los algoritmos en sus redes sociales. en un intento por desmitificar cómo se recomienda el contenido para los usuarios de Instagram y Facebook.
Nick Clegg, dijo que el volcado de información en los sistemas de inteligencia artificial detrás de sus algoritmos es parte del "espíritu más amplio de apertura, transparencia y responsabilidad" de la compañía, y describió lo que los usuarios de Facebook e Instagram pueden hacer para controlar mejor el contenido que ven en las plataformas.

"Con los rápidos avances que tienen lugar con tecnologías poderosas como la IA generativa, es comprensible que las personas estén entusiasmadas con las posibilidades y preocupadas por los riesgos", dijo Clegg en el blog. "Creemos que la mejor manera de responder a esas preocupaciones es con apertura".
La mayor parte de la información está contenida en 22 "tarjetas del sistema" que cubren el Feed, Historias, Reeles y otras formas en que las personas descubren y consumen contenido en las plataformas de redes sociales de Meta. Cada una de estas tarjetas proporciona información detallada pero accesible sobre cómo los sistemas de IA detrás de estas características clasifican y recomiendan contenido.

Leer más
Instagram comenzó a implementar los canales para todo el mundo
Cómo desbloquear a alguien en Instagram en unos breves pasos.

Este jueves 15 de junio, Mark Zuckerberg anunció la disponibilidad general en Instagram de los canales a nivel mundial, una función para transmitir mensajes que se asemeja a plataformas como Telegram.

Hasta ahora, la función estaba disponible para creadores y usuarios seleccionados.

Leer más