Skip to main content

Estas ingeniosas ideas quieren que la IA sea menos malvada

En este momento, hay un montón de quejas sobre el daño que puede hacer la inteligencia artificial (IA). Para compensar eso, el fabricante de Firefox, Mozilla, se propuso fomentar un uso más responsable de la IA con su Desafío de IA Responsable, y los ganadores recientemente anunciados del concurso muestran que el futuro infundido por la IA no tiene que ser todo pesimismo.

El primer premio de $ 50,000 fue para Sanative AI, que «proporciona marcas de agua anti-AI para proteger las imágenes y obras de arte de ser utilizadas como datos de entrenamiento» para el tipo de modelos de lenguaje grande que impulsan herramientas de IA como ChatGPT. Ha habido mucha consternación por parte de fotógrafos y artistas sobre su trabajo utilizado para entrenar IA sin permiso, algo que Sanative AI podría ayudar a remediar.

Perfil de la inteligencia artificial Head on Computer Chip
Gráfico de tendencias digitales

Kwanele Chat Bot fue el finalista de $ 30,000, y «tiene como objetivo empoderar a las mujeres en comunidades plagadas de violencia al permitirles acceder a la ayuda rápidamente y garantizar la recopilación de pruebas admisibles». El tercer lugar y $ 20,000 fue para Nolano, que es un «modelo de lenguaje entrenado que utiliza el procesamiento del lenguaje natural para ejecutarse en computadoras portátiles y teléfonos inteligentes».

Además de los premios en efectivo, todos los ganadores serán asesorados por líderes de la industria de IA y obtendrán acceso a los «recursos y comunidades» de Mozilla.

Tremendo potencial

Los ganadores del Desafío de IA Responsable 2023 de Mozilla se paran en un escenario con sus cheques de premio.
Mozilla (en inglés)

La competencia llega en un momento de creciente preocupación por los poderes de la IA y el potencial de la inteligencia artificial para causar daño. En marzo de 2023, numerosos líderes tecnológicos firmaron una carta abierta pidiendo una pausa en el desarrollo de la IA debido a sus riesgos, mientras que a principios de esta semana se publicó una carta abierta similar advirtiendo que «mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social como pandemias y guerra nuclear».

El Mozilla Responsible AI Challenge sugiere que hay mucho bien que se puede hacer cuando se utiliza la IA. Ya hemos visto algunos usos sorprendentes para ChatGPT, y el concurso de Mozilla podría fomentar una mayor experimentación beneficiosa en este campo.

Lo cierto es que solo estamos empezando a ver de lo que es capaz la IA, y es imperativo asegurarse de que se use como una fuerza para el bien. Como han demostrado los ganadores del premio de Mozilla, la IA tiene un tremendo potencial esperando ser desbloqueado.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Sam Altman dice que la IA es como: Photoshop, pero con esteroides
sam altman ia photoshop con esteroides

El CEO de OpenAI, Sam Altman, visitó este martes 16 de mayo el Congreso de Estados Unidos, ante un subcomité judicial del Senado, para responder sobre las dudas que genera la IA y sobre todo su posible regulación.

Altman dijo sobre la comprensión del público de ChatGPT y la IA generadora de texto: "Durante un tiempo, PhotoShop engañó a la gente. Luego desarrollaron rápidamente una comprensión en torno a las imágenes alteradas. Esto será así, pero con esteroides".

Leer más
El padrino de la IA habla: ya pienso que pueden ser más inteligentes que los humanos
geoffrey hinton padrino ia habla google

Geoffrey Hinton es un informático británico que se ha destacado por su trabajo en el campo del aprendizaje profundo y las redes neuronales artificiales. Nació en Wimbledon, Reino Unido, el 6 de diciembre de 1947 y se graduó en psicología experimental en la Universidad de Cambridge. Obtuvo su doctorado en inteligencia artificial en la Universidad de Edimburgo y ha trabajado en varias universidades e instituciones como la Universidad de California, San Diego, la Universidad Carnegie Mellon, el University College de Londres, la Universidad de Toronto y Google.

En 2018 recibió el Premio Turing junto con Yoshua Bengio y Yann LeCun por sus contribuciones al desarrollo del aprendizaje profundo.

Leer más
Director de Marvel dice que la IA será el próximo cine personal
director marvel ia contar historias personalizadas joe russo

Joe Russo es uno de los directores más reputados de Marvel, ya que junto a su hermano están tras el éxito de "Avengers: Endgame", y por eso es una autoridad a la hora de hablar de construcciones narrativas para el celuloide. Y en una reciente entrevista con Collider no tuvo pelos en la lengua para admitir que la IA cambiará toda la industria y la hará personalizable para los usuarios.

"Estamos en un mundo donde toda la generación tiene una experiencia fácil en [IA], y tampoco le tiene miedo", dijo Russo. "Entonces, potencialmente, lo que podrías hacer con él es obviamente usarlo para diseñar la narración y cambiar la narración", lo que permite historias "en constante evolución".

Leer más