En este momento, hay un montón de quejas sobre el daño que puede hacer la inteligencia artificial (IA). Para compensar eso, el fabricante de Firefox, Mozilla, se propuso fomentar un uso más responsable de la IA con su Desafío de IA Responsable, y los ganadores recientemente anunciados del concurso muestran que el futuro infundido por la IA no tiene que ser todo pesimismo.
El primer premio de $ 50,000 fue para Sanative AI, que “proporciona marcas de agua anti-AI para proteger las imágenes y obras de arte de ser utilizadas como datos de entrenamiento” para el tipo de modelos de lenguaje grande que impulsan herramientas de IA como ChatGPT. Ha habido mucha consternación por parte de fotógrafos y artistas sobre su trabajo utilizado para entrenar IA sin permiso, algo que Sanative AI podría ayudar a remediar.
Kwanele Chat Bot fue el finalista de $ 30,000, y “tiene como objetivo empoderar a las mujeres en comunidades plagadas de violencia al permitirles acceder a la ayuda rápidamente y garantizar la recopilación de pruebas admisibles”. El tercer lugar y $ 20,000 fue para Nolano, que es un “modelo de lenguaje entrenado que utiliza el procesamiento del lenguaje natural para ejecutarse en computadoras portátiles y teléfonos inteligentes”.
Además de los premios en efectivo, todos los ganadores serán asesorados por líderes de la industria de IA y obtendrán acceso a los “recursos y comunidades” de Mozilla.
Tremendo potencial
La competencia llega en un momento de creciente preocupación por los poderes de la IA y el potencial de la inteligencia artificial para causar daño. En marzo de 2023, numerosos líderes tecnológicos firmaron una carta abierta pidiendo una pausa en el desarrollo de la IA debido a sus riesgos, mientras que a principios de esta semana se publicó una carta abierta similar advirtiendo que “mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social como pandemias y guerra nuclear”.
El Mozilla Responsible AI Challenge sugiere que hay mucho bien que se puede hacer cuando se utiliza la IA. Ya hemos visto algunos usos sorprendentes para ChatGPT, y el concurso de Mozilla podría fomentar una mayor experimentación beneficiosa en este campo.
Lo cierto es que solo estamos empezando a ver de lo que es capaz la IA, y es imperativo asegurarse de que se use como una fuerza para el bien. Como han demostrado los ganadores del premio de Mozilla, la IA tiene un tremendo potencial esperando ser desbloqueado.
