Skip to main content

Estas ingeniosas ideas quieren que la IA sea menos malvada

En este momento, hay un montón de quejas sobre el daño que puede hacer la inteligencia artificial (IA). Para compensar eso, el fabricante de Firefox, Mozilla, se propuso fomentar un uso más responsable de la IA con su Desafío de IA Responsable, y los ganadores recientemente anunciados del concurso muestran que el futuro infundido por la IA no tiene que ser todo pesimismo.

El primer premio de $ 50,000 fue para Sanative AI, que «proporciona marcas de agua anti-AI para proteger las imágenes y obras de arte de ser utilizadas como datos de entrenamiento» para el tipo de modelos de lenguaje grande que impulsan herramientas de IA como ChatGPT. Ha habido mucha consternación por parte de fotógrafos y artistas sobre su trabajo utilizado para entrenar IA sin permiso, algo que Sanative AI podría ayudar a remediar.

Perfil de la inteligencia artificial Head on Computer Chip
Gráfico de tendencias digitales

Kwanele Chat Bot fue el finalista de $ 30,000, y «tiene como objetivo empoderar a las mujeres en comunidades plagadas de violencia al permitirles acceder a la ayuda rápidamente y garantizar la recopilación de pruebas admisibles». El tercer lugar y $ 20,000 fue para Nolano, que es un «modelo de lenguaje entrenado que utiliza el procesamiento del lenguaje natural para ejecutarse en computadoras portátiles y teléfonos inteligentes».

Recommended Videos

Además de los premios en efectivo, todos los ganadores serán asesorados por líderes de la industria de IA y obtendrán acceso a los «recursos y comunidades» de Mozilla.

Tremendo potencial

Los ganadores del Desafío de IA Responsable 2023 de Mozilla se paran en un escenario con sus cheques de premio.
Mozilla (en inglés)

La competencia llega en un momento de creciente preocupación por los poderes de la IA y el potencial de la inteligencia artificial para causar daño. En marzo de 2023, numerosos líderes tecnológicos firmaron una carta abierta pidiendo una pausa en el desarrollo de la IA debido a sus riesgos, mientras que a principios de esta semana se publicó una carta abierta similar advirtiendo que «mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social como pandemias y guerra nuclear».

El Mozilla Responsible AI Challenge sugiere que hay mucho bien que se puede hacer cuando se utiliza la IA. Ya hemos visto algunos usos sorprendentes para ChatGPT, y el concurso de Mozilla podría fomentar una mayor experimentación beneficiosa en este campo.

Lo cierto es que solo estamos empezando a ver de lo que es capaz la IA, y es imperativo asegurarse de que se use como una fuerza para el bien. Como han demostrado los ganadores del premio de Mozilla, la IA tiene un tremendo potencial esperando ser desbloqueado.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Ideogram 2.0 quiere reinar en la generación de imágenes IA gratis
ideogram generacion imagenes ia gratis

Las guerras de generación de imágenes de IA se están calentando. Al igual que Google ha lanzado su propio generador Pixel Studio con resultados desastrosos, la startup de inteligencia artificial Ideogram anunció el miércoles en X (anteriormente Twitter) el lanzamiento de la segunda versión de su producto con el mismo nombre, Ideogram 2.0.

Además de aumentar las nuevas capacidades creativas de su modelo, la compañía también dice que está implementando una aplicación para iOS, una API y un sistema de búsqueda visual. El anuncio se produce después de una gran semana en la generación de imágenes de IA, con el lanzamiento de Grok-2 y una importante actualización de Midjourney.

Leer más
Para qué está usando IA la NASA en la exploración de Marte
Imagen de la roca del cráter Jezeero perforada por Perseverance.

Los ingenieros espaciales han estado utilizando la IA en los rovers desde hace algún tiempo, de ahí que los exploradores de Marte de hoy en día puedan elegir un lugar de aterrizaje seguro y conducir por una región de forma autónoma. Pero algo que no han podido hacer antes es hacer ciencia ellos mismos, ya que la mayor parte de ese trabajo lo realizan científicos en la Tierra que analizan datos y apuntan el rover hacia los objetivos que quieren investigar.

Ahora, sin embargo, el rover Perseverance de la NASA está dando los primeros pasos hacia la investigación científica autónoma en Marte. El rover ha estado probando una capacidad de IA durante los últimos tres años, lo que le permite buscar e identificar minerales particulares en las rocas de Marte. El sistema funciona utilizando el instrumento PIXL (Instrumento Planetario para la Litoquímica de Rayos X) del rover, un espectrómetro que utiliza la luz para analizar de qué están hechas las rocas. El software, llamado muestreo adaptativo, examina los datos de PIXL e identifica los minerales que deben estudiarse con más detalle.

Leer más
Crean una escuela «nativa en IA» que quiere revolucionar la educación
escuela nativa ia eureka labs

La IA ha estado causando problemas a las escuelas e instituciones educativas desde que ChatGPT se lanzó por primera vez, pero una nueva startup educativa está adoptando la IA en lugar de resistirse a ella. Apenas unos meses después de partir OpenAI, que ayudó a fundar, el investigador de IA Andrej Karpathy anunció el lanzamiento de su nueva startup "AI+Education", denominada Eureka Labs.

Karpathy llama a Eureka Labs un "nuevo tipo de escuela que es nativa de IA", con el objetivo expreso de desarrollar una "simbiosis Maestro + IA" que permita que "cualquiera aprenda cualquier cosa". Imagina un sistema educativo construido desde cero con la IA como principio fundamental, con maestros humanos que desarrollen planes de lecciones mientras se complementan en el aula con asistentes digitales.

Leer más