Skip to main content

Este «código abierto» podría significar problemas para las grandes IA

Un muro de código informático
Markus Winkler / Pexels

La Iniciativa de Código Abierto (OSI, por sus siglas en inglés), autoproclamada administradora de la definición de código abierto, el estándar más utilizado para el software de código abierto, anunció el jueves una actualización de lo que constituye una «IA de código abierto». La nueva redacción ahora podría excluir modelos de pesos pesados de la industria como Meta y Google.

«El código abierto ha demostrado que se acumulan enormes beneficios para todos después de eliminar las barreras para aprender, usar, compartir y mejorar los sistemas de software», escribió la OSI en una publicación de blog reciente. «Para la IA, la sociedad necesita las mismas libertades esenciales del código abierto para permitir que los desarrolladores, implementadores y usuarios finales de IA disfruten de esos mismos beneficios».

Según la OSI:

Recommended Videos

Una IA de código abierto es un sistema de IA que se pone a disposición en términos y de una manera que otorgan las libertades[1] para:

  • Utilizar el sistema para cualquier propósito y sin tener que pedir permiso.
  • Estudia el funcionamiento del sistema e inspecciona sus componentes.
  • Modifique el sistema para cualquier propósito, incluso para cambiar su salida.
  • Compartir el sistema para que otros lo usen con o sin modificaciones, para cualquier propósito

Estas libertades se aplican tanto a un sistema completamente funcional como a elementos discretos de un sistema. Una condición previa para ejercer estas libertades es tener acceso a la forma preferida para realizar modificaciones en el sistema.

Según esta definición, ni el modelo Llama 3.1 de Meta ni el modelo Gemma de Google contarían como IA de código abierto, dijo Nik Marda, líder técnico de gobernanza de IA de Mozilla, a PCMag. «La falta de una definición precisa en el pasado ha facilitado que algunas empresas actúen como si su IA fuera de código abierto, incluso cuando no lo era. Muchos -si no la mayoría- de los modelos de los grandes actores comerciales no cumplirán con esta definición».

La definición más antigua y flexible permitía a las empresas suficiente margen de maniobra para socavar potencialmente sus productos de IA de consumo, cambiando la funcionalidad de los modelos y desactivando el acceso a capricho de la empresa, argumentó Marda. Tales acciones podrían conducir a «servicios interrumpidos, rendimiento deficiente y funciones más costosas en las aplicaciones y herramientas que todos usan».

Ni Meta ni Google han reconocido aún la nueva definición como un estándar de la industria.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Tenga cuidado: incluso las aplicaciones de código abierto de Mac pueden contener malware
¿Tu Mac se congela? Aquí te explicamos que hacer.

Instalar aplicaciones en una Mac generalmente se considera más seguro que hacerlo en Windows y el software de código abierto suele ser benigno, pero hay excepciones a estas dos suposiciones que pueden causar un daño incalculable a su privacidad y seguridad.

Un descubrimiento reciente de Trend Micro proporciona un ejemplo sorprendente de este riesgo. Una aplicación de código abierto diseñada para ayudar a los propietarios de Mac con la firma de aplicaciones de iPhone y iPad se ha modificado para incluir un desagradable truco que roba los datos de su llavero de Apple. La aplicación original se llama ResignTool y está disponible de forma gratuita en el popular sitio de código abierto, GitHub. La aplicación tiene seis años y tanto el código como la aplicación lista para ejecutarse se pueden descargar desde GitHub. Ese no es el problema.

Leer más
¿Es verdad que Meta está inyectando códigos para rastrear a sus usuarios?
Mark Zuckerberg, fundador y CEO de Meta, anteriormente conocido como Facebook.

Una investigación de un ex ingeniero de Google está causando polémica, ya que afirma que Meta está colocando códigos de rastreo en Instagram y Facebook para espiar a sus usuarios.
Las dos aplicaciones han estado aprovechando el hecho de que los usuarios que hacen clic en los enlaces son llevados a páginas web en un "navegador en la aplicación", controlado por Facebook o Instagram, en lugar de enviarlos al navegador web de elección del usuario, como Safari o Firefox.
"La aplicación de Instagram inyecta su código de seguimiento en cada sitio web que se muestra, incluso al hacer clic en los anuncios, lo que les permite monitorear todas las interacciones de los usuarios, como cada botón y enlace tocado, selecciones de texto, capturas de pantalla, así como cualquier entrada de formulario, como contraseñas, direcciones y números de tarjetas de crédito", dice Felix Krause, un investigador de privacidad que fundó una herramienta de desarrollo de aplicaciones adquirida por Google en 2017.

En un comunicado, Meta dijo que inyectar un código de seguimiento obedecía a las preferencias de los usuarios sobre si permitían o no que las aplicaciones los siguieran, y que solo se usaba para agregar datos antes de ser aplicado con fines de publicidad o medición dirigidos para aquellos usuarios que optaron por no participar en dicho seguimiento.

Leer más
Microsoft da marcha atrás y ahora permite software de código abierto en su tienda
Pantalla de Microsoft Store

Un vuelco dio Microsoft en su idea de prohibir el software de código abierto en su tienda de aplicaciones, y ahora informó que dará marcha atrás a esta situación.

La compañía dice que ha escuchado los comentarios, que fueron negativos, y ha actualizado las políticas de las tiendas de Microsoft, eliminando las referencias a los precios de código abierto. Microsoft también ha aclarado por qué implementó la prohibición.

Leer más