Skip to main content

DT en Español podría recibir una comisión si compras un producto desde el sitio

Investigadores de IA advierten de la amenaza de la «extinción humana»

IA robot
Digital Trends Español

Más de una docena de empleados actuales y anteriores de OpenAI, Deep Mind de Google y Anthropic han publicado una carta abierta el martes llamando la atención sobre los «graves riesgos» que plantea continuar desarrollando rápidamente la tecnología sin contar con un marco de supervisión efectivo.

El grupo de investigadores argumenta que la tecnología podría ser mal utilizada para exacerbar las desigualdades existentes, manipular la información y difundir desinformación, e incluso «la pérdida de control de los sistemas autónomos de IA que podrían resultar en la extinción humana».

Los firmantes creen que estos riesgos pueden «mitigarse adecuadamente» a través de los esfuerzos combinados de la comunidad científica, los legisladores y el público, pero les preocupa que «las empresas de IA tengan fuertes incentivos financieros para evitar una supervisión efectiva» y no se pueda contar con ellas para administrar imparcialmente el desarrollo de la tecnología.

Desde el lanzamiento de ChatGPT en noviembre de 2022, la tecnología de IA generativa ha arrasado en el mundo de la informática con hiperescaladores como Google Cloud, Amazon AWS, Oracle y Microsoft Azure liderando lo que se espera que sea una industria de un billón de dólares para 2032. Un estudio reciente de McKinsey reveló que, en marzo de 2024, casi el 75% de las organizaciones encuestadas habían adoptado la IA en al menos una capacidad. Mientras tanto, en su encuesta anual Work Index, Microsoft descubrió que el 75% de los trabajadores de oficina ya utilizan la IA en el trabajo.

Sin embargo, como dijo Daniel Kokotajlo, ex empleado de OpenAI, a The Washington Post, «Ellos y otros han comprado el enfoque de ‘moverse rápido y romper cosas’, y eso es lo opuesto a lo que se necesita para una tecnología tan poderosa y tan poco comprendida». Las nuevas empresas de IA, incluidas OpenAI y Stable Diffusion, han infringido repetidamente las leyes de derechos de autor de EE. UU., por ejemplo, mientras que los chatbots disponibles públicamente son incitados rutinariamente a repetir discursos de odio y teorías de conspiración, así como a difundir información errónea.

Los empleados de IA que se oponen argumentan que estas empresas poseen «información sustancial no pública» sobre las capacidades y limitaciones de sus productos, incluido el riesgo potencial de los modelos de causar daños y la eficacia de sus barandillas de protección. Señalan que solo una parte de esta información está disponible para las agencias gubernamentales a través de «obligaciones débiles de compartir y ninguna de las cuales está disponible para el público en general».

«Mientras no haya una supervisión gubernamental efectiva de estas corporaciones, los empleados actuales y anteriores se encuentran entre las pocas personas que pueden responsabilizarlas ante el público», declaró el grupo, argumentando que el amplio uso de acuerdos de confidencialidad por parte de la industria y la débil implementación de las protecciones existentes para los denunciantes están obstaculizando esos problemas.

El grupo pidió a las empresas de IA que dejen de celebrar y hacer cumplir acuerdos de no menosprecio, que establezcan un proceso anónimo para que los empleados aborden sus preocupaciones ante el consejo de administración de la empresa y los reguladores gubernamentales, y que no tomen represalias contra los denunciantes públicos en caso de que esos procesos internos resulten insuficientes.

Recomendaciones del editor

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Dicen que Recall de la IA de Windows podría ser un desastre de seguridad
Recall Windows 11

Mucha preocupación existe entre los expertos en ciberseguridad por la nueva función anunciada hace unos días atrás en la Microsoft Build 2024, llamada Recall, y que básicamente  usar modelos de IA locales para hacer capturas de pantalla de todo lo que ve o hace en su computadora y luego le brinda la capacidad de buscar y recuperar cualquier cosa en segundos. Incluso hay una línea de tiempo explorable por la que puedes desplazarte.

El especialista en ciberseguridad Kevin Beaumont ha identificado que la función basada en IA podría tener ciertas vulnerabilidades de seguridad. Beaumont, quien tuvo un breve paso por Microsoft en 2020, ha estado evaluando Recall durante la última semana y encontró que esta herramienta guarda los datos en una base de datos en texto plano. Esto podría permitir que un atacante, mediante el uso de malware, extraiga fácilmente la base de datos y su contenido.

Leer más
Google arregló la pizza: dice que mejoró su búsqueda por IA para evitar errores
Google pizza

Google no quiere pasar más bochornos después de anunciar con bombos y platillos en Google I/O 2024 que AI Overview se implementaría como la nueva forma de buscar en internet.

Esto después de que diversos resultados, incluida una receta de pizza con pegamento, dejaron en vergüenza a los de Mountain View.

Leer más
Imagine: el nuevo botón de WhatsApp para crear fotos de IA
imagine boton whatsapp crear fotos ia 154e5865 cfd9 4791 8c1f c350af5fde87

Hace unas semanas nos enteramos de que WhatsApp estaba trabajando en la implementación de la IA de Meta, Llama 3, en la creación de un chatbot de asistencia.

Y ahora, según informa WABetainfo, el segundo paso para la plataforma de mensajería sería agregar un botón llamado "Imagine", para la creación de fotos IA.

Leer más