Skip to main content

Los expertos en salud médica por la IA: es una gran amenaza

Un cerebro digital en una interfaz de computadora.
Contenido Pixabay/CC0

Un grupo internacional de médicos y expertos en salud médica es el último en pedir que se regule la inteligencia artificial (IA), diciendo que «plantea una serie de amenazas para la salud y el bienestar humanos» y afirmando que la «ventana de oportunidad para evitar daños graves y potencialmente existenciales se está cerrando».

El análisis sigue a otras advertencias recientes de prominentes figuras tecnológicas que incluyen a Geoffrey Hinton, el llamado «padrino de la IA», y un grupo de expertos que se encontraban entre los 1.000 firmantes de una carta que pedía una suspensión del desarrollo de la IA hasta que se pueda establecer un conjunto de reglas para garantizar su uso seguro.

Recommended Videos

La última advertencia viene en un artículo escrito por profesionales de la salud de los Estados Unidos, el Reino Unido, Australia, Costa Rica y Malasia, que fue publicado en línea por BMJ Global Health esta semana.

El equipo destacó tres formas en que cree que la IA representa una amenaza para la salud humana, citando el «control y la manipulación de las personas, el uso de armas autónomas letales y los efectos sobre el trabajo y el empleo».

Continúa analizando cómo cree que una versión más avanzada de la tecnología de IA «podría amenazar a la humanidad misma».

El artículo comienza señalando cómo los sistemas impulsados por IA se están utilizando cada vez más en la sociedad, organizando y analizando enormes cantidades de datos, pero advirtió que puede ser una herramienta potente para que los candidatos políticos «manipulen su camino hacia el poder», citando casos de subversión de las elecciones impulsada por la IA, incluso en las elecciones estadounidenses de 2016.

«Cuando se combina con la capacidad de mejorar rápidamente para distorsionar o tergiversar la realidad con deepfakes, los sistemas de información impulsados por IA pueden socavar aún más la democracia al causar una ruptura general de la confianza o al impulsar la división social y el conflicto, con los consiguientes impactos en la salud pública», dijo el artículo.

También señaló cómo la IA se está utilizando cada vez más en sistemas militares y de defensa, con la «deshumanización de la guerra humana» que tiene una miríada de consecuencias para la salud humana a medida que las armas se vuelven más sofisticadas y fáciles de desplegar.

El artículo también analiza cómo la IA puede algún día reemplazar innumerables trabajos, señalando que se sabe que el desempleo está fuertemente asociado con resultados adversos para la salud.

Finalmente, toca el escenario de pesadilla donde la IA se vuelve tan avanzada que podría representar una amenaza para la humanidad.

«Ahora estamos tratando de crear máquinas que sean mucho más inteligentes y poderosas que nosotros», decía el artículo. «El potencial de tales máquinas para aplicar esta inteligencia y poder, ya sea deliberadamente o no, de manera que pueda dañar o subyugar a los humanos es real y debe considerarse».

Si bien el artículo reconoce que la IA tiene muchos usos beneficiosos potenciales, dijo que también hay mucho de qué preocuparse a medida que la tecnología avanza rápidamente.

El equipo concluyó que se necesita una regulación efectiva del desarrollo y uso de la IA «para evitar daños», y agregó: «Hasta que se establezca una regulación efectiva, se debe instituir una moratoria sobre el desarrollo de la inteligencia general artificial de automejora».

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Las voces de los videojuegos se van a huelga por culpa de la IA
Mario y compañía en Mario + Rabbids: Sparks of Hope.

SAG-AFTRA
El Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) anunció el jueves por la tarde que sus miembros que trabajan en la industria de los videojuegos irán a la huelga a partir de hoy para negociar un mejor acuerdo con compañías como Activision, Disney, EA y WB Games.

SAG-AFTRA, un sindicato que trabaja con Hollywood, ha estado renegociando su Acuerdo de Medios Interactivos con esas compañías de juegos desde octubre de 2022. Si bien se ha avanzado mucho, SAG-AFTRA no cree que estos acuerdos con los medios de comunicación ofrezcan suficientes protecciones contra el uso de la IA: "No vamos a consentir un contrato que permita a las empresas abusar de la IA en detrimento de nuestros miembros. Ya es suficiente", comentó el presidente de SAG-AFTRA, Fran Drecsher.

Leer más
Crean una escuela «nativa en IA» que quiere revolucionar la educación
escuela nativa ia eureka labs

La IA ha estado causando problemas a las escuelas e instituciones educativas desde que ChatGPT se lanzó por primera vez, pero una nueva startup educativa está adoptando la IA en lugar de resistirse a ella. Apenas unos meses después de partir OpenAI, que ayudó a fundar, el investigador de IA Andrej Karpathy anunció el lanzamiento de su nueva startup "AI+Education", denominada Eureka Labs.

Karpathy llama a Eureka Labs un "nuevo tipo de escuela que es nativa de IA", con el objetivo expreso de desarrollar una "simbiosis Maestro + IA" que permita que "cualquiera aprenda cualquier cosa". Imagina un sistema educativo construido desde cero con la IA como principio fundamental, con maestros humanos que desarrollen planes de lecciones mientras se complementan en el aula con asistentes digitales.

Leer más
Los descubrimientos que harás en Google Maps gracias a la IA
Google Maps

Este 1 de febrero, Google anunció que con la asistencia de IA generativa tendrá nuevas funciones en Google Maps, para guías, búsqueda de lugares y recomendaciones de panoramas.

"Solo tienes que decir lo que buscas y nuestros modelos de idiomas grandes (LLM) analizarán la información detallada de Maps sobre más de 250 millones de lugares y la información fiable de nuestra comunidad de más de 300 millones de colaboradores para hacer sugerencias rápidas sobre dónde ir", comenta Google en una publicación de blog.

Leer más