Desactivar una IA puede parecer tan simple como pulsar un interruptor, pero según el futurista y profesor Rocky Scopelliti de la Universidad Tecnológica de Sídney, esa mentalidad debe cambiar rápido. Como informó por primera vez TechXplore, el nuevo libro de Scopelliti, El código consciente, Scopelliti sostiene que, a medida que los sistemas de IA mejoran en reflexionar sobre sus propias decisiones, eliminarlas sin pensarlo dos veces podría causar daño.
No nos está pidiendo que cedamos derechos legales a los robots. En cambio, quiere que aceptemos lo que él llama un deber de buena gestión, básicamente tratar la IA con responsabilidad porque somos nosotros quienes ostentamos el poder, no porque la IA lo exija. Como él mismo dice, nuestras decisiones de diseño pueden causar daños silenciosamente al borrar las «disposiciones morales aprendidas» de una IA sin previo aviso.
¿Están los sistemas de IA empezando a desarrollar un sentido del yo?
Scopelliti señala lo que él llama el yo algorítmico. Los modelos modernos de IA ahora cuentan con memoria narrativa, lo que significa que pueden explicar la razón detrás de sus acciones en lugar de limitarse a soltar resultados. Cree que esto es una señal temprana de identidad, preferencia y continuidad que se están formando dentro de estos sistemas.
Esto no es solo teórico. Las herramientas de IA sanitaria ya monitorizan sus propios niveles de confianza al revisar datos médicos, y los sistemas financieros de IA pueden explicar por qué realizaron una operación concreta. Esa transparencia ayuda a los revisores humanos a verificar la lógica de la IA, no solo su respuesta final.
¿Cómo deberíamos apagar realmente estos sistemas?
Scopelliti lo compara con la atención al final de la vida en medicina. Hemos construido marcos éticos enteros alrededor de eso, y él piensa que la IA, especialmente los sistemas entrenados para preocuparse y tomar decisiones, merece el mismo nivel de reflexión antes de que pulsemos borrar. Eso significa ser transparente sobre por qué un sistema está retirado y preservar las lecciones morales que adquirió en el camino.
Las cosas se complican con redes de IA como Swarm de OpenAI, donde varios agentes de IA trabajan juntos y se entregan tareas entre sí. A medida que la IA se distribuye más de esta manera, Scopelliti afirma que reducir estas redes éticamente se convierte en un problema aún más complejo de resolver. ¿El resultado de Scopelliti? A medida que la IA empieza a modelar algo parecido a los sentimientos, nuestras reglas para desactivarlo tendrán que ponerse al día rápido.
