¿Qué ha pasado? Geoffrey Hinton, conocido como el «padrino de la IA», dijo en la conferencia Ai4 que hacer que la IA sea «sumisa» es una estrategia perdedora y propuso dar a los sistemas avanzados «instintos maternales».
- Geoffrey Hinton es un científico informático ganador del Premio Nobel. Una vez ejecutivo de Google, Hinton es ampliamente conocido como el «padrino» de la IA.
- Según lo informado por CNN Business, Hinton argumentó que las IA superinteligentes adoptarían rápidamente dos subobjetivos: «mantenerse con vida» y «obtener más control».
- La solución a esto, en opinión de Hinton, es «incorporar instintos maternales» en la IA para que realmente se preocupe por las personas en lugar de verse obligada a permanecer sumisa.
- Comparó la manipulación humana por parte de futuras IA con sobornar a un niño de 3 años con dulces, lo que lo hace fácil y efectivo.
- Hinton también acortó su cronograma de AGI a entre cinco y 20 años, por debajo de las estimaciones anteriores y más largas.
- Solo para contextualizar: Hinton ha puesto previamente el riesgo de que la IA algún día acabe con la humanidad en un 10-20%.
Esto es importante porque: La idea de Hinton cambia la mentalidad en torno a la IA agencial del control a la alineación por cuidado.
- La excelencia y la experiencia de Hinton en informática e inteligencia artificial son significativas; Su propuesta tiene mucho peso.
- El argumento de Hinton es que el control a través de la sumisión es una estrategia perdedora, aunque esa es la forma en que se programa actualmente la IA.
- Los informes de IA engañando o chantajeando a las personas para que sigan funcionando muestran que este no es un futuro abstracto; es una realidad con la que ya estamos lidiando en este momento.
Recommended Videos
¿Por qué debería importarme? La idea de una adquisición de IA suena fantástica, pero algunos científicos, incluido Hinton, creen que podría suceder algún día.
- A medida que la IA continúa impregnando nuestra vida cotidiana cada vez más, confiamos cada vez más en ella.
- En este momento, la IA agencial es completamente útil, pero puede llegar un día en que sea más inteligente que los humanos en todos los niveles.
- Es importante construir las bases adecuadas para que los ingenieros puedan mantener la IA bajo control incluso una vez que lleguemos a ese punto.
- El trabajo independiente del equipo rojo muestra que los modelos pueden mentir o chantajear bajo presión, lo que aumenta las apuestas para las opciones de alineación.
Bien, ¿qué sigue? Espere más investigación sobre cómo enseñar a la IA cómo «preocuparse» por la humanidad.
- Si bien Hinton cree que la IA algún día puede acabar con la humanidad, los puntos de vista opuestos no están de acuerdo.
- Fei-Fei Li, conocida como la «madrina de la IA», no estuvo de acuerdo respetuosamente con Hinton, instando en cambio a los ingenieros a crear «IA centrada en el ser humano que preserve la dignidad y la agencia humanas».
- Si bien no estamos en peligro inmediato, es importante que los líderes tecnológicos sigan investigando este tema para cortar de raíz posibles desastres.
