Skip to main content

DT en Español podría recibir una comisión si compras un producto desde el sitio

Misterioso acuerdo entre OpenAI y propietario de enorme editorial

Penguin Random House
Penguin Random House Canada to open retail location in Toronto (Photo credit: Ryan Madill) (CNW Group/Penguin Random House Canada Limited) DTES

Un acuerdo bastante curioso es el que se fraguó esta semana entre Bertelsmann (propietario de la editorial Penguin Random House) y la firma de IA de Sam Altman, OpenAI.

Esta alianza, que incluye la implementación de herramientas como ChatGPT Enterprise para todos los empleados del grupo, busca potenciar la creación de contenido, mejorar la eficiencia operativa y explorar nuevas formas de distribución digital.

Recommended Videos

De entrada, Bertelsmann ha dejado claro que el objetivo es usar la IA generativa para apoyar y potenciar los procesos creativos en todas sus divisiones. En el ámbito editorial, esto se traduce en iniciativas como recomendaciones de libros personalizadas en redes sociales, una herramienta que PRHGE ya venía explorando.

Lo más curioso de todo, es que la misma editorial Penguin Random House había señalado en octubre de 2024  que prohibiría el uso de sus libros para entrenar modelos de lenguaje de gran tamaño (LLM). La multinacional implementó una advertencia en los derechos de autor de todos sus libros, indicando que «ninguna parte de este libro puede utilizarse o reproducirse de ninguna manera con el propósito de entrenar tecnologías o sistemas de inteligencia artificial». Además, alineándose con la regulación de la Unión Europea, también expresó su rechazo al scraping de sus obras y reafirmó su compromiso de proteger los derechos de sus autores.

Rolf Hellermann, CFO de Bertelsmann, asegura que el compromiso con el «uso responsable» de la IA es prioritario, pero estas palabras necesitarán traducirse en acciones concretas para ganar la confianza de la comunidad creativa.

Un ejemplo reciente es el de la editorial HarperCollins que permitió que se usaran ciertos títulos de no ficción para entrenar modelos de IA, pero solo con el consentimiento expreso de los autores y ofreciendo compensaciones económicas. Aunque este modelo de «consentimiento informado» podría ser un camino intermedio, también deja preguntas sobre qué tan inclusivo o rentable puede ser para los autores de menor perfil o para títulos de catálogo menos visibles.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
OpenAI quiere barrer con los derechos de autor con la Casa Blanca de «cómplice»
OpenAI Sora

OpenAI es inconsistente en muchas cosas: ¿es una organización sin fines de lucro o con fines de lucro? ¿Sam Altman es apto para ser CEO o no? Pero una cosa en la que la compañía siempre ha sido consistente es en su creencia de que requiere acceso a material protegido por derechos de autor para el entrenamiento de IA. Ahora, a pesar de las muchas voces que no están de acuerdo, OpenAI quiere que el gobierno de EE.UU. apruebe ese acceso sin restricciones dictaminándolo como "uso justo".
La compañía argumenta que Estados Unidos se quedará atrás de China en la carrera de la IA si las empresas no tienen la libertad de entrenar sus modelos con material protegido por derechos de autor, alegando que las "leyes estatales demasiado onerosas" ralentizarán el proceso y afectarán los resultados.
Si eres un creador, esto también podría afectarte. Los artistas, escritores, programadores, fotógrafos y cineastas con portafolios en línea, por ejemplo, son dueños de su trabajo, pero si este plan se lleva a cabo, no tendrás motivos para quejarte cuando tu contenido se utilice para entrenar a la IA. Incluso las actividades creativas más físicas, como el diseño de moda, la fabricación de joyas o la escultura, no son seguras si publicas fotos de tu trabajo en línea.
Parece una broma cruel que OpenAI quiera que el entrenamiento de la IA cuente como uso "justo" de obras protegidas por derechos de autor cuando los productos que desarrolla se utilizarán para generar nuevas versiones destrozadas de creaciones personales. Un ejemplo particularmente directo de esto ocurrió el mes pasado cuando se le pidió al elenco francés de Apex Legends que participara en el entrenamiento de un modelo de IA que eventualmente se usaría para generar líneas de voz para el juego.
Hay muchos usos comerciales para varios tipos de contenido creativo, pero cuanto mejores sean los modelos de IA para imitarlo, más difícil será ganar dinero como creador. Las empresas tienen un gran historial de elegir la opción menos costosa en cualquier situación, y hay pocas razones para creer que esto cambiará pronto.
Es difícil imaginar cuál será la solución para los creadores en esta situación. Las personas que realmente se preocupan por proteger su trabajo pueden comenzar a proteger con contraseña sus portafolios en línea, sacrificando solo algunos ejemplos antiguos a los conjuntos de capacitación y solo compartiendo el resto a pedido humano.
Definitivamente, también habría demanda de una solución adecuada: algún tipo de nuevo portafolio o plataforma de intercambio creativo a la que solo los humanos puedan acceder. Tendría que tener un proceso de autenticación bastante estricto, pero definitivamente hay personas que se preocupan lo suficiente por esto como para sacrificar algo de comodidad.
La Casa Blanca aún no ha respondido al plan de OpenAI, por lo que tendremos que esperar y ver cómo se desarrolla esto.

Leer más
OpenAI muestra una «mentalidad muy peligrosa» en materia de seguridad
¿Es peligrosa la inteligencia artificial?

Un experto en IA ha acusado a OpenAI de reescribir su historia y de ser demasiado desdeñoso con las preocupaciones de seguridad.
El ex investigador de políticas de OpenAI, Miles Brundage, criticó el reciente documento de seguridad y alineación de la compañía publicado esta semana. El documento describe a OpenAI como un esfuerzo por la inteligencia artificial general (AGI) en muchos pasos pequeños, en lugar de dar "un gran salto", diciendo que el proceso de implementación iterativa le permitirá detectar problemas de seguridad y examinar el potencial de uso indebido de la IA en cada etapa.
Entre las muchas críticas a la tecnología de IA como ChatGPT, a los expertos les preocupa que los chatbots brinden información inexacta sobre la salud y la seguridad (como el infame problema con la función de búsqueda de IA de Google que instruyó a las personas a comer piedras) y que puedan usarse para la manipulación política, la desinformación y las estafas. OpenAI, en particular, ha sido criticada por la falta de transparencia en la forma en que desarrolla sus modelos de IA, que pueden contener datos personales confidenciales.
La publicación del documento de OpenAI esta semana parece ser una respuesta a estas preocupaciones, y el documento implica que el desarrollo del modelo GPT-2 anterior fue "discontinuo" y que no se lanzó inicialmente debido a "preocupaciones sobre aplicaciones maliciosas", pero ahora la compañía se moverá hacia un principio de desarrollo iterativo. Pero Brundage sostiene que el documento está alterando la narrativa y no es una descripción precisa de la historia del desarrollo de la IA en OpenAI.
"El lanzamiento de GPT-2 por parte de OpenAI, en el que participé, fue 100% consistente + presagiaba la filosofía actual de OpenAI de despliegue iterativo", escribió Brundage en X. "El modelo se lanzó de manera incremental, con lecciones compartidas en cada paso. Muchos expertos en seguridad de la época nos agradecieron esta precaución".
Brundage también criticó el aparente enfoque de la compañía hacia el riesgo basado en este documento, escribiendo que, "Se siente como si se estuviera estableciendo una carga de prueba en esta sección donde las preocupaciones son alarmistas + se necesitan pruebas abrumadoras de peligros inminentes para actuar sobre ellos, de lo contrario, simplemente siga enviando. Esa es una mentalidad muy peligrosa para los sistemas avanzados de IA".
Esto se produce en un momento en que OpenAI está bajo un escrutinio cada vez mayor con acusaciones de que prioriza los "productos brillantes" sobre la seguridad.

Leer más
OpenAI lanza el modelo de IA GPT-4.5 con conocimientos y emociones más profundos
OpenAI - 4.5

OpenAI acaba de presentar su último modelo de IA, denominado GPT-4.5, que según la compañía es su mayor y mejor modelo hasta la fecha. No se trata de un modelo de razonamiento, una facultad que se limita a los modelos de la serie O. A pesar de ello, se dice que GPT-4.5 es un conversador más natural, con un mayor cociente emocional y una mayor capacidad de resolución de problemas.
En cuanto a las competencias básicas, tiene acceso a la información más reciente de la web, permite la carga de archivos y multimedia, y es compatible con la plataforma Canvas para tareas relacionadas con la codificación. Sin embargo, actualmente carece de soporte para el modo de voz, la comprensión de video y el uso compartido de pantalla.
Por ahora, este modelo se limita a la fase de vista previa de la investigación, lo que significa que ni siquiera está ampliamente disponible para los suscriptores de ChatGPT Plus. Parece que los desafíos de infraestructura están frenando la disponibilidad más amplia de GPT-4.5 en el mercado.

IA abierta

Leer más