Skip to main content

¿Microsoft sabía sobre las respuestas desquiciadas de Bing Chat?

Bing Chat AI de Microsoft ha tenido un comienzo difícil, pero parece que la compañía pudo haber sabido sobre los problemas mucho antes de su debut público. Una publicación de soporte en el sitio web de Microsoft hace referencia a respuestas «groseras» del bot de chat «Sidney», que es una historia que hemos estado escuchando durante la semana pasada. Aquí está el problema: la publicación se realizó el 23 de noviembre de 2022.

La revelación proviene de Ben Schmidt, vicepresidente de diseño de información de Nomic, quien compartió la publicación con Gary Marcus, un autor que cubre IA y fundador de Geometric Intelligence. La historia cuenta que Microsoft probó Bing Chat, llamado Sidney, según la publicación, en India e Indonesia en algún momento entre noviembre y enero antes de que hiciera el anuncio oficial.

Una publicación de la comunidad sobre Bing Chat.

Microsoft compartió la siguiente declaración:

Recommended Videos

«Sydney es un nombre en clave antiguo para una función de chat basada en modelos anteriores que comenzamos a probar hace más de un año. Las ideas que recopilamos como parte de eso han ayudado a informar nuestro trabajo con la nueva versión preliminar de Bing. Continuamos afinando nuestras técnicas y estamos trabajando en modelos más avanzados para incorporar los aprendizajes y comentarios para que podamos ofrecer la mejor experiencia de usuario posible. Continuaremos compartiendo actualizaciones sobre el progreso a través de nuestro blog».

La publicación inicial muestra al bot de IA discutiendo con el usuario y estableciéndose en las mismas formas de oración que vimos cuando Bing Chat dijo que quería «ser humano». Más abajo en el hilo, otros usuarios intervinieron con sus propias experiencias, volviendo a publicar el ahora infame emoji sonriente con el que Bing Chat sigue la mayoría de sus respuestas.

Para empeorar las cosas, el póster inicial dijo que pidieron proporcionar comentarios e informar sobre el chatbot, dando cierta credibilidad de que Microsoft era consciente de los tipos de respuestas que su IA era capaz de hacer.

Eso va en contra de lo que Microsoft dijo en los días posteriores a la explosión del chatbot en los medios. En un anuncio que cubre los próximos cambios en Bing Chat, Microsoft dijo que el «entretenimiento social», que presumiblemente se refiere a las formas en que los usuarios han tratado de engañar a Bing Chat para obtener respuestas provocativas, era un «nuevo caso de usuario para el chat».

Microsoft ha realizado varios cambios en la IA desde su lanzamiento, incluida la reducción de la duración de las conversaciones. Este es un esfuerzo para frenar los tipos de respuestas que vimos circular unos días después de que Microsoft anunciara por primera vez Bing Chat. Microsoft dice que actualmente está trabajando para aumentar los límites de chat.

Aunque la historia detrás de las pruebas de Microsoft de Bing Chat sigue en el aire, está claro que la IA había estado en la planificación por un tiempo. A principios de este año, Microsoft realizó una inversión multimillonaria en OpenAI tras el éxito de ChatGPT, y Bing Chat se basa en una versión modificada del modelo GPT de la compañía. Además, Microsoft publicó un blog sobre «IA responsable» pocos días antes de anunciar Bing Chat al mundo.

Hay varias cuestiones éticas en torno a la IA y su uso en un motor de búsqueda como Bing, así como la posibilidad de que Microsoft apresuró Bing Chat antes de que estuviera listo y sabiendo de lo que era capaz. La publicación de soporte en cuestión se actualizó por última vez el 21 de febrero de 2023, pero el historial de la pregunta inicial y las respuestas muestran que no se han revisado desde su fecha de publicación original.

Es posible que Microsoft decidiera seguir adelante de todos modos, sintiendo la presión del próximo Google Bard y el aumento trascendental de la popularidad de ChatGPT.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Microsoft tiene una nueva forma de hacer que elijas Bing en vez de Google
microsoft nueva forma elijas bing en vez de google

Microsoft está probando una estrategia bastante inusual para evitar que los usuarios de Bing se cambien a Google cuando necesitan buscar algo. Según lo detectado por los usuarios de Reddit, si escribe "Google" en Bing en este momento, será llevado a una página de resultados con un encabezado especial que se parece a la barra de búsqueda de Google.

La página incluso se carga con la barra de búsqueda superior de Bing oculta: debe desplazarse hacia arriba para que aparezca. Dado que lo que está viendo es en realidad Bing, no dice "Google" encima de la barra de búsqueda centrada. Aún así, el estilo de la barra de búsqueda y la ilustración es similar a lo que a menudo puede encontrar en Google.
Microsoft
Básicamente, si no estás pensando demasiado en ello, parece que Bing se saltó la página de resultados en la que habrías hecho clic en el enlace de Google y te llevó directamente a la página de inicio de Google.

Leer más
Esta última función de ChatGPT ahora es gratis
ChatGPT: qué es y cómo usar el chatbot del que todo el mundo habla.

IA abierta
En octubre, OpenAI debutó con su función Canvas, una interfaz colaborativa que previsualiza la respuesta de la IA a la solicitud de escritura o codificación del usuario. Sin embargo, solo estuvo disponible como una función beta para los suscriptores de Plus y Teams. El martes, la compañía anunció que está llevando Canvas a todos los usuarios, incluso en el nivel gratuito.

Si bien uno podría confundir fácilmente Canvas con una imitación flagrante de la función Artifacts de Anthropic, OpenAI también está incorporando una serie de nuevas capacidades en Canvas. Por un lado, Canvas ahora está integrado directamente en el modelo GPT-4o para que se ejecute de forma nativa dentro de ChatGPT, eliminando la necesidad de seleccionarlo específicamente de la lista de selección de modelos.

Leer más
Sora el generador de video de OpenAI se incorpora a los planes ChatGPT
sora generador video openai incorpora planes chatgpt

Después de varias demostraciones durante 2024, finalmente este último mes del año, OpenAI acaba de anunciar que Sora, su generador de IA de texto a video, saldrá al ruedo comercial y estará presente en los planes de pago de ChatGPT: el Plus y el Pro.

Lo primero que ha enseñado OpenAI (con Sam Altman en escena) es Explore, un repositorio donde los usuarios pueden descubrir y compartir sus creaciones. Como la generación de vídeo va a ser complicada, acompañan a los vídeos los prompts introducidos para llegar a crear algo así.

Leer más