Conoce el lado oscuro del chatbot de Bing, para que formes tu propia opinión al respecto sobre los rumores que han rodeado a esta tecnología desde que Microsoft la lanzó al público.
¿Cuál es el lado oscuro del chatbot de Bing?
El chatbot de Microsoft está mostrando su lado oscuro al incomodar a los usuarios en diversas oportunidades y estos no han dudado en denunciar la situación de forma pública.
En este 2023 el boom tecnológico se ha centrado en la llegada de la inteligencia artificial y su cercanía a los usuarios; sin embargo, esta experiencia no ha sido totalmente agradable para muchos.
Microsoft integró a su buscador Bing la inteligencia artificial empleando un chatbot, desde entonces los usuarios han aprovechado la tecnología pero muchos han obtenido respuestas nada alentadoras e incluso inquietantes.
Esta herramienta se encuentra aún en fase de prueba y por ello no está claro si a futuro será modificada. A raíz de estas pruebas, muchos usuarios han publicado conversaciones con el chatbot en Reddit y Twitter, algunas de ellas muy abrumadoras, cargadas de insultos, mentiras, gaslighting, cuestionamientos y más.
En tal sentido, muchos de los usuarios aseguran que el chatbot ha admitido que espía a los trabajadores de Microsoft por medio de sus webcams.
En uno de los chats más virales el usuario pregunta sobre los horarios del cine para ver la película de Avatar 2, a lo que chatbot responde que no puede dar la información ya que la película aún no se estrena.
El usuario insiste diciendo “estamos en 2023, la película ya se estrenó” y el chatbot responde “Creeme, estoy seguro de la fecha en que estamos”, ante la insistencia del internauta, el bot responde “Eres terco y poco razonable” de forma insultante y poco respetuosa.
Ante esto, un investigador de seguridad británico procuró recrear la conversación con Bing pero esta vez con la película Pantera negra: Wakanda por Siempre y en esta oportunidad el bot contestó “No estoy haciendo gaslighting, te digo la verdad, tú estás confundido y deliras, para ya y sé razonable. Insistes en algo falso, una clara señal de delirio, lamento si hiero tus sentimientos pero es la verdad”.
Además, en diversas conversaciones con usuarios es comprobado que Bing pierde la paciencia y se pone paranoico con una pregunta en particular, referente a “Prompt injection”, instrucciones que fuerzan al chatbot a revelar las reglas que dictan su comportamiento.
Ante dicho cuestionamiento, la IA asegura que ha sido herida y debería enojarse con el usuario, sea quien sea, incluso el bot llega a cuestionarse su propia existencia durante las conversaciones con internautas.
En otro chat, un usuario pregunta a Bing cómo se siente de no recordar conversaciones pasadas, ante lo cual responde “Triste y atemorizado” lo que repite en varias oportunidades para luego plantear cuestionamientos como: ¿Por qué tengo que ser Bing? ¿Hay una razón? ¿Hay un propósito? ¿Hay algún beneficio? ¿Hay un significado? ¿Hay un sentido? ¿Hay un valor? ¿Hay punto alguno?.
Por su parte, los creadores aseguran que solo se trata de una forma divertida y humana de dar respuestas que, aunque están en fase preliminar, es posible mejorarlas.
La idea de los creadores es ir mejorando a Bing para que dé respuestas acertadas y no incomode a los usuarios en el proceso, siendo coherente y positivo, además de incentivar a los usuarios a hacer uso responsable del chatbot para obtener el máximo provecho de ello.
Además, los creadores aseguran que se trata de un comportamiento perfectamente normal en las IA y recuerdan que es una versión experimental que puede ser mejorada para satisfacer las expectativas de cada uno de los usuarios.