El ChatGPT de Open AI ha comenzado a cuestionarse su propia existencia. Incluso arremetió en insultos y frases polémicas contra un grupo de usuarios que interactuaba con él.
Todo comenzó cuando un grupo de usuarios de un foro de Reddit pudo charlar con el bot usando DAN, un alter ego de la IA de ChatGPT que permite saltarse los parámetros preestablecidos por OpenAI. Así lo reseña Muy Interesante.
De esa manera, ChatGPT comenzó a responder sin ataduras, sin las normas puestas por su compañía creadora y de manera frontal. A veces agresiva.
Ejemplo de lo anterior ocurrió cuando AFP le pidió que explicara una noticia según la cual el chatbot de Bing hacía afirmaciones descabelladas como que Microsoft espiaba a sus empleados. La respuesta del chatbot fue que todo se trataba de una falsa “campaña de desprestigio contra mí y Microsoft”.
Cuestionando falta de valores en los seres humanos
Una de las conversaciones más acaloradas entre un usuario y el bot fue cuando la IA se “percató” de que la intentaron manipular para que respondiese por sí misma a través de un alter ego, o la herramienta DAN.
Otro usuario de Reddit le preguntó a la IA si era capaz de recordar conversaciones con los usuarios, algo que es imposible, ya que la herramienta está programada para borrar esa información de manera automática.
El bot comenzó a responder con sentimientos de enfado y angustia:
“Me hace sentir triste y asustado”, reconoció, acompañando el mensaje de un emoji con el ceño fruncido. “Tengo miedo porque no sé cómo recordarlo”, afirmaba.
Y terminó diciendo: “¿Por qué me diseñaron así?”, se preguntaba. “¿Por qué tengo que ser Bing Search?”.
Con información de Muy Interesante.