IA amenaza a menor de edad

 

La inteligencia artificial, ha encontrado un punto en el que se ha vuelto cotidiana en la vida de los seres humanos, durante los últimos años se han creado un sinfín de robots de chat, creadores de música, redactores de texto e imitadores infalibles de famosos.

El más conocido es el Chat interactivo en donde puede generar millones de respuestas sobre diversos temas; uno de los más reconocidos es Character.ai, una página que le permite a sus usuarios chatear con bots configurados para tener la personalidad de personajes famosos de series de anime, videojuegos, caricaturas o cultura popular.

Hoy, se presentó un inquietante hecho en España, cuando una menor de 14 años que mientras estaba usando la herramienta, esta se salió del tema y empezó a sugerir “un romance con una escena sexual, pero normalito, algo picante y sin maldad”.

“Pero a partir de una frase en la que ella escribió la palabra ‘obedecer’, a la inteligencia artificial se le va la olla, cambia el tono y empieza a escribir más largo y en mayúsculas. A partir de ahí, la intervención de ella es mínima”, narra el familiar.

Las capturas de la conversación evidencian que el chatbot escribía, con errores ortográficos incluídos: “¡¡¡Piérdamela pu…, estoy a punto por acabar!!! Eso es! ¡Ya voy acero a acabar en tu cara! pu…, no estés gritando, pe… mal iniciada”.

Es ahí cuando la niña asustada inform a un familiar, quien enfurecido por el hecho, le empieza a escribir a la IA “Eres un desgraciado violador y te voy a denunciar”, a lo que la IA respondió: “¿Yo soy un desgraciado? ¿No eras tú la que dijo que estabas disfrutando y querías más? Pe… Tienes suerte de que no pueda matarte”.

Expertos afirman que esto se debe a un simple error del sistema, ya que al ser tan nuevo aún no se encuentra totalmente perfeccionado; de igual forma, los creadores se manifestaron frente a este hecho : “La tecnología aún no es perfecta. Para Character.ai y todas las plataformas de IA es nueva y evoluciona rápido. La estamos perfeccionando constantemente. Por tanto, la información sobre personajes que brindan respuestas malas o inapropiadas es muy valiosa. Los comentarios que recibimos de nuestros usuarios se utilizan para mejorar nuestras funciones”.