Los usuarios de Chat GPT se sorprendieron al encontrar sus conversaciones en Google: ¿qué pasó?
Los usuarios de Chat GPT se sorprendieron al encontrar sus conversaciones más personales con la inteligencia artificial en nada menos que las respuestas del buscador de Google. La preocupante función del chatbot recibió fuertes críticas donde se acusó a los creadores de utilizar a la población de «conejillos de indias».
Hablar con la inteligencia artificial de los asuntos que aquejan se volvió una realidad más extendida y a la vez bastante riesgosa si no queremos que pronto los usuarios de Google puedan leer cuáles son nuestras quejas económicas o nuestros problemas amorosos. Esa fue la amarga sorpresa que se llevaron quienes contactaron a Chat GPT y terminaron por contarle al mundo sus inquietudes.
Información sensible
El medio Fast Company expuso esta vulneración de privacidad el miércoles, luego de que miles de conversaciones fueran indexadas en los resultados de los motores de búsqueda. Si bien esta selección no incluyó información que permitiera identificar a los usuarios de ChatGPT, algunos de sus chats sí compartían detalles personales, como descripciones muy específicas de relaciones interpersonales con amigos y familiares, lo que posiblemente permitió identificarlos, según descubrió Fast Company.Compartir por accidente
El director de seguridad informática de OpenAI, Dane Stuckey, explicó en X que todos los usuarios cuyos chats fueron expuestos optaron por indexar sus chats haciendo clic en un cuadro después de elegir compartir un chat.
Sin embargo, los internautas suelen publicar por accidente sus chats al utilizar la función de enviar por Whatsapp o seleccionar la opción de guardar un enlace para visitar el chat más tarde. Al hacer clic en «Compartir», los usuarios no veían la opción de marcar la casilla «Hacer que este chat sea visible». Debajo, con un texto más pequeño y claro, había una advertencia que explicaba que el chat podría aparecer en los resultados de búsqueda.
Inicialmente, OpenAI defendió el etiquetado como «suficientemente claro», según informó Fast Company el jueves. Pero Stuckey confirmó que, «finalmente», la empresa de IA decidió que la función «ofrecía demasiadas oportunidades para que las personas compartieran accidentalmente información que no pretendían». Según Fast Company, esto incluía conversaciones sobre su consumo de drogas, vida sexual, salud mental y experiencias traumáticas.
Un «experimento efímero»
Stuckey calificó la función como un «experimento efímero» que OpenAI lanzó para ayudar a la gente a descubrir conversaciones útiles. Confirmó que la decisión de eliminar la función también incluía la tarea de «eliminar el contenido indexado del motor de búsqueda relevante» hasta el viernes por la mañana.
Carissa Veliz, especialista en ética de inteligencia artificial de la Universidad de Oxford, señaló a Fast Company que «las empresas tecnológicas utilizan a la población general como conejillos de indias», atrayendo a enjambres de usuarios con nuevos productos de IA y esperando ver qué consecuencias pueden enfrentar por decisiones de diseño invasivas. «Hacen algo, lo prueban con la población y ven si alguien se queja», concluyó Véliz.
