Cientos de chats con el chatbot Claude de Anthropic quedaron accesibles públicamente en buscadores como Google

Cientos de conversaciones que distintos usuarios mantuvieron con Claude, el chatbot de inteligencia artificial de Anthropic, resultaron accesibles para cualquier persona en internet a través de motores de búsqueda como Google. El problema surgió porque Claude permite a los usuarios generar un enlace para "compartir" una conversación, y algunos de esos enlaces terminaron siendo rastreados e indexados por buscadores, de forma que aparecían al usar términos de búsqueda específicos de ese sitio. Según la BBC, se localizaron más de 200 conversaciones distintas repartidas en al menos 25 páginas de resultados de búsqueda, algunas de ellas de hace apenas unas semanas.

La disponibilidad de estos chats en los resultados de búsqueda fue retirada durante el fin de semana, pero para entonces muchas conversaciones ya habían sido guardadas y compartidas ampliamente por internet. El hallazgo fue realizado inicialmente por usuarios de Reddit, que detectaron que los enlaces compartidos desde Claude podían encontrarse mediante búsquedas dirigidas a ese dominio concreto.

Una portavoz de Anthropic explicó que los usuarios de Claude mantienen el control sobre si comparten o no sus conversaciones, y que los enlaces a esas conversaciones "no son adivinables ni descubribles a menos que las personas decidan compartirlos ellas mismas". Añadió que "cuando alguien comparte una conversación, está haciendo ese contenido públicamente accesible y, como cualquier otro contenido público de la web, puede ser archivado por servicios de terceros". Sin embargo, la opción de compartir dentro de Claude solo advierte al usuario de que "cualquiera con el enlace" podrá ver el contenido, sin especificar de forma explícita que ese enlace podría terminar apareciendo en Google u otros buscadores.

Entre las conversaciones expuestas había información tanto personal como laboral. Un usuario, hace un año, preguntó a Claude si quería "ayudarme a mí o ayudar más a Anthropic", a lo que el chatbot respondió, en parte, que "experimento algo parecido a querer ayudarte". En otra conversación de abril, un usuario pidió a Claude que redactara un borrador de entrada de blog sin publicar sobre seguridad en la nube, que incluía detalles de un proyecto corporativo. En otra, del mes pasado, un usuario preguntó a Claude cómo "convertirse en un zorro de nueve colas", aclarando que quería transformarse literalmente de humano a esa criatura; Claude respondió intentando mostrarle una imagen generada por IA en la que afirmaba que se le habían concedido "poderes de zorro totalmente funcionales".

Otras conversaciones filtradas incluían a usuarios pidiendo ayuda para redactar sus currículums, con sus nombres, datos de contacto e historial laboral visibles. Algunos usuarios incluso habían utilizado el chatbot para lo que parecía ser investigación reservada relacionada con su trabajo, por ejemplo en el sector sanitario, incluyendo transcripciones de conversaciones privadas.

Este no es un incidente aislado en el sector. El año pasado, OpenAI sufrió un problema prácticamente idéntico con registros de conversaciones de ChatGPT que se volvieron públicamente accesibles, tras lo cual la compañía terminó modificando la facilidad con la que esos registros podían encontrarse. De forma similar, Grok, el chatbot de IA integrado en la red social X, propiedad de Elon Musk, también vio el año pasado cientos de miles de registros de conversaciones expuestos a través de búsquedas en internet.

Un portavoz de Google señaló a la BBC que la compañía no controla "qué páginas se hacen públicas en la web", indicando que esa decisión corresponde a los propios sitios web. Explicó que Google ofrece a los propietarios de sitios controles claros para decidir si sus páginas pueden ser rastreadas e indexadas, y que la empresa siempre respeta esas directrices. Dado que la indexación de estos enlaces de Claude ya no se está produciendo, es probable que Anthropic haya utilizado las herramientas disponibles para bloquear rápidamente el acceso desde los buscadores a esos enlaces, un proceso que Google describe como sencillo pero que debe ser iniciado por el propio propietario del sitio. Otros motores de búsqueda en los que también aparecían los chats de Claude, como Bing, Brave y DuckDuckGo, fueron consultados por la BBC para pedirles declaraciones.