We just discovered almost a million public URLs that OpenAI’s agents left behind when hacking Hugging Face, leaking credentials and attack details that could have allowed anyone who found them to compromise the company. 🧵

Today I'm parting ways with Fly.io. It's been a privilege. I'm off to tilt at a big old windmill with Kurt, again. sockpuppet.org/blog/2026/09/…

> be me, 32 años > técnico superior de la Agencia Estatal para la Gobernanza Algorítmica Responsable > en LinkedIn: "Building trust in the future through human-centric AI" > en realidad: sé en qué congresos ponen jamón y en cuáles hay que cenar luego > lo segundo se aprende a hostias > lunes, 08:43 > llego a la sede > tengo que fichar en un cuaderno porque el sistema de INDRA está pendiente de homologación > el boli está atado a la mesa > la inteligencia artificial puede escapar al control humano, pero un Bic no > en recepción hay un cartel de tres metros que dice ANTICIPAMOS EL MAÑANA > llevamos once meses anticipando el mañana > el mañana ya ha llamado dos veces preguntando a ver qué pasa > nuestra misión principal es supervisar y sancionar los sistemas de IA > pequeño detalle sin importancia: la ley del régimen sancionador sigue bloqueada en fase de enmiendas en el congreso > no tenemos autoridad ni para multar al algoritmo de Tinder > si mañana Skynet se hace con el control de los misiles nucleares podemos invitarla a una mesa redonda > y si no viene, dejamos una silla vacía > mensaje que manda el regulador es durísimo > estructura sí que tenemos > tenemos Presidencia, Consejo Rector (9 miembros), la Dirección, Secretaría General, dos Subdirecciones Técnicas y una Comisión de Control más un ejercito de asesores > hay más cargos directivos en el organigrama que GPUs en la península ibérica > debajo del todo está Sergio > Sergio es el único que sabe qué es Python de todo el edificio > técnicamente no trabaja aquí > trabaja para una consultora que trabaja para otra consultora que tiene un acuerdo marco con nosotros > hoy a las 09:30 tenemos una reunión > "Laboratorio de Ideas" > somos diecisiete personas y hay dieciséis sillas > Sergio se queda de pie ya que conocimiento técnico tiene carácter transversal > la directora abre la sesión > "Tenemos que pasar de la reflexión a la acción" comenta > aprobamos organizar unas jornadas sobre cómo hacerlo > una asesora propone llamarlas "Del Diálogo al Impacto" > otro dice que falta Europa > "Del Diálogo al Impacto: una Perspectiva Europea" > otro dice que falta el ciudadano > "Del Diálogo al Impacto: una Perspectiva Europea Centrada en la Ciudadanía" > llevamos cuarenta minutos y ya no cabe en el cartel > Sergio pregunta si no sería mejor desarrollar una herramienta que ayude a la gente > *silencio* > la directora pregunta > "¿una herramienta de qué tipo?" > "un chatbot que responda preguntas sobre la agencia" > me parece peligroso, yo llevo once meses dentro y aún no sé muy bien qué hacemos > Sergio dice que puede tener un prototipo después del café > la subdirectora lo mira como si hubiera propuesto hacer una cesárea en el ascensor > "Primero habrá que definir los grupos de trabajo" > Sergio insiste en que solo son dos horas > qué manera de cerrarse puertas con veinticuatro años > 11:40 > Sergio presenta un prototipo > funciona > la directora escribe: "qué hace esta agencia?" > responde con seis puntos claros > nadie dice nada > es la primera vez que lo vemos explicado > la secretaria general pregunta de dónde ha sacado la información > "de nuestra web" > pide abrir una incidencia para averiguar quién ha publicado eso > siguiente pregunta > "¿podéis multar a una empresa que incumpla la normativa?" > el chatbot responde que actualmente no > crisis > "eso está descontextualizado" > "pero es correcto", dice Sergio > este chaval está haciendo un speedrun para no renovar > constituimos un comité para alinear las respuestas > catorce personas corrigiendo a una máquina que había dicho la verdad a la primera > dos horas después volvemos a preguntarle qué hace la agencia > "La Agencia promueve un marco de actuación orientado al impulso de las capacidades de los distintos actores del ecosistema" > la directora sonríe > "ahora sí" > el proyecto necesita un nombre > propongo HÉRCULES > Hardware Ético Responsable para la Coordinación Unificada de Líneas Estratégicas Sostenibles > no sé qué significa, pero las iniciales encajan > Sergio dice que un chatbot no es hardware > le explico que no podemos cambiar toda la arquitectura del proyecto a estas alturas > la directora está encantada > Comunicación nos pregunta que qué puede hacer HÉRCULES > le pasamos una captura > «¿Hola, en qué podemos ayudarte?» > les gusta mucho > preguntan si podemos quitar lo de ayudarte porque genera expectativas > queda «Bienvenido a HÉRCULES» > Perfecto >15:40 > nos llega un e-mail de Jurídico, dicen que por ley una persona tiene que revisar todas las respuestas que emita HÉRCULES > la directora pregunta quién > todos miramos a Sergio > Sergio mira detrás > detrás hay una planta > la planta es personal propio, está más protegida que él > configura el sistema para que le lleguen las preguntas que la IA no sepa responder >hacemos una prueba > «hola» > HÉRCULES considera que no dispone de contexto suficiente > deriva a Sergio > Sergio escribe «hola» > el sistema lo muestra en pantalla > *ovación* > acabamos de inventar un chat con Sergio, pero pagando por tokens > 16:00 > hora de marcharse, pero antes hay que hacer la foto para la prensa > nos colocamos delante del cartel ANTICIPAMOS EL MAÑANA > alguien llama a Sergio > viene sonriendo > le damos el móvil > "en horizontal, que es para la web" > subo la imagen a LinkedIn: > "La tecnología solo tiene sentido cuando ponemos a las personas en el centro" > debajo escribo > "Proud of this incredible team"

programar era 1000 veces más divertido que escribir prompts

¿Recuerdan el último día que escribieron más de 10 líneas de código ustedes mismos desde cero? ¿Hace cuánto fue eso?

Hay una polémica en Francia con un libro muy exitoso al que alguien ha pasado Pangram (según dicen, un detector infalible), y muchos pasajes han dado que es 100% IA. Veamos por qué NO hay que hacer caso a Pangram. Al menos no como si fuera un ente divino: Lo primero es saber quién dice que Pangram es el mejor detector. Pues lo dice Pangram, dice que su ratio de falsos positivos es virtualmente cero porque no detectan solo patrones, sino que hacen prompt-espejo en embeddings y toda la pesca. Es cierto que hay auditorías externas, que también lo ponen bien, pero son sensiblemente menos robustas que lo que dice el propio Pangram. Y Pangram es una empresa que quiere vender su producto. Yo me pregunto si podría dar unos resultados tan buenos en un sandbox totalmente aislado de Internet, pero démoslo por válido. Eso sí, hay algo que distingue a Pangram de los demás detectores. Otros dicen que "hay una probabilidad del 40% de que este texto sea artificial". Pangram no, Pangram discrimina el texto por secciones y te dice "Este 40% es artificial y este 60% es humano", y te marca esas secciones. Comprobémoslo. He puesto el texto de la imagen 1, un texto sencillote, con un poco de ritmo y sin florituras, bastante sota, caballo y rey. ¿Qué dice Pangram? Pues dice que es 100% humano. Así que, en la imagen 3, le he añadido 14 palabras al texto original, 14 de 230. He transformado una aposición en una adversativa y he añadido un tercer ítem a dos series de dos, transformándolas así en series ternarias. ¿Resultado? 100% Artificial. 100%, TODAS LAS PALABRAS LAS HA ESCRITO UNA MÁQUINA. Pero Pangram, no decías que tú no detectas patrones sino que haces prompts-espejo con red neural y toda la hostia en verso? Que sí, qué sí, que eso lo ha escrito todo una máquina, que te lo digo yo. Vale, es un texto corto (algo menos de una página de un libro), así que vamos a hacerlo más largo. Ya os aviso que el resultado es peor (o puede serlo). Lo cuento en el siguiente tuit, para que veáis las imágenes. (Por cierto, podéis copiar y pegar los textos y haced vosotros mismos la comprobación)

🚨 #URGENTE | Se realizan excarcelaciones de presos políticos en distintos centros de reclusión del país.

Te fuiste a mear y salieron 300 modelos de AI nuevos, no se puede asi.