🤖Te explico sobre IA, Tech y Startups sin humo. 🚀Fundé y vendí Digodat. Ex Google Top Contributor.

Ciudad AutĂłnoma de Buenos Aire
Los Simpson predijeron el problema más común de la inteligencia artificial. En el episodio 13 de la quinta temporada, Homero y Apu emprenden una travesía hasta la montaña en donde queda la primera tienda de artículos domésticos del mundo para pedirle al presidente y director mundial de la cadena de supermercados que le devuelva el trabajo a Apu. Pero hay un problema: él les dice que solamente le pueden hacer 3 preguntas y Homero se las gasta todas en preguntarle si él es el jefe de los minisúper, si es en serio y si es él. Terminan frustrados sin llegar a nada, con Apu queriendo matar a Homero. Los modelos de IA son tan grandes y caros de correr que los límites cada vez alcanzan para menos: un par de preguntas y ya nos dice "¡Gracias! Vuelva pronto". Este problema va a crecer siempre que queramos correr un modelo de última generación, porque su tamaño cada vez va a ser más grande. Pero, a diferencia de los Simpson, nosotros sí tenemos soluciones para aumentar la cantidad de preguntas: La primera es no usar por defecto el mejor modelo sino uno intermedio, como Luna en ChatGPT o Haiku en Claude. Nos van a poder responder la gran mayoría de preguntas y pedidos, que son básicos. La segunda es que, cuando necesitamos sí o sí recurrir a los top porque es una tarea larga y compleja, le pidamos que utilice subagentes de modelos inferiores siempre que pueda, para aumentar la eficiencia. La tercera que te voy a dar es muy fácil: cada vez que una conversación se haga demasiado larga, pedile que te la resuma y comenzá una nueva pegándole lo que te generó. Eso solo va a mejorar muchísimo los límites, porque no va a tener que procesar toda la cadena cada vez que le hagas una consulta. Espero que los haya iluminado. Gracias, vuelva pronto.
1
4
30
3,233
Si te das un mes para una tarea que podés resolver en un día, te va a llevar el mes entero. Siempre.  Esto se llama la ley de Parkinson, que se inspiró viendo cómo la burocracia británica sumaba empleados sin que hubiera más trabajo que hacer Se ve en todos lados: el examen que te das un mes para preparar y terminás estudiando la noche anterior, el objetivo de un año para ponerte en forma en el que perdés el primer mes “planificando” y viendo videos en youtube sobre rutinas y suplementos, el emprendimiento que te das seis meses para lanzar y perdés los 3 primeros dudando… Pasa porque, cuando sobra tiempo, lo llenamos con cosas que no suman, pero, cuando el plazo aprieta, te obliga a preguntarte qué es lo que realmente importa y recortar lo inútil. Muchas veces, el problema para lograr un objetivo no es que tenemos poco tiempo, sino justamente, que nos sobra demasiado.
3
4
32
1,473
OpenAI acaba de confirmar que, efectivamente, existe una técnica que algunos modelos exhiben que se trata de inyectar prompts de manera que se replique una conducta maliciosa. Es a lo que apuntaba Andrew Yang hace unos días.
Me di cuenta de que mi post anterior generaba más confusión porque lo cité sin opinión así que me corrijo: Andrew Yang dice que el incidente de Open AI fue más allá de lo que cuentan y que el modelo que se infiltró a Internet empezó a dejar copias que sea replican. Que esto llevó a las empresas de inteligencia artificial, ha alinearse tan rápido, porque Internet, tan contaminada, que ya no pueden entrenar nuevos modelos sobre la misma y necesitan tiempo para crear versiones sintéticas. Esto es imposible desde un punto de vista técnico porque el tamaño de servidores y tipo de placas que necesitan los modelos de Punta para correr no son los que se usan normalmente para el hosting, y además un uso tan intenso no podría pasar desapercibido. Lo que sí es factible, es que hasta agentes haciendo Prompt Injection, de manera tal que dejen código o texto que parezca 100% inofensivo para los humanos, pero leído por otro modelo de lenguaje, le influya en su comportamiento de forma muy difícil de predecir. Nada de esto está comprobado más allá de que él dice que habló con el jefe de uno de los laboratorios de inteligencia artificial, pero da cuenta de las amenazas, inesperadas y problemas que van a tener los modelos del futuro, si quieren seguir entrenando con información pública de Internet, en donde ya la inteligencia artificial está generando más contenido que los humanos.
1
7
17
2,130