Modelos pequeños vs grandes: cuándo el pequeño gana
No todas las tareas necesitan el modelo más grande disponible. Así decido cuándo un modelo pequeño rinde igual o mejor que el más potente.
// tag · 10 post(s)
#llm
Costes reales de usar IA a diario: lo que nadie cuenta
El coste de usar IA a diario no es solo la suscripción. Estos son los costes reales que cuento, y los que la mayoría ignora hasta que sorprenden.
Por qué el benchmark de un modelo no te dice si te sirve
Un modelo puede liderar todos los benchmarks públicos y rendir peor que otro en tu tarea concreta. Esto es lo que miro en vez de la tabla de puntuaciones.
Embeddings explicados para quien solo quiere usarlos
Un embedding es solo un vector que representa significado. Te explico cómo funciona la búsqueda por similitud y los errores más comunes al usarlos.
RAG vs fine-tuning: cuándo tiene sentido cada uno
RAG y fine-tuning no son alternativas intercambiables. Uno resuelve un problema de conocimiento, el otro de comportamiento. Aquí el criterio para elegir.
Por qué la mayoría de los agentes de IA todavía no son agentes
Casi todo lo que se etiqueta como agente de IA es una llamada a herramientas sin bucle de corrección. Aquí está la diferencia real, y por qué importa.
Few-shot vs zero-shot: cuándo dar ejemplos en el prompt
Los ejemplos en un prompt no siempre ayudan y siempre cuestan tokens. Cuándo merece la pena el few-shot y cuándo el zero-shot es mejor opción.
Context window grande no es lo mismo que memoria
Un context window más grande no significa que el modelo recuerde más. Explico la diferencia real entre ventana de contexto, atención y memoria persistente.
Cómo reducir alucinaciones sin volverte loco probando
No existe un prompt que elimine las alucinaciones. Existe un proceso que las reduce: dar el dato en vez de pedirlo de memoria, verificar y evaluar de forma sistemática.
Cómo escribir un prompt de sistema que no se rompe
Un prompt de sistema es código, y como todo código sin mantenimiento, se pudre. Cómo estructurarlo, versionarlo y evitar que se rompa con cada cambio de modelo.