Categoría: General

A raíz del reciente crimen de Tajueco, y como llevo unos días obsesionado con la mala memoria de los LLM respecto a poesias que son de lectura obligatoria pero siempre se resumen, he hecho un par de búsquedas y resulta que Machado tambien preparó su propio resumen en prosa. https://guiadesoria.es/patrimonio/leyendas-de-soria/2064-la-tierra-de-alvargonzalez-prosa.html Y ahí localiza mejor la…

He estado preparando una demo para correr el fp16 del Llama3.1 grande en nuestro fragmento de tarjetas L40s. Es basicamente el ejemplo que aparece en https://github.com/NVIDIA/TensorRT-LLM/tree/main/examples/llama con algunos detallitos que es facil saltarse. Lo primero es decidir la paralelizacion. Usando 24 GPUs me ha dado ocasionalmente problemas de vRAM asi que por ir a lo…

Estoy revisando un poco el estado del arte para todo el lio de Retrieval Augmented Generation, AKA «Habla con tu PDF». Esto es lo que he encontrado. Bases de datos vectoriales: ChromaDB: https://github.com/chroma-core/chroma Parece que tiene mas features para el caso concreto de RAG Todas las demas: pinecone etc Modelos de embedding A mi me…

Como consecuencia del post anterior, uno puede revisitar el trialogo sobre el numero de constantes fundamentales y plantearse si no deberian ser dos de ellas la velocidad de la luz, \(c\), y la velocidad areal minima, \(c L_P\). Con ello, nos queda decidir que ocurre con la Gravedad y la cte de Planck, teniendo en…

https://www.reddit.com/r/Physics/comments/1g7e4st/lets_discuss_comptons_horizon Por cierto ya puestos a enredar he metido un post en hypothetical physics, que es el /r/roastme para física. La diferencia en visualizaciones es, bueno, sustancial. Y ahora caigo que reddit no permite que bajen de cero los votos, pero sospecho que en caso de empate ordena por la upvote rate.