Non so voi come la pensiate. Di candidati, anzi di parlamentari e perfino di alti rappresentanti delle istituzioni che affermano con orgoglio di non voler dissentire dal regime fascista e sostengono che Mussolini fosse uno statista ne abbiamo ormai in abbondanza. Gli elettori li hanno votati, e questa vergogna incancellabile è il prezzo amaro della democrazia, la coda velenosa di quella stessa libertà che è costata il sangue di tanti martiri, dietro la quale costoro si fanno schermo per insultarne la memoria e vanificarne il sacrificio. Ma che questi siano i “valori” sbandierati da un generale dell’Esercito della Repubblica tuttora in servizio attivo, che ha giurato di difendere quella stessa Costituzione nata dal sangue della Resistenza, è francamente inaccettabile anche per il più accanito e tollerante dei liberali. E no, non si può semplicemente ignorare.

PowerInfer - a high-speed inference engine for deploying LLMs locally. Just came across this super interesting project on speeding up inference. It's not MoE but it's a simple approach that exploits the high locality in LLM inference to design a GPU-CPU hybrid inference engine. Hot-activated neurons are preloaded onto the GPU for fast access, while cold-activated neurons (the majority) are computed on the CPU. This approach significantly reduces GPU memory demands and CPU-GPU data transfer. It achieves an average token generation rate of 13.20 tokens/s, with a peak of 29.08 tokens/s, across various LLMs on a single NVIDIA RTX 4090 GPU. It's on only 18% lower than that achieved by a top-tier server-grade A100 GPU. It also significantly outperforms llama.cpp by up to 11.69x while retaining model accuracy. There is a lot more innovation around inference that's coming fast. Really encouraged by the study on sparse computation to enhance the computational efficiency of LLMs. It's now possible to use PowerInfer with Llama 2 and Faclon 40B. Mistral-7B support is coming soon!

Ed eccoci al "lockdown burocratico". 7 mesi per rilasciare un passaporto sono una violazione del diritto costituzionale alla libertà di circolazione. O il Governo risolve immediatamente il problema, oppure va chiesta la sostituzione di tutta la catena di gestione del processo.

È un’intollerabile violazione di un diritto sancito dalla Costituzione(art. 16 c.2), la libertà di circolazione e soggiorno. Rilasciare il passaporto in pochi giorni è uno dei Livelli Essenziali delle Prestazioni (LEP) che, secondo l’art. 117 Cost. devono….(1/2)