RAMDeck: il nuovo hub per unire la RAM di più dispositivi in rete
In Breve
- Cos'è RAMDeck?
- RAMDeck è un hub in crowdfunding che aggrega la RAM di più dispositivi per eseguire modelli di intelligenza artificiale.
- Qual è l'obiettivo di finanziamento della campagna?
- L'obiettivo di finanziamento della campagna è di 10.000 dollari.
- Quando termina la campagna di crowdfunding?
- La campagna termina l'8 novembre 2026.
RAMDeck è un innovativo hub a basso consumo energetico attualmente in crowdfunding su Indiegogo, con un prezzo early-bird fissato a 109 dollari. La campagna, che ha un obiettivo di finanziamento di 10.000 dollari, terminerà l’8 novembre 2026. Questo dispositivo è progettato per aggregare la memoria RAM di vari dispositivi, tra cui PC Windows, Mac, Linux e telefoni Android, permettendo di eseguire modelli di intelligenza artificiale (AI) troppo complessi per un singolo dispositivo.
Il progetto nasce in un contesto di forte aumento dei prezzi della memoria DDR5, che ha visto i costi quintuplicarsi rispetto a metà 2025. A differenza di altre soluzioni, RAMDeck non combina la memoria a livello hardware; piuttosto, divide i pesi di un modello tra le macchine, con ciascuna che mantiene la propria porzione in memoria locale e trasferisce solo i risultati intermedi via rete durante la generazione dei token.
L’infrastruttura software di RAMDeck si basa sull’RPC di llama.cpp, dove un nodo agente avvia il server ggml RPC su ogni dispositivo partecipante. Il coordinamento avviene tramite un protocollo standard di llama.cpp. L’elemento distintivo di TradeMAV è l’orchestrazione attorno a questo motore, che include la scoperta automatica dei nodi, il posizionamento dei layer privilegiando GPU veloci rispetto alla RAM di sistema più lenta, la gestione dei guasti, una dashboard e un’API compatibile con OpenAI.
Le specifiche hardware del hub non sono state rese pubbliche; dettagli come processore, memoria, porte e consumo rimangono sconosciuti. Tuttavia, la documentazione suggerisce che gli utenti esperti di script da terminale possono seguire una soluzione fai-da-te (DIY) gratuita. Esistono già alternative software operative per il pooling e l’orchestrazione su dispositivi eterogenei. Inoltre, sul mercato sono disponibili soluzioni di clustering ad alte prestazioni che sfruttano interconnessioni come Thunderbolt 5 con RDMA.
TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità. Per chi cerca prestazioni elevate, è consigliabile investire in GPU con maggiore VRAM. I benchmark pubblicati indicano che le configurazioni più veloci utilizzano un mini PC con RTX 3060 e modelli mixture-of-experts, attivando circa 3 miliardi di parametri per token. Ad esempio, sono stati registrati 39 token/s per Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4, e 16 token/s per una variante 40B REAP di Qwen3-Coder-Next. Un modello 7B ha raggiunto 43 token/s eseguendo esclusivamente sulla 3060.
Al contrario, i modelli densi mostrano prestazioni significativamente inferiori. Un modello 27B denso ha ottenuto 1,92 token/s su quattro dispositivi, mentre gpt-oss-120b ha segnato 1,37 token/s su un cluster di sei macchine. Un modello 120B su cinque macchine ha richiesto circa sette minuti per l’inizializzazione, raggiungendo poi 3,1 token/s. Questi risultati evidenziano la capacità di evitare crash per esaurimento di memoria, ma risultano comunque lenti rispetto a configurazioni dotate di GPU con alta VRAM.
In sintesi, l’engine sottostante di RAMDeck è un software gratuito già disponibile, mentre l’hub mira a semplificare l’orchestrazione multi-dispositivo. Tuttavia, mancano dettagli hardware e le prestazioni per modelli densi sono limitate. Per chi desidera sperimentare, è possibile provare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, i 109 dollari permettono di prenotare l’hub, tenendo presente i rischi tipici delle campagne di crowdfunding, che possono includere ritardi, modifiche o mancata consegna.
