Muntar una màquina per entrenar o servir models sempre ha tingut la mateixa part pesada: barallar-te amb els drivers de la GPU, les versions de CUDA o ROCm i les dependències que es trenquen al primer apt upgrade. Canonical ha publicat un article sobre Ubuntu 26.04 LTS on explica com han treballat justament aquest punt perquè deixi de menjar-te hores.
La idea que travessa el text és la de tokens per watt (tokens per watt): la quantitat de feina útil d’IA que produeixes per cada watt que consumeixes. És una manera de mesurar eficiència que mira el maquinari, però Canonical insisteix que el compte no acaba aquí. El temps que trigues a tenir alguna cosa funcionant i la productivitat de qui ho munta compten igual. Una GPU caríssima aturada tres dies perquè els drivers no quadren produeix ben pocs tokens per watt.
CUDA i ROCm en una sola línia
La novetat concreta més pràctica és la instal·lació dels frameworks de càlcul en GPU. Tant NVIDIA CUDA com AMD ROCm es poden instal·lar ara amb una sola ordre apt install. Abans era un procés de diversos passos on els problemes de dependències i de compatibilitat apareixien sovint. Si alguna vegada has muntat un entorn d’inferència des de zero, ja saps de què parlen: repositoris per afegir a mà, versions que han d’encaixar entre si i missatges d’error que no diuen gaire.
Reduir això a un apt install no és màgia, però t’estalvia hores o fins i tot dies de configuració per màquina. I quan arriba el moment de pujar de versió un framework, el camí d’actualització queda més net que abans.
Xarxa d’alt rendiment amb DOCA-OFED
L’altre bloc és la xarxa. Ubuntu 26.04 LTS integra la pila NVIDIA DOCA-OFED perquè la instal·lació sigui directa. Aquí el mal de cap habitual era la deriva del kernel, drivers que deixaven de ser compatibles i pipelines de CI que es trencaven en actualitzar. Per a càrregues d’IA a gran escala, on diversos nodes han de parlar entre ells a tota velocitat, tenir la capa de xarxa ben encaixada amb el kernel marca la diferència entre que l’actualització sigui rutina o un cap de setmana de guàrdia.
Què vol ser Ubuntu aquí
Val la pena llegir una frase del mateix Canonical per entendre l’enfocament. Jon Seager, VP d’Enginyeria, ho deixa clar: “Ubuntu no s’està convertint en un producte d’IA”. El compromís, diu, és que Ubuntu sigui un facilitador per a la IA. És a dir, no afegir capes pròpies, sinó que la feina d’optimització amb els fabricants de silici i la instal·lació simplificada dels toolkits facin que tu arribis abans al que vols fer.
Aquesta col·laboració amb el silici inclou NVIDIA, AMD, Intel, Arm, Qualcomm i RISC-V. L’objectiu és dedicar el màxim de càlcul a la càrrega d’IA i deixar al sistema operatiu el menor pes possible per sota.
Per a qui és això
Si la teva feina passa per aixecar nodes amb GPU, això et toca de prop. Per a la resta d’usuaris d’Ubuntu en escriptori o servidor genèric, el canvi no es nota en el dia a dia, però forma part de cap a on Canonical està empenyent la versió LTS. Si encara no l’has mirat, en el seu moment vam repassar tot el que porta Ubuntu 26.04 LTS, des del kernel fins al suport a llarg termini.
Font
Informació basada en l’article original publicat per Canonical: Beyond tokens per watt – using Ubuntu 26.04 LTS for AI, al blog oficial d’ubuntu.com.