Fallstudie · AI-hårdvara
Felsökning av ett AI-chips mjukvara utan chippet.
Lucia ville förstå hur kvantisering är implementerad på Tenstorrents AI-acceleratorer. Hon äger inget av deras kort. Det visade sig inte spela någon roll.

Att komma igång utan hårdvara
pip install ttnn installerar Tenstorrents hela runtime, och ttsim, deras simulator med öppen källkod, är ett delat bibliotek på 220 KB som ger dig ett virtuellt Wormhole-chip som kör de riktiga kernlarna. En Docker-container, en pip install och simulatorn räckte för att läsa, köra och felsöka stacken.
Det som såg fel ut
I kvantiseringsoperationen accepterades eller avvisades samma skaltensor, med samma dtype och samma numeriska värde, beroende på parametrar som inte hade med den att göra: om en axel angavs, och om nollpunkten var en skalär eller en tensor.
Orsaken: av fyra kodvägar breddade tre av dem dtypen före användning, men inte den fjärde.
Varför simulatorn räckte
Simulatorn kan ännu inte köra själva kernlarna för kvantisering, en känd begränsning. Det behövdes inte. Valideringen körs på värddatorn innan någon kernel skickas iväg, så felet gick att se ändå.
Resultat
Rapporten accepterades och en fix öppnades mot den. En liten bugg, som hon själv bedömde som låg prioritet. Det intressantare resultatet är hur låg tröskeln har blivit: mjukvaran i ett modernt AI-chip är öppen för alla som orkar läsa den noggrant.