Az AI-infrastruktúra új szűk keresztmetszetei: mire figyeljen hardverbeszerzéskor a kkv?

A chipeken túl a memória, a hűtés, a hálózat és a szabályozás határozza meg a mesterséges intelligenciára költött forintok valós megtérülését.

Az AI-infrastruktúra új szűk keresztmetszetei: mire figyeljen hardverbeszerzéskor a kkv?

Az elmúlt két év technológiai diskurzusát szinte kizárólag a grafikus gyorsítók hiánya és a vezető félvezetőgyártók kapacitásproblémái uralták. A hazai kis- és középvállalatok döntéshozói körében emiatt rögzült az a leegyszerűsítő kép, hogy az intézményi mesterséges intelligencia adaptációjának egyetlen valódi gátja a megfelelő GPU beszerzése. Amint azonban egy vállalat megteszi az első komolyabb lépéseket a helyi nyelvi modellek futtatása, a képelemzési munkafolyamatok vagy az automatizált döntéstámogató rendszerek kiépítése felé, gyorsan kiderül, hogy a számítási magok puszta léte nem garantálja a sikert. A modern AI-infrastruktúra ugyanis nem egyetlen kiemelt komponensre épül, hanem szorosan integrált, kényes egyensúlyban működő technológiai ökoszisztéma. Ha ebben a láncolatban a memória, az adattárolás, a belső hálózat, az elektromos betáplálás vagy éppen a hűtési kapacitás elmarad a kívánt szinttől, a méregdrága gyorsítóeszközök kihasználatlanul várakoznak majd az adatokra. A sikeres hardverbeszerzés titka ennélfogva nem a legnagyobb katalógusértékek hajszolásában, hanem a teljes adatútvonal és az üzemeltetési környezet rendszerszintű megtervezésében rejlik.

A számítási feladatok jellege alapjaiban változott meg az utóbbi években, ami a hagyományos szerverarchitektúrák határait is feszegeti. Míg a klasszikus vállalati alkalmazások, mint az adatbázis-kezelők vagy a vállalatirányítási rendszerek többnyire a központi processzor és a rendszermemória közötti kiszámítható műveletekre épülnek, addig a mélytanulási és generatív modellek hatalmas mátrixműveleteket végeznek milliárdnyi paraméteren keresztül. Ebben a környezetben a processzorok és gyorsítók számítási kapacitása jóval gyorsabban növekedett, mint a memóriák adatátviteli sebessége, megteremtve az informatikában csak memóriafalként emlegetett jelenséget. Hiába képes egy modern grafikus chip másodpercenként több száz billió művelet elvégzésére, ha a paraméterek betöltése és a kontextus frissítése során a számítási egységek kénytelenek üresjáratban várakozni. Emiatt az AI-terhelések esetében a fedélzeti memória mérete és sávszélessége mára önálló, a nyers feldolgozási sebességnél sokszor lényegesebb beszerzési szemponttá vált.

Jól szemlélteti ezt a technológiai elmozdulást az élvonalbeli vállalati hardverek fejlődési iránya. Az NVIDIA H200 gyorsító például már száznegyvenegy gigabájtnyi HBM3E memóriát vonultat fel, amely másodpercenként akár négy egész nyolc tized terabájtos memória-sávszélességet biztosít a számítási egységek számára. Ez az ugrás egyértelmű bizonyítéka annak, hogy a korszerű nagy nyelvi modellek hatékony kiszolgálásához a hatalmas adatmennyiségek azonnali mozgatása vált a legfőbb technológiai akadállyá. Egy középvállalati környezetben ez azt jelenti, hogy amikor a mérnökök egy hetvenmilliárd paraméteres modell helyi futtatását vagy finomhangolását tervezik, nem pusztán a feldolgozó chipek számát kell meghatározniuk. Ha a modell súlyai és a gyorsítótárak nem férnek el a nagy sebességű dedikált memóriában, az adatok kénytelenek a jóval lassabb rendszermemórián vagy háttértáron keresztül mozogni, ami a válaszidők drasztikus romlásához és az eszközök gazdaságtalan működéséhez vezet.

A memória korlátai mellett a háttértár és a hálózati alrendszer minősége jelentheti a következő komoly akadályt. A tanulási fázisban vagy a több gigabájtos vállalati dokumentumtárakon végzett vektoros kereséseknél a bemeneti adatok folyamatos áramlását biztosítani kell a feldolgozó egységek felé. A hagyományos SATA vagy régebbi generációs SAS szilárdtest-meghajtók sávszélessége egyszerűen képtelen kielégíteni az AI-gyorsítók étvágyát. Egy korszerű AI-kiszolgálóban elengedhetetlen a legújabb generációs, közvetlen PCIe csatolású NVMe tárolók alkalmazása, amelyek párhuzamos lekérdezési sorokkal képesek minimalizálni a késleltetést. Ugyanez a követelmény érvényes a hálózatra is, amennyiben a feladat több gépből álló klaszteren oszlik meg, vagy az adatbázisok hálózati tárolón helyezkednek el. Egy hagyományos egy- vagy tízgigabites irodai ethernet hálózat azonnal szűk keresztmetszetté válik, amint több száz gigabájtos súlymátrixokat vagy képi adatbázisokat kell a szerverek között szinkronizálni. Ilyen feladatoknál a veszteségmentes adatátvitelt nyújtó technológiák, a közvetlen távoli memóriahozzáférést biztosító protokollok, valamint a legalább huszonöt, ötven vagy száz gigabites sávszélesség bevezetése nem luxus, hanem a hardverberuházás megtérülésének alapfeltétele.

A digitális szűk keresztmetszeteken túl a hazai kkv-k számára a fizikai valóság hozza a legváratlanabb meglepetéseket a beruházási folyamat során. Az AI-hardverek energiasűrűsége nagyságrendekkel haladja meg az általános célú irodai kiszolgálókét, ami alapjaiban írja felül a telephelyi infrastruktúrával kapcsolatos elvárásokat. Vegyük példaként a piac egyik etalonjának számító NVIDIA DGX H100 rendszert, amelynek megadott maximális villamosenergia-fogyasztása eléri a tíz egész két tized kilowattot. Ez az érték egyetlen, viszonylag kompakt szerveregységre vonatkozik, miközben egy átlagos magyarországi iroda vagy kisebb szerverhelyiség egyetlen fázisán a teljes terhelhetőség gyakran megáll három-négy kilowatt környékén. Egy ilyen teljesítményű eszköz telepítése nem merülhet ki a rack-szekrénybe történő becsavarozásban: azonnali fázisbővítést, ipari szintű elosztókat, dedikált megszakítókat és komoly kapacitású, háromfázisú szünetmentes tápegységeket követel meg.

A villamosenergia-igény növekedése ráadásul nem helyi sajátosság, hanem a technológiai korszak globális jellemzője. A Nemzetközi Energiaügynökség átfogó elemzése szerint az adatközpontok globális villamosenergia-fogyasztása a 2024-es mintegy négyszázhizenöt terawattóráról 2030-ra várhatóan körülbelül kilencszáznegyvenöt terawattórára emelkedik, és e hatalmas bővülés egyik legfőbb hajtóerejét éppen a mesterségesintelligencia-feladatok számítási igénye adja. Ez a makrogazdasági trend közvetlenül lecsapódik az egyedi vállalati költségvetésekben is, hiszen a növekvő áramfogyasztás és az energiaárak ingadozása tartósan magas működési költséget terhel a helyi infrastruktúrára. Ha egy kkv nem kalkulálja be a hardver életciklusa során felmerülő villanyszámlát az üzleti tervbe, a beruházás gazdasági megtérülése könnyen negatívba fordulhat még akkor is, ha maga a szoftveres megoldás egyébként hatékonyan működik.

A felvett elektromos energia szinte teljes egészében hővé alakul, ami elvezet a következő kritikus fizikai korláthoz, a hűtéshez. Egy tíz kilowattos hőforrás folyamatos és biztonságos hőelvezetése egy hagyományos, irodai split klímával felszerelt szerverszobában gyakorlatilag lehetetlen feladat. Megfelelő légáramlás-tervezés, hideg és meleg folyosók elválasztása, valamint precíziós klímatechnológia nélkül a szerverek belső védelmi mechanizmusai gyorsan visszaveszik a processzorok órajelét a túlmelegedés elkerülése érdekében. Ekkor áll elő az a paradox helyzet, hogy a vállalat kifizette a prémium hardver árát, de a helyiség elégtelen hűtése miatt a gyorsítók csak töredékteljesítményen, folyamatos hősokkban működnek, ami az élettartamukat is drasztikusan lerövidíti. Nem szabad megfeledkezni a ventilátorok keltette extrém zajterhelésről sem, ami teljesen kizárja, hogy ilyen eszközöket emberi tartózkodásra szolgáló irodákban vagy azok közvetlen szomszédságában, dedikált hangszigetelés nélkül üzemeltessenek.

Mindezek fényében a hazai vállalkozások számára elengedhetetlen, hogy felhagyjanak a pusztán az eszközök beszerzési árára fókuszáló szemlélettel, és áttérjenek a teljes bekerülési és üzemeltetési költség, azaz a TCO vizsgálatára. Egy nagy teljesítményű AI-kiszolgáló megvásárlásakor a hardverlista ára csupán a jéghegy csúcsa. A telephelyi villamoshálózat átalakítása, a szünetmentesítés kiépítése, a klímatechnológia korszerűsítése, az emelt szintű gyártói támogatási szerződések díja, valamint a folyamatos áramfogyasztás három-öt éves távlatban könnyen elérheti vagy akár meg is haladhatja a szerver eredeti vételárát. A kapacitástervezést ezért nem az elméleti csúcsterhelésre, hanem a valós, napi szinten jelentkező üzleti igényekre kell méretezni. Egy túlméretezett helyi infrastruktúra évekre lekötheti a vállalat fejlesztési tőkéjét úgy, hogy a kihasználtsága nem éri el a húsz-harminc százalékot, míg egy alulméretezett konfiguráció a szűk sávszélességek és memóriakorlátok miatt okoz folyamatos üzleti fennakadásokat.

A beruházási döntés legfontosabb stratégiai kérdése ebből adódóan az, hogy a vállalat milyen arányban építsen saját infrastruktúrát, és mikor támaszkodjon bérelt felhőszolgáltatásokra. A saját szerver vásárlása mellett elsősorban a szigorú adatvédelmi elvárások, a belső szellemi tulajdont képező érzékeny adatok kezelése, a kiszámítható, huszonnégy órás folyamatos terhelés és az alacsony válaszidő igénye szól. Ha egy gyártóvállalat a gyártósori minőségellenőrzést valós idejű képelemzéssel végzi, a hálózati késleltetés és a felhős kapcsolat esetleges kiesése miatt a helyi hardver az egyetlen megbízható út. Ezzel szemben az időszakos finomhangolási feladatokhoz, az innovatív ötletek teszteléséhez vagy a hirtelen kiugró, szezonális terhelésekhez a felhőalapú GPU-bérlet nyújtja a legkisebb tőkekockázatot jelentő megoldást. A legtöbb magyar kkv számára az arany középutat a fokozatosan kiépített, hibrid modell jelenti, ahol a mindennapi, stabil alapfeladatokat egy kompakt, jól szellőző és megfelelően méretezett helyi géppark szolgálja ki, míg a rendkívüli számítási kapacitást igénylő csúcsokat rugalmas felhős forrásokból pótolják.

A beszerzési folyamat lebonyolítása során a beszállítói láncok kezelése is körültekintést igényel. A globális ellátási nehézségek és az extrém szállítási határidők miatt csábító lehet a több beszállítótól, eltérő gyártóktól származó komponensek összeválogatása az árak leszorítása és a gyorsabb szállítás reményében. Egy középvállalati IT-csapat számára azonban a túlzott diverzifikáció komoly üzemeltetési csapdát rejt. Az AI-hardverek rendkívül érzékenyek az illesztőprogramok, a mikrokódok, az alaplapi buszok és a hálózati kártyák finomhangolására. Egyedi, vegyes alkatrészekből épített rendszereknél a meghibásodások diagnosztizálása, a garanciális ügyintézés és a stabil szoftveres környezet fenntartása aránytalanul sok mérnöki munkaórát emészt fel. Kkv-méretben sokkal célravezetőbb a gyártói referenciadizájnokra épülő, előre tesztelt, integrált megoldásokat választani, és a többforrású beszerzést kizárólag a könnyen cserélhető, szabványos elemekre, például a kiegészítő tárolókra vagy a hálózati kábelezésre korlátozni.

A technikai és gazdasági szempontok mellett a szabályozási környezet alakulása is közvetlen hatással van az infrastruktúra-fejlesztésre. Az Európai Unió mesterséges intelligenciáról szóló jogszabálya, az AI Act fokozatosan lép hatályba, és általános alkalmazási dátuma 2026. augusztus 2. Fontos azonban tisztán látni, hogy a szabályozás nem ró automatikusan azonos és elviselhetetlen adminisztratív terheket minden olyan cégre, amely pusztán általános célú AI-eszközöket, például külső szöveggeneráló szolgáltatásokat vesz igénybe a napi munkája során. A kötelezettségek köre szorosan függ a vállalat pontos szerepétől, vagyis attól, hogy a technológia fejlesztőjeként, integrátoraként vagy csupán alkalmazójaként lép fel, valamint az adott rendszer kockázati besorolásától.

Ugyanakkor van a szabályozásnak egy olyan eleme, amely a hardverbeszerzésekkel párhuzamosan már most közvetlen feladatot ró a hazai vállalatokra. Az AI Act mesterségesintelligencia-jártasságra vonatkozó előírásai már 2025. február 2-től alkalmazandók az Európai Unió teljes területén. Ez azt jelenti, hogy az infrastruktúrára költött tőke mellett a szervezeteknek gondoskodniuk kell a munkatársak megfelelő képzéséről, az eszközök etikus és biztonságos használatát rögzítő belső szabályzatok kidolgozásáról, valamint az adatbiztonsági kockázatok tudatosításáról. A legkorszerűbb hardverpark is haszontalan, ha a vállalat munkatársai nem rendelkeznek azokkal a kompetenciákkal, amelyek a rendszerek hatékony, a jogi normáknak megfelelő üzemeltetéséhez és üzleti célú alkalmazásához szükségesek.

A sikeres és felelős döntéshozatalhoz a hazai kkv-knak egy strukturált, lépésről lépésre követhető felmérési folyamatot érdemes végrehajtaniuk a beszerzési szerződések aláírása előtt. Első lépésként pontosan rögzíteni kell a futtatni kívánt üzleti feladatok profilját, meghatározva a modellek méretét, az elvárt válaszidőket, a napi futási órák számát és a feldolgozandó adatok bizalmassági szintjét. Ezt kell hogy kövesse a telephelyi fizikai audit, amely könyörtelen őszinteséggel méri fel a rendelkezésre álló villamos betáplálást, a szünetmentesítési lehetőségeket és a szerverterem valós hűtési kapacitását. Harmadik lépésben a teljes életciklusra vetített TCO-modellt kell felállítani, amely a beszerzési áron felül tartalmazza az üzemeltetés minden járulékos költségét három évre előre, összevetve ezt a felhős bérleti alternatívákkal. Végezetül ellenőrizni kell a belső szabályozási és humán felkészültséget, biztosítva, hogy a technológia érkezésére a működési és jogi keretek is készen álljanak.

A mesterséges intelligenciára alkalmas infrastruktúra megteremtése tehát komplex, mérnöki és üzleti fegyelmet igénylő folyamat, amely messze túlmutat a gyorsítókártyák kiválasztásán. A piacvezető hardverek technikai dokumentációi, köztük az NVIDIA H200 és DGX rendszerek hivatalos specifikációi egyértelműen rámutatnak, hogy a memória-sávszélesség és az energiaigény alapjaiban formálja át az informatikai rendszerek felépítését. Ezt a felismerést támasztják alá a Nemzetközi Energiaügynökség energetikai elemzései és az Európai Unió szabályozási dokumentumai is, amelyek a felelős forrásfelhasználásra és a tudatos felkészülésre helyezik a hangsúlyt. Azok a hazai kis- és középvállalatok, amelyek képesek a teljes adatútvonalat, a telephelyi korlátokat és az üzemeltetési realitásokat egyetlen összefüggő egyenletként kezelni, valódi versenyelőnyt kovácsolhatnak a technológiából anélkül, hogy felesleges tőkekockázatnak tennék ki szervezetüket.

Share

Curious how we can help?


Explore our in-house products, or let's talk through your project.

CraneFlow ERP Document Recognition Tool Services Contact