Tagasi sisu juurde
ArtikkelASUS

ASUS Agent Computer - tehisintellekt jõuab pilvest kohalikku arvutisse

Avaldatud: 17.11.202611 min lugemist

Tehisintellekti kasutamine ei eelda enam tingimata pilveteenust ega eraldi andmekeskust. Väiksemaid keelemudeleid saab käivitada ka tavalises lauaarvutis, kuid suuremate mudelite, dokumendiotsingu, programmeerimisassistentide ja mitme samaaegse AI-agendi puhul muutuvad määravaks eelkõige mälu maht, selle läbilaskevõime ning tarkvaraplatvormi võimalused. ASUS koondab oma Agent Computer algatuse alla erineva suuruse ja hinnaklassiga riistvara: graafikakaardiga lauaarvutid, ProArt sülearvutid, miniarvutid, professionaalsed tööjaamad ning NVIDIA DGX Station arhitektuuril põhineva ExpertCenter Pro ET900N G3. Valiku eesmärk pole pakkuda ühte universaalset AI-arvutit, vaid siduda riistvara konkreetse töökoormusega.

Banner 1080_1350

ASUSe Agent Computer ülevaateleht käsitleb nii kohalikke, pilvepõhiseid kui ka hübriidseid AI-lahendusi. Kohapealne mudel võib olla põhjendatud siis, kui andmete töötlemise asukohta on vaja kontrollida, sama mudelit kasutatakse pidevalt või välise teenuse latentsus ja päringupõhine hinnastamine hakkavad tööd piirama. Pilveteenuse eeliseks jääb aga võimalus kasutada väga suuri mudeleid ilma võimsa riistvara soetamise ja haldamiseta. Seetõttu on arvuti valikul sama oluline kavandatav kasutus kui graafikakaardi teoreetiline arvutusvõimsus.

Kohaliku AI riistvara

Miks ei piisa ainult võimsast protsessorist?

Kohaliku keelemudeli käivitamisel määrab kasutatav mälumaht sageli selle, kas mudel üldse seadmesse mahub. Eraldiseisva graafikakaardi puhul piirab mudeli ja selle tööks vajaliku vahemälu suurust eelkõige VRAM; süsteemimälu kasutamine võib küll aidata mahupiirangut leevendada, kuid andmete liigutamine CPU ja GPU vahel võib vähendada jõudlust. Mälunõudlus sõltub ka mudeli parameetrite arvust, kvantimisest, konteksti pikkusest ja samaaegsete päringute arvust. Seetõttu ei saa üksnes videomälu mahu põhjal lubada, et kindla suurusega mudel töötab alati soovitud kiirusega.

Teine võimalus on ühismäluga arhitektuur, kus protsessor ja graafikakiirendi saavad kasutada ühist mäluruumi. Selline lähenemine on oluline näiteks suure mälumahuga kompaktsetes arvutites ning professionaalsetes AI-süsteemides, ent ühismälu ei tähenda automaatselt sama jõudlust kui eraldiseisval HBM-mäluga kiirendil. Lisaks tuleb arvestada tarkvaraga: eri tootjate GPU-de puhul võivad mudelite käivitamise, kvantimise ja peenhäälestamise võimalused erineda sõltuvalt kasutatavast raamistikust ning draiveritest.

Isiklik AI

GeForce RTX ja Radeon graafikakaartidega lauaarvutid

Isikliku AI-assistendi, väiksema kohaliku keelemudeli või oma dokumentidel põhineva küsimuste-vastuste süsteemi jaoks ei ole vaja ettevõttele suunatud superarvutit. ASUS soovitab sellesse klassi näiteks 16 GB videomäluga GeForce RTX 5060 Ti, RTX 5070 Ti ja RTX 5080 ning Radeon RX 9060 XT ja RX 9070 XT 16 GB variante. Nendes süsteemides on tüüpiliseks lähtekohaks 32–64 GB süsteemimälu. 16 GB VRAM-i on kohaliku AI katsetamiseks märksa paindlikum kui väiksema videomäluga lahendus, kuid suurema mudeli või pika konteksti puhul võivad piirangud kiiresti ilmneda.

IMG_20250701_170349

Näiteks ASUS TUF Gaming GeForce RTX 5060 Ti OC graafikakaardi ülevaade annab tausta selle klassi riistvara omadustele. Selle riistvaraklassi puhul on praktiline alustada väiksemate kvanditud mudelitega, kasutada neid teksti töötlemiseks ja lihtsamaks dokumendiotsinguks ning hinnata alles seejärel, kas suuremat videomälu on tegelikult vaja. Tavalise mänguriarvuti kasutamine AI jaoks ei muuda seda automaatselt professionaalseks tööjaamaks, kuid võimaldab paljudes kodustes ja arenduslikes töövoogudes välise API kasutamist vähendada.

IMG_20260228_181547

ASUSe soovitatud AMD emaplaatide hulka kuuluvad ROG STRIX B850, ProArt B850 ja TUF Gaming X870 seeriad, Inteli platvormil ROG STRIX B860 ja TUF Gaming Z890. Nende platvormide praktilisi omadusi aitavad hinnata näiteks ROG Strix B850-F Gaming WiFi, ROG Strix B850-I Gaming WiFi, TUF Gaming X870-PRO WIFI7 W NEO ja TUF Gaming Z890-PRO WiFi ülevaated. Emaplaat ei suurenda iseenesest keelemudeli arvutuskiirust, kuid määrab laienduspesade, ühenduste, mälumahu ja tulevaste täienduste võimalused. Samuti tuleb sobitada toiteplokk konkreetse graafikakaardi ja ülejäänud süsteemi energiavajadusega; ASUS toob selles klassis näitena välja 750–850 W toiteplokid, kuid sobiv nimivõimsus sõltub kogu konfiguratsioonist.

Kompaktsed AI-arvutid

ASUS ProArt, ROG Flow ja Ascent GX10

Kõik kohalikud AI-süsteemid ei kasuta eraldiseisvat lauaarvuti graafikakaarti. ASUS toob alternatiividena välja ProArt GR1X miniarvuti, ProArt P16 ja P14 sülearvutid ning AMD Ryzen AI Max platvormil põhinevad ProArt PX13 ja ROG Flow Z13 mudelid. Selliste seadmete eelis on kompaktne vorm ja osadel konfiguratsioonidel võimalus eraldada suurem osa ühisest mälust GPU töökoormusele. Konkreetse mudeli puhul tuleb siiski alati kontrollida paigaldatud mälumahtu, GPU jaoks kasutatavat osa ning toetatud tarkvara, sest sama seeria eri konfiguratsioonid ei pruugi olla AI kasutamisel võrdsed.

IMG_20260325_150219

Heaks näiteks on ASUS ProArt GoPro Edition PX13 (2026) sülearvuti ülevaade: selle suure mälumahuga konfiguratsioon aitab mõista, miks ainult tavapärase GPU-videomälu võrdlemisest ei piisa. Väiksema korpuse ja mobiilse jahutuse tõttu tuleb sülearvuti puhul lisaks arvestada pikaajalise koormuse, energiatarbe ja müraga. Kohaliku mudeli käivitamine on üks ülesanne, selle pidev teenindamine mitmele kasutajale hoopis teine.

IMG_20250611_150438

Sülearvutite alternatiivide hulka kuulub ka ASUS ProArt P16 (2025) H7606WP, mille erinev konfiguratsioon võrreldes tootja uuema Agent Computer soovitusega tähendab, et mälu ja graafikaprotsessorit tuleb vaadata konkreetse mudelikoodi järgi. AI-arenduse jaoks pakub ASUS ka Ascent GX10 kompaktset süsteemi, mis põhineb NVIDIA DGX Spark platvormil. See on suunatud arendajatele, kes soovivad suurema mälumahuga kohalikku katsekeskkonda, kuid ei vaja veel täismõõdus ettevõtte tööjaama. Võrreldes tavalise RTX-lauaarvutiga tuleb sellise süsteemi puhul hinnata mitte ainult mälumahtu, vaid ka sobivust konkreetse mudeli, tarkvararaamistiku ja arendusprotsessiga.

AI-arendus

32 GB videomälu ja laiendatav tööjaam

Kui eesmärk on mudelite kohandamine, RAG-rakenduste arendamine või mitme AI-agendi samaaegne käitamine, pakub suurema videomäluga graafikakaart märksa rohkem mänguruumi. ASUS nimetab selles klassis GeForce RTX 5090 32 GB, Radeon AI PRO R9700 32 GB ja Intel Arc Pro B70 32 GB. GeForce RTX 5090 üldise jõudlusega saab tutvuda GeForce RTX 5090 32 GB võrdlustulemuste lehel, kuid üldised GPU-jõudlustestid ei asenda konkreetse AI-mudeli inferentsikiiruse ega mälukasutuse mõõtmist.

NVIDIA_GeForce_RTX_5090_32_GB

Sellise konfiguratsiooni juures pakub ASUS lähtekohaks 128 GB süsteemimälu, AMD puhul ROG X870E, ROG STRIX X870E või ProArt X870E ning Inteli puhul ROG Z890, ROG STRIX Z890 või ProArt Z890 emaplaate. Selles klassis on asjakohased näiteks ASUS ProArt X870E-Creator WiFi ja ROG Maximus Z890 Hero ülevaated.

IMG_20251014_182333

Tootja näidetes on toiteploki võimsus sõltuvalt GPU-st 850–1200 W. Võimsam GPU ei taga siiski automaatselt paremat AI-arenduskogemust: enne riistvara valikut tuleb üle kontrollida vajaliku tarkvararaamistiku tugi, mälukasutus ja see, kas töökoormus sõltub rohkem inferentsist, treenimisest või andmete ettevalmistamisest.

Homelab

Ööpäevaringselt töötav kohalik AI-teenus võib pakkuda koduvõrgus või väikese meeskonna sees ühiseid assistente, dokumentide otsingut ja automatiseeritud töövooge. Sellise lahenduse puhul muutub lisaks mudeli suurusele oluliseks päringute arv, töökindlus, kaugjuurdepääs ning uuenduste ja logimise korraldus. ASUS soovitab mitme GPU-ga süsteemide lähtekohaks näiteks ROG CROSSHAIR X870E või ROG MAXIMUS Z890 emaplaate, 256 GB süsteemimälu ning konfiguratsioonist sõltuvalt kahte RTX 5090, Radeon AI PRO R9700 või Intel Arc Pro B70 graafikakaarti. Näidiskonfiguratsioonide juurde kuulub 1600 W või võimsam toiteplokk.

IMG_20251019_105304

Oluline on aga mõista, et kaks 32 GB graafikakaarti ei ole sama mis üks 64 GB ühismäluga GPU. Paljude mudelite ja tööriistade puhul peab mudeli jaotamiseks eri kiirendite vahel olema eraldi tarkvaraline tugi ning andmevahetus võib mõjutada jõudlust. Mitme GPU suurim eelis võib sõltuvalt ülesandest olla hoopis võimalus käivitada paralleelselt erinevaid mudeleid või teenindada rohkem kasutajaid.

IMG_20260903_143751

Kodulaboris tuleb arvestada ka jahutuse, koormuseaegse energiatarbe ning graafikakaartide füüsiliste mõõtmetega. Mitme masina vahel teenuse jagamisel tõuseb esile ka võrk: näiteks ProArt Switch PQG-U1080 ja ProArt Router PRT-BE5000 ülevaated annavad täiendava tausta kohaliku võrgutaristu valikule, kuid need ei asenda mitme GPU või suure AI-klastri jaoks eraldi kavandatud kiiret sõlmedevahelist ühendust.

Ettevõtete tööjaamad

Suuremad mudelid ja rohkem kasutajaid

ASUSe Agent Computer valik jätkub professionaalsete süsteemidega, kus tavaliste lauaarvuti komponentide asemel kasutatakse tööjaamaklassi emaplaate ja suure mälumahuga graafikakaarte. Näiteks Pro WS WRX90E-SAGE SE ja Pro WS W890E-SAGE SE platvormidele saab ehitada süsteeme, mille juurde ASUS pakub NVIDIA RTX PRO 6000 96 GB kaarte või mitme Radeon AI PRO R9700 ja Intel Arc Pro B70-ga konfiguratsioone. Näidetes ulatub süsteemimälu kuni 2 TB registreeritud DIMM-mooduliteni ning suuremate lahenduste puhul on arvestatud 3000 W klassi toiteplokkidega.

ESC8000-E12P

Selliste süsteemide eesmärk ei ole üksnes võimalikult suure mudeli käivitamine. Ettevõtte kasutuses on tihti olulisem pakkuda ühele osakonnale dokumentide analüüsi, mitut eraldiseisvat AI-teenust või suurema arvu päringutega API-t. ASUS kirjeldab oma konfiguratsioonijuhendis eri tööjaamade jaoks kuni 25 või 50 kasutajaga näidistsenaariume, kuid neid ei tohiks käsitleda üldise jõudlusgarantiina. Tegelik samaaegsete kasutajate arv sõltub mudelist, sisendite pikkusest, genereerimiskiirusest ja teenuse soovitud reageerimisajast.

ASUS ExpertCenter Pro ET900N G3

ASUSe valiku ülemises otsas asuv ExpertCenter Pro ET900N G3 erineb oluliselt klassikalisest mitme graafikakaardiga tööjaamast. See põhineb NVIDIA DGX Station arhitektuuril ning kasutab GB300 Grace Blackwell Ultra Desktop Superchipi, mis ühendab Arm-põhise Grace protsessori Blackwell Ultra graafikakiirendiga. Süsteemi suurim eripära on 748 GB sidusmälu: 496 GB LPDDR5X protsessorimälu ja 252 GB HBM3e graafikamälu. Tänu NVIDIA NVLink-C2C ühendusele moodustavad need tavapärasest eraldatud CPU ja GPU mälulahendusest tihedamalt seotud arhitektuuri.

ExpertCenter Pro ET900N G3 - 2
KomponentASUS ExpertCenter Pro ET900N G3
ArhitektuurNVIDIA DGX Station
ProtsessorNVIDIA Grace, 72 Arm Neoverse V2 tuuma
GraafikakiirendiNVIDIA Blackwell Ultra
Protsessori mälu496 GB LPDDR5X, kuni 396 GB/s
GPU mälu252 GB HBM3e, kuni 7,1 TB/s
Sidusmälu kokku748 GB
AI-arvutusvõimsusKuni 20 PFLOPS; tootja maksimumväärtus, mitte sõltumatu mõõtmistulemus
CPU ja GPU ühendusNVIDIA NVLink-C2C
Võrguliidesed2 × NVIDIA ConnectX-8 SuperNIC, 10 GbE ja eraldi haldusliides sõltuvalt konfiguratsioonist
LaiendusPCIe laienduspesad ning M.2 NVMe salvestusvõimalused
OperatsioonisüsteemUbuntu koos NVIDIA AI arendustööriistadega
Toiteplokk1600 W, Titanium-klassi

ASUS toob välja kuni 20 PFLOPS-i AI-arvutusvõimsust ning kuni triljoni parameetriga mudelite kohaliku kasutamise võimaluse. Need on tootja määratletud tingimustel esitatud võimekusnäitajad, mitte üldkehtivad tulemused kõigis mudelites. Eelkõige sõltub suurte mudelite mahutamine kvantimisest, mudeli arhitektuurist ning järelduste tegemiseks vajalikust lisamälust; sama mudeli käitamine ja selle täielik treenimine on väga erineva ressursivajadusega ülesanded. Seepärast ei saa 20 PFLOPS-i võrrelda otse mängude FPS-i ega tavapäraste arvutiprotsessorite üldjõudlusega.

ET900N G3 juures on tähtis ka süsteemi taristu. ConnectX-8 võrguliidesed ja NVIDIA tarkvaraplatvorm võimaldavad kasutada suuremahulisi AI-töövooge ning vajadusel siduda mitu tööjaama üheks keskkonnaks. ASUS kirjeldab ka vedelikjahutust ja pikaajalise koormuse jaoks kavandatud soojuslahendust. Tegemist on kontorisse paigutatava suure tööjaamaga, mitte sülearvuti või tavalise koduarvuti asendajaga; toite-, jahutus-, müra- ja haldusnõuded tuleb hinnata enne soetamist.

ExpertCenter Pro ET900N G3 - 1

Suure mälumahu tõttu on ET900N G3 suunatud eelkõige AI-arendusele, keerukamate keelemudelite inferentsile, multimodaalsetele rakendustele, teadustööle ning ettevõtete sisemiste AI-teenuste pakkumisele. Kui aga kasutus piirdub mõne väiksema keelemudeli ja üksikute päringutega, oleks sellise klassi süsteemi potentsiaal suuresti kasutamata.

ASUS Zenni AI Hub

Riistvara ei lahenda mudelite haldamist

Mälu ja arvutusvõimsus võimaldavad mudelit käivitada, kuid organisatsiooni jaoks ei lõpe töö seal. Eri mudelite versioonid vajavad haldamist, kasutajad ühendusliidest, dokumendid indekseerimist ning AI-agentide tegevused õiguste ja töövoogude kontrolli. ASUS pakub ET900N G3 juurde Zenni AI Hub platvormi, mille eesmärk on tuua need komponendid ühtsesse halduskeskkonda. Tootja kirjeldab mudelite juurutamist, päringute suunamist ülesandele sobivale mudelile, API-ühendusi, ressursikasutuse jälgimist, GPU MIG-jaotuse haldamist ja mitme süsteemi ühendamist ühisesse keskkonda.

Üks olulisemaid kasutusvõimalusi on RAG (Retrieval-Augmented Generation), kus keelemudelile antakse vastuse koostamiseks täiendavat teavet organisatsiooni dokumentidest või andmeallikatest. See ei tähenda, et mudel oleks dokumentide põhjal ümber treenitud: päringu ajal otsitakse asjakohased lõigud ja lisatakse need mudeli konteksti. Hästi üles ehitatud RAG-lahendus võib aidata vähendada olukordi, kus mudel vastab üldteadmiste põhjal, kuid tulemuse kvaliteet sõltub siiski indekseerimisest, allikate valikust ja ligipääsuõigustest.

ASUS Zenni AI Hub

Zenni AI Hubi teine suund on mitme AI-agendi koostöö. Tavaline vestlusmudel vastab kasutaja päringule, agentne töövoog võib aga jagada ülesande etappideks: üks komponent otsib teavet, teine töötleb dokumenti ning kolmas koostab kokkuvõtte või käivitab lubatud tööriista. ASUS kirjeldab võimalust ühendada ja hallata eri agente ühes portaalis. Praktilises kasutuses tuleb sellistele lahendustele seada selged õigused ning eristada automaatselt tehtavad tegevused neist, mille jaoks on vaja inimese kinnitust. Kohalik käitamine iseenesest ei muuda agenti turvaliseks.

Zenni AI Hubi ja ET900N G3 kombinatsioon on seega suunatud rohkemale kui ühe keelemudeli käivitamisele: eesmärk on pakkuda hallatavat kohalikku AI-platvormi, mille kaudu saavad eri rakendused ja töötajad kasutada organisatsioonile sobivaid mudeleid ja teadmisteallikaid. Tootja funktsioonikirjeldus ei asenda siiski sõltumatut tarkvaratesti, eriti kui hindamise all on ligipääsuõigused, skaleeruvus või integratsioonid olemasolevate süsteemidega.

Kohalik, pilvepõhine või hübriidne AI?

Kohaliku AI eelis on kontroll selle üle, kus mudel töötab ja kus tema kasutatavad andmed asuvad. See võib olla eriti oluline ettevõtte sisekasutuses, uurimistöös või tundlike dokumentide töötlemisel. Lisaks võib pideva ja piisavalt suure kasutuskoormuse korral väheneda sõltuvus pilveteenuse päringupõhisest hinnastamisest. Samal ajal ei kao kohapeal töötades kulud: arvestada tuleb riistvara soetamise, elektri, jahutuse, tarkvarauuenduste, turvameetmete ja haldusajaga. Jõude seisev kallis tööjaam ei pruugi olla ökonoomsem kui vajaduspõhine pilveteenus.

Paljude organisatsioonide jaoks on mõistlik hübriidne lähenemine: korduvad, väiksemad või andmetundlikud ülesanded täidetakse kohalikus taristus, harva vajaminevate suuremate mudelite puhul kasutatakse aga pilve. Samuti tasub eristada mudeli käivitamise, selle peenhäälestamise ja algusest treenimise vajadusi, sest need nõuavad väga erinevat riistvara. Valiku tegemisel annavad kõige rohkem teavet just oma kasutusjuhtumil mõõdetud vastamiskiirus, samaaegsete päringute taluvus, mälukasutus ja kogu lahenduse ülalpidamiskulu.

Kokkuvõte

ASUS Agent Computer ei tähista ühte kindlat arvutimudelit, vaid kohaliku tehisintellekti jaoks mõeldud riistvaravalikut. Isiklikuks kasutuseks võib piisata 16 GB videomäluga GeForce RTX või Radeon graafikakaardist; arendustöös annab suurema vabaduse 32 GB GPU või suure ühismäluga kompaktne seade; mitme kasutaja ja suuremate mudelite puhul muutuvad asjakohaseks professionaalsed tööjaamad. ExpertCenter Pro ET900N G3 viib selle lähenemise teise suurusjärku, ühendades NVIDIA GB300 platvormi, 748 GB sidusmälu ning ettevõtte AI-töövoogude jaoks mõeldud tarkvarakeskkonna. Zenni AI Hub täiendab riistvara mudelite, teadmisteallikate ja agentide haldamise võimalustega, kuid tegelik sobivus sõltub organisatsiooni töökoormusest ja turvanõuetest.

ASUSe riistvarasoovituste, platvormide ja kasutusstsenaariumidega saab tutvuda ASUS Agent Computer ametlikul lehel. Lisainfo ET900N G3 kohta on tootelehel ning ettevõtted saavad soovi korral taotleda müügieelset konsultatsiooni.

Sarnased postitused

IMG_20221227_112918

ASUS WiFi 6 ruuterid

Tegemist on sponsoreeritud teosega, kus heidame pilgu peale viiele erinevale ASUS WiFi 6 ruuterile. Ruuterid katavad ära erinevad hinna- ja võimsusklassid, lisaks on välja toodud tootete puhul ilmnevad positiivsed ja negatiivsed küljed.

Avaldatud: 25.12.20225 min lugemist

Autoriõigus 2026 Lab. Kõik õigused kaitstud.