„Raspberry Pi“ ir „Edge“ dirbtinis intelektas: inovatyvių projektų įgalinimas naudojant dirbtinį intelektą „HAT+ 2“

aviečių pi dirbtinis intelektas
  • „Raspberry Pi AI HAT+ 2“ suteikia „Raspberry Pi 5“ galingą generatyvinį dirbtinį intelektą su vietiniu, privačiu apdorojimu.
  • Projekto akcentai rodo realų, praktinį pritaikymą – kompiuterinę regą, teisės magistro studijas (LLM), vertimą ir kt., visa tai veikia neprisijungus.
  • „AI Kit“ ekosistema palaiko paprastą modelių diegimą, pritaikytą mokymą ir sklandų kamerų integravimą kūrėjams ir specialistams.

Visame pasaulyje kūrybinėse erdvėse, klasėse ir namų laboratorijose vyksta kažkas neįtikėtino – dirbtinis intelektas oficialiai atkeliavo į „Raspberry Pi“ ir keičia mūsų sąveikos su technologijomis periferijoje būdą. Vos prieš kelerius metus atlikti ką nors daugiau nei kuklų kompiuterinės regos ar mašininio mokymosi darbo krūvį mažyčiuose, įperkamuose kompiuteriuose, tokiuose kaip „Raspberry Pi“, atrodė beveik neįmanoma. Tačiau neseniai mažos galios neuroninių greitintuvų ir specialios dirbtinio intelekto įrangos serija paruošė dirvą naujai tikro, vietinio dirbtinio intelekto apdorojimo erai – jokių debesies prenumeratų, jokių privatumo problemų ir jokių didelių sąskaitų už elektrą.

Jei kada nors norėjote pasinerti į dirbtinį intelektą tiesiai iš savo darbo stalo, išmokyti savo „Pi“ matyti ar net sukurti savo pokalbių robotą, nepasikliaujant „OpenAI“ ar debesijos gigantais, naujausios kartos oficiali aparatinė įranga ir atviri projektai tai palengvina nei bet kada anksčiau. Šioje išsamioje apžvalgoje aptarsime, ką siūlo „Raspberry Pi AI HAT+ 2“ (ir kaip jis lyginasi su savo pirmtaku), išnagrinėsime išskirtinius projektus ir naudojimo atvejus, kuriuos įgalina šie galingi priedai, ir papasakosime apie besivystančią „Raspberry Pi AI Kit“ ekosistemą.

Evoliucija: nuo „Edge Vision“ iki generatyvinio dirbtinio intelekto „Raspberry Pi“ kompiuteryje

„Raspberry Pi“ platforma pirmiausia pakeitė sistemą, pristatydama originalų AI HAT+, sujungdama „Hailo-8“ neuroninio tinklo greitintuvus, skirtus „Pi 5“, su 13 arba 26 TOPS specialios DI galios. Šios plokštės pagerino klasikines kompiuterinio matymo užduotis – objektų aptikimą, pozos įvertinimą ir scenos segmentavimą – tuo pačiu išlaikant visus duomenis ir apdorojimą vietoje, kad būtų užtikrintas maksimalus privatumas ir kontrolė.

Kuo DI HAT+ išsiskyrė? Nereikia debesies, galima atlikti tikrą vietinį išvadų darymą ir sklandų sudėtingų regėjimo modelių apdorojimą – tokioms užduotims kaip apsaugos kamerų darbas, robotika ar vaizdo automatizavimas tai buvo didžiulis šuolis į priekį už mažą kainą. „Vibe“ kodavimo metodai yra labai svarbūs kuriant šias reaguojančias DI sistemas „Raspberry Pi“ platformoje.

Tačiau generatyvinio dirbtinio intelekto modeliams išpopuliarėjus (pvz., „ChatGPT“, stabili difuzija vaizdams), tapo aišku, kad vien regėjimu pagrįsto spartinimo nepakanka. Tai paskatino sukurti visiškai naują „Raspberry Pi AI HAT+ 2 “ – priedą, specialiai sukurtą tam, kad „Raspberry Pi 5“ būtų galima naudoti realaus laiko generatyvinį dirbtinį intelektą, pakeliant jo kūrybinį ir problemų sprendimo potencialą į naujas aukštumas.

Pristatome „Raspberry Pi AI HAT+ 2“: svarbiausios aparatinės įrangos savybės

„AI HAT+ 2“ sukurtas naudojant naujausią „Hailo“ lustą – „Hailo-10H“ neuroninį greitintuvą, galintį pasiekti stulbinamą 40 TOPS (INT4) našumą – to pakanka, kad vietoje būtų galima vykdyti didelius kalbos modelius, regėjimo kalbos modelius ir pažangius generatyvinius dirbtinio intelekto darbo eigą. Ši nauja plokštė turi 8 GB specialios integruotos RAM – tai svarbus atnaujinimas, leidžiantis tvarkyti daug didesnius dirbtinio intelekto modelius nei anksčiau . Viskas veikia per greitą „Raspberry Pi 5“ PCI Express sąsają, o suderinamumas su „Pi“ kamerų paketu („libcamera“, „Picamera2“) yra visiškai integruotas.

  • Dėl papildomos operatyviosios atminties ir patobulinimų aparatinės įrangos konstrukcijoje galite tikėtis panašaus (jei ne šiek tiek geresnio) regėjimo modelio našumo, palyginti su 26 TOPS HAT+.
  • Visas dirbtinio intelekto apdorojimas vyksta lokaliai –nereikia tinklo ar išorinių GPU / debesies jungčių, todėl jūsų duomenys išlieka privatūs, o delsa – minimali.
  • Tiems, kurie jau naudoja dirbtinį intelektą „HAT+“, perėjimas vyksta sklandžiai: programinės įrangos paketai yra suderinami su atgaline versija, tad perėjimas prie HAT+ 2 yra neskausmingas.

Su nauja architektūra atsiveria durys LLM, VLM, kodo generavimui, vertimui iš skirtingų kalbų ir pažangioms regėjimo pagrindu veikiančioms programoms – visoms jos veikia neprisijungus prie tinklo periferijoje . Jei norite suprasti ryšį tarp dirbtinio intelekto aparatinės ir programinės įrangos optimizavimo, Claude'o Coworko principų nagrinėjimas gali suteikti tam tikrų įžvalgų.

Viskas, ką galite padaryti: generatyvinis dirbtinis intelektas ir realūs taikymai

Taigi, kokią magiją iš tikrųjų galima pasiekti su šiuo deriniu? Skirtingai nuo ankstesnės įrangos, „HAT+ 2“ leidžia paleisti sudėtingus didelius kalbų modelius (LLM), tokius kaip „Qwen2“, „Qwen2.5-Coder“ ir kitus – iš karto, nereikalaujant perduoti klausimų debesies API. Atviros „WebUI“ pagrindu sukurtos naršyklės sąsajos leidžia ne tik įjungti vietinius pokalbius ir kodo generavimą, bet ir yra patogios naudoti.

TAIP PAT ŽR  Kaip veikia „ChatGPT“: išsamus funkcijų, naudojimo ir realių programų vadovas

Programuotojams ir dirbtinio intelekto specialistams „Hailo-ollama LLM“ posistemė leidžia lengvai prijungti įvairius modelius prie saugios pokalbių sąsajos arba kurti platformos pagrindu . Komandos ir mėgėjai jau pademonstravo:

  • Bendri klausimai ir atsakymai su vietos teisės magistro asistentais – užduokite klausimus, kurkite idėjas, apibendrinkite – visa tai veikia tiesiogiai jūsų „Pi 5“.
  • Automatizuotas kodo rašymas – kodavimo palaikymui naudokite specialiai pritaikytus kodo modelius, tokius kaip „Qwen2.5-Coder“.
  • Kalbos vertimas – atlikite tokius veiksmus kaip vertimas iš prancūzų į anglų kalbą realiuoju laiku be jokių išorinių serverių.
  • Scenos aprašymas – sujunkite vaizdą ir kalbą, leisdami „Pi 5“ „apibūdinti“ tai, kas matoma iš kameros, visa tai atliekant lokaliai per VLM.

„HAT+ 2“ modeliai yra kuklesni (1–7B parametrų diapazone), palyginti su debesijos gigantais, tokiais kaip „ChatGPT“ ar „Meta Llama“, tačiau to dažnai pakanka daugeliui naudojimo atvejų. Daugelis kūrėjų ir išmaniųjų įrenginių gali sukurti naudingus, specializuotus įrankius, o modelius galima dar labiau patobulinti juos tiksliai derinant.

Savo paties dirbtinio intelekto koregavimas, suasmeninimas ir mokymas

Vienas įdomiausių DI HAT+ 2 aspektų yra paprastas pritaikymas ir tikslus derinimas prie unikalių poreikių . Vartotojai gali iš naujo apmokyti regėjimo modelius (pvz., YOLO pasirinktinėms objektų aptikimo užduotims) arba pritaikyti žemo rango adaptaciją (LoRA) teksto modeliams, skirtus konkrečiam darbui skirtoms kalbos priemonėms, tuo pačiu metu dauguma modelio parametrų išliks nepakitę, kad būtų užtikrintas efektyvumas.

„ Hailo “ kūrėjų zona ir jų „GitHub“ teikia adapterius, sistemas ir vadovus, padedančius pritaikyti regėjimą, vertimą, kalbos atpažinimą ir kt . Kiekvienas, besidomintis giliu dirbtinio intelekto suasmeninimu, dabar turi įrankių rinkinį, leidžiantį tai įgyvendinti naudojant prieinamą įrangą.

Kas yra dėžutėje? AI HAT+ 2 funkcijos ir sąranka

Kiekvienas AI HAT+ 2 yra paruoštas tiesioginiam prijungimui prie jūsų „Raspberry Pi 5“, įskaitant:

  • Hailo-10H neuroninis greitintuvas – 40 TOPS INT4 išvadų – novatoriška formato savybė.
  • 8 GB integruota RAM – leidžia naudoti daug didesnius modelius ir sklandžiau atlikti kelias užduotis vienu metu.
  • Sklandus kameros integravimas – veikia tiesiogiai su „rpicam-apps“ ir „Raspberry Pi“ kamerų paketu.
  • paprastas montavimas – apima sujungimo antgalį, tarpiklius, varžtus ir pasirenkamą radiatorių – sukurta lengvam „pasidaryk pats“ surinkimui.
  • Pradedančiųjų rinkiniai prieinami – komplekte su „Pi 5“, 3 kameros moduliu, tvirtu dėklu, puikiai tinkančiu iš karto pradėti projektus.

Viskas suderinama su standartine „Raspberry Pi“ OS (visiškai atnaujinta), o dirbtinio intelekto užduotys automatiškai pasiekiamos, kai aptinkamas HAT. Jokių didelių tvarkyklių problemų ar branduolio nulaužimų – tiesiog prijunkite, įdiekite palaikomus modelius ir pradėkite kurti.

Realūs projektai: kaip maksimaliai išnaudoti dirbtinį intelektą „Raspberry Pi“

„AI Kit“ patirtis nėra vien teorinė – ji jau skatina išradingus projektus visame pasaulyje. Kūrybingos „Raspberry Pi“ ir „MagPi“ bendruomenės pristatė praktinių programų portfelį, kad pademonstruotų, kas įmanoma, pridėjus vietinį DI:

Peeper Pam Boss detektorius

Šis projektas – tai išradingas požiūris į sąmoningumą darbo vietoje. Jis naudoja dirbtinio intelekto rinkinį ir kameros modulį, kad aptiktų, ar kas nors (pvz., jūsų viršininkas!) sėlina jums iš paskos . „Pi 5“ apdoroja tiesioginį vaizdo įrašą, aptinka žmonių figūras ir belaidžiu būdu įspėja nuotolinį „Pico W“ mikrovaldiklį, kuris gali rodyti tikslumą voltmetro ekrane. Modulinis kodas, lizdai mažos delsos ryšiui ir atviras naudojimas – tiesiog keiskite modelius skirtingoms aptikimo užduotims, pvz., naminių gyvūnėlių stebėjimui ar laukinių gyvūnų paieškai.

„Monster AI Pi“ kompiuteris

Kūrėjas Jeffas Geerlingas sukūrė tikrą žvėrį, sujungdamas aštuonis neuroninius procesorius per pasirinktinį PCIe komutatorių. Turėdamas 55 TOPS keliuose NPU ir dirbtinio intelekto rinkinio sukurtą „Hailo-8L“ procesorių, šis „super Pi“ demonstravo lygiagretų dirbtinio intelekto veikimą, prilygstantį kai kuriems stalinių kompiuterių lustams. Ne visai skirtas silpnų nervų ar vidutiniams vartotojams, bet tai neįtikėtinas dirbtinio intelekto HAT+ sistemos lankstumo ir galimybių įrodymas.

TAIP PAT ŽR  Kas yra ESP32-CAM? Išsamus universalios kameros plokštės vadovas

Automobilių aptikimas ir sekimas mokesčių rinkimo vietose

Šiame praktiniame projekte dirbtinio intelekto rinkiniu paremta kompiuterinė rega taikoma automatizuotam transporto priemonių skaičiavimui ir rinkliavų valdymui . Naudodama plataus objektyvo kamerą, apmokytą YOLOv5 modelį ir „Edge Impulse“, sistema tiksliai suskaičiuoja automobilius, važiuojančius keliomis eismo juostomis. Šį metodą galima lengvai išplėsti į parkavimo valdymą, apsaugą ir miesto infrastruktūros stebėjimą.

Apsauginių šalmų aptikimo sistema

Ši kompiuterinio matymo sistema užtikrina realaus laiko (30 kadrų per sekundę) apsauginių šalmų aptikimą naudojant YOLOv8 modelį , o visa tai efektyviai veikia viename „Pi 5“ su dirbtinio intelekto rinkiniu. Gamintojams pateikiami išsamūs diegimo ir mokymo vadovai, taip pat 5,000 vaizdų anotacijų duomenų rinkinys su šalmais, žmonėmis ir galvomis – tai labai svarbu darbo vietos saugos atitikčiai ir automatizuotiems vykdymo užtikrinimo procesams.

„Google MediaPipe“ spartinimas „Raspberry Pi“ sistemoje

Mario Bergeronas perkėlė populiarius rankų, veido ir pozos aptikimo „MediaPipe“ modelius, atlikdamas ženkliai pagerėjusio išvadų darymo greičio palyginamąją analizę naudodamas dirbtinio intelekto greitintuvą „Hailo-8L“. Turėdamas iki 5.8 karto greitesnį našumą nei paprasti „Raspberry Pi 5 TensorFlow Lite“ modeliai, jis atveria duris reaguojančioms gestų sąsajoms, pritaikymo neįgaliesiems įrankiams ir stebėjimui įrenginyje.

Ką sako bendruomenė: Atsiliepimai iš realaus pasaulio

Jei dažnai lankotės forumuose ar „Reddit“, pastebėsite nuolat vykstančias diskusijas apie „Raspberry Pi AI HAT+ 2“ kainos ir kokybės santykį bei našumą, palyginti su mažais kompiuteriais ar naudotais verslo mini kompiuteriais su kukliomis vaizdo plokštėmis . Kai kurie vartotojai pabrėžia konkurencingą kainą ir mažas energijos sąnaudas (110–130 USD už „Pi 5“ su „HAT+ 2“), o kiti atkreipia dėmesį į aparatinės įrangos apribojimus (nėra viso dydžio vaizdo plokštės, PCIe juostos pralaidumo stokos), kai kalbama apie labai didelius modelius arba didelį lygiagretumą.

Standartiniams kūrėjų poreikiams – pokalbių robotams, mažiems teisės magistro (LLM) specialistams, vaizdų generavimui tinklaraščio įrašams, realaus laiko kameros nustatymui – „AI HAT+ 2“ išsiskiria kaip prieinamas ir patikimas sprendimas, leidžiantis išvengti tradicinės kompiuterinės įrangos ir operacinės sistemos palaikymo išlaidų ir komplikacijų. Entuziastai visada gali rinktis didesnį, kad būtų galingesnis, tačiau įterptųjų dirbtinių intelektų ir periferinių kompiuterių srityje šį požiūrį sunku prilygti.

Darbo pradžia: programinės įrangos, OS ir modelių palaikymas

Vienas iš dalykų, į kurį „Raspberry Pi“ komanda sutelkė dėmesį, yra tai, kad dirbtinis intelektas būtų prieinamas tiek naujokams, tiek ekspertams . Naudojant naujausią „Raspberry Pi“ OS, „HAT+ 2“ yra automatiškai aptinkamas ir iš karto tampa prieinamas užduotims atlikti. Kameros ekosistema yra integruota iš anksto – jūsų „Pi“ gali sklandžiai naudoti dirbtinio intelekto greitintuvą vaizdo įrašų apdorojimo, robotikos ar išmaniųjų saugumo sistemų poapdorojimui.

Neapsiribojate vien integruotais modeliais – „Hailo“ palaiko gerai aprūpintą „GitHub“ saugyklą su pavyzdiniais modeliais, oficialiomis programomis ir duomenų srautų kompiliatoriumi, skirtu pritaikyti programas . Nesvarbu, ar jūsų tikslas yra kalbos pavertimas tekstu, kalbos vertimas, ar vaizdinių scenų supratimas, yra aiškus kelias, kaip apimties nustatymo ir mokymo modelius pritaikyti prie didelės 8 GB atminties aparatinėje įrangoje.

[susijęs URL =”https://www.ikkaro.net/what-is-claude-science/”]

Prieinamumas, rinkiniai ir palaikymas gamintojams

Kadangi aparatinė įranga ir toliau sulaukia didžiulės paklausos (oficialūs tiekėjai turės pateikti užsakymą greitai), siūlomi rinkiniai, kuriuose yra „Pi 5“ (8 GB), dirbtinio intelekto „HAT+ 2“, kameros modulis 3 ir aukštos kokybės korpusas, užtikrinantis vėsumą ir tvarką. „HAT+ 2“ sukurtas veikti su „Raspberry Pi“ aktyviuoju aušintuvu ir turi papildomus radiatorius, todėl ilgų bandymų metu nerizikuosite perkaisti.

Visa dokumentacija, nuoseklūs vadovai, modelių atsisiuntimai ir diskusijų forumai pasiekiami oficialioje „Raspberry Pi“ svetainėje, žurnale „MagPi“ ir „Hailo“ kūrėjų zonoje . Augantis projektų ir pamokų skaičius užtikrina, kad visada turėsite įkvėpimo ir bendruomenės palaikymo, nesvarbu, koks jūsų įgūdžių lygis.

Kadangi periferinis dirbtinis intelektas tampa būtinu „pasidaryk pats“ technologijų, išmaniųjų namų automatizavimo ir švietimo inovacijų elementu, „Raspberry Pi AI Kit“ ekosistema kuria nišą prieinamam, saugiam ir prieinamam mašininiam mokymuisi periferijoje. Nesvarbu, ar kuriate savo dirbtiniu intelektu valdomus jutiklius, pokalbių robotus ar kamerų sistemas, ar tiesiog eksperimentuojate su rytojaus technologijomis šiandien, ši nauja aparatinės ir programinės įrangos banga suteikia pažangiausius įrankius prieinamus visiems kūrėjams ir besimokantiesiems.

Palikite komentarą