Hugging Face ir pilnībā pārveidojis savu Kernels projektu, ieviešot jaunu repozitoriju tipu un uzlabotu drošību ar kodu parakstīšanu. Šīs izmaiņas atvieglo pielāgotu GPU aprēķinu kodolu izmantošanu, vienlaikus aizsargājot lietotājus no kaitīga koda izpildes.
Hugging Face platformā ir ieviests jauns repozitoriju veids, kas paredzēts tieši mašīnmācīšanās aprēķinu kodoliem. Šī pāreja palīdz standartizēt to, kā pielāgotais aparatūras kods tiek iepakots, izplatīts un izmantots dažādās sistēmās. Lietotāji tagad var uzreiz redzēt, kuras operētājsistēmas, dzinēji un grafiskie paātrinātāji ir saderīgi ar konkrēto pakotni.
Kas ir mašīnmācīšanās kodoli
Pielāgots mašīnmācīšanās kodols ir specializēta programmatūras daļa, kas uzrakstīta zemā līmenī, lai maksimāli efektīvi izmantotu GPU vai citu specializēto mikroshēmu resursus. Standarta bibliotēkas ne vienmēr spēj nodrošināt maksimālu ātrumu specifiskām darbībām, tāpēc izstrādātāji rada savus kodolus, lai apietu šos ierobežojumus.
Līdzīgi kā tīmekļa izstrādē uzņēmumi var ātri pārbaudīt vietnes ielādes ātrumu un tehnisko veiktspēju, arī mākslīgā intelekta infrastruktūrā katra milisekunde ir svarīga. Tādēļ optimizēti GPU kodi kļūst par svarīgu konkurētspējas priekšrocību.
Jauns drošības līmenis ar uzticamiem izdevējiem
Lai pasargātu lietotājus no potenciāliem uzbrukumiem, projektā ir ieviesta uzticamu izdevēju (trusted publishers) sistēma. Pēc noklusējuma Hugging Face Kernels bibliotēka tagad ielādēs tikai tos kodolus, kurus publicējušas kopienas pārbaudītas organizācijas.
Ja vēlaties izmantot nepārbaudīta autora izveidotu kodu, izstrādes vidē būs skaidri jānorāda apstiprinājums, izmantojot drošības parametru:
from kernels import get_kernel
kernel_module = get_kernel(
"Atlas-Inference/gdn", version=1, trust_remote_code=True
)Papildu drošībai tiek ieviesta kodu parakstīšana, izmantojot Sigstore cosign tehnoloģiju. Šis process pasargā sistēmas no situācijām, kad uzticama izstrādātāja profils tiek uzlauzts un tā vārdā tiek augšupielādēts viltots, kaitīgs kods.
Plašāks ietvaru atbalsts un komandrindas rīki
Sistēmas arhitektūra ir sadalīta divās atsevišķās daļās. Bibliotēka "kernels" tagad nodrošina tikai koda ielādi un sagatavošanu, kamēr "kernel-builder" nodarbojas ar koda kompilēšanu. Tas padara abus rīkus vieglākus un vieglāk integrējamus.
Tehnoloģiju saderības ziņā ir pievienots atbalsts Torch Stable ABI. Tas garantē, ka izveidotais kodols darbosies ar pašreizējo PyTorch versiju un visām versijām, kas iznāks tuvāko divu gadu laikā. Tāpat ir pievienots Apache TVM FFI atbalsts, kas ļauj veidot kodolus, kuri spēj sadarboties ar dažādiem ietvariem, tostarp PyTorch, JAX un CuPy.
| Funkcija | Iepriekšējā pieeja | Jaunais Kernels modelis |
|---|---|---|
| Repozitorija veids Hubā | Parasti faili standarta repozitorijā | Specializēts "kernel" repozitorija tips |
| Noklusējuma drošība | Nav ierobežojumu koda izpildei | Ielādē tikai uzticamu izdevēju kodolus |
| Kodu parakstīšana | Netika atbalstīta | Sigstore cosign integrācija un parakstu pārbaude |
| Atbalstītie ietvari | Tikai PyTorch specifiski risinājumi | Atbalsts Torch Stable ABI un Apache TVM FFI |
Pamats automatizētai koda izstrādei
Jaunā struktūra ir veidota tā, lai atvieglotu autonomu aģentu darbu. Mākslīgā intelekta aģenti var patstāvīgi mēģināt optimizēt kodolus, tos testēt un uzstādīt. Tā kā rīku izvades dati ir viegli nolasāmi programmatiski, aģenti var vieglāk orientēties kompilācijas procesos un veiktspējas mērījumos dažādās aparatūrās.
Sīkāku tehnisko informāciju par šo atjauninājumu var izpētīt Hugging Face publicētajā oficiālajā emuārā.
Biežāk uzdotie jautājumi (FAQ)
Kas ir Hugging Face Kernels jaunais repozitorija tips?
Tas ir specializēts repozitorija veids, kas ļauj izstrādātājiem ērti pārskatīt, kādi grafiskie paātrinātāji, operētājsistēmas un programmatūras versijas ir saderīgas ar konkrēto skaitļošanas kodolu.
Kāpēc nepārbaudīti kodoli pēc noklusējuma tiek bloķēti?
Tā kā kodoli darbojas ar tādām pašām privilēģijām kā jūsu Python programma, ļaunprātīgs kods var piekļūt servera datiem vai tos sabojāt. Tāpēc drošības nolūkos tiek ielādēti tikai uzticamu izdevēju materiāli, ja vien lietotājs pats neiespējo piekļuvi ar trust_remote_code parametru.
Ko maina Torch Stable ABI atbalsts?
Tas ļauj izstrādātājiem veidot kodolus, kas darbosies ar pašreizējo PyTorch versiju un visām jaunākajām versijām aptuveni divu gadu periodā bez nepieciešamības katru reizi kodu pārrakstīt vai pārkompilēt no jauna.
