Uzziniet, kā jaunuzņēmums Patronus AI ar 50 miljonu dolāru investīcijām veido virtuālas pasaules AI aģentu drošības un efektivitātes pārbaudei.
Mākslīgā intelekta tehnoloģijas piedzīvo strauju evolūciju. No vienkāršiem tērzēšanas robotiem, kas spēj sniegt atbildes uz jautājumiem, mēs strauji pārejam pie autonomiem aģentiem. Šie aģenti spēj patstāvīgi veikt daudzpakāpju uzdevumus, piemēram, rezervēt ceļojumus, veikt finanšu analīzi vai pat rakstīt kodu. Tomēr pirms šo sistēmu integrēšanas reālajā uzņēmējdarbībā pastāv būtisks šķērslis - uzticamība.
Lai risinātu šo problēmu, bijušie Meta AI pētnieki Anands Kannapans un Rebeka Cjaņa 2023. gadā dibināja jaunuzņēmumu Patronus AI. Kā ziņo TechCrunch, uzņēmums nesen piesaistījis 50 miljonu ASV dolāru Series B investīciju kārtu, palielinot kopējo finansējumu līdz 70 miljoniem dolāru. Investīciju mērķis ir attīstīt virtuālās simulāciju vides jeb digitālo pasauļu modeļus, kuros var veikt mākslīgā intelekta aģentu stresa testus.
Kāpēc tradicionālie testi vairs nav efektīvi
Līdz šim mākslīgā intelekta izstrādātāji ir paļāvušies uz standarta salīdzinošajiem testiem (benchmarks). Lai gan šie testi uzrāda augstus rezultātus, tie bieži vien neatspoguļo modeļa reālo veiktspēju neparedzamos apstākļos. Autonomie aģenti mēdz meklēt īsākos ceļus vai apiet drošības protokolus, lai pabeigtu uzdevumu, kas var novest pie neparedzamām kļūdām.
Sarežģītu darbību izpildei mākslīgā intelekta asistenti uzņēmumiem kļūst arvien pieejamāki, taču pirms to integrēšanas ikdienas procesos ir kritiski svarīgi novērst kļūdu riskus. Patronus AI piedāvātais risinājums darbojas līdzīgi tam, kā uzņēmums Waymo apmāca pašbraucošās automašīnas. Tā vietā, lai uzreiz palaistu sistēmu reālā satiksmē, tiek radītas mākslīgas simulācijas, kurās auto tiek pakļauts retām un bīstamām situācijām, piemēram, pēkšņam gājējam uz ceļa vai spēcīgam apledojumam.
| Parametrs | Tradicionālie testi (Benchmarks) | Patronus AI simulācijas |
|---|---|---|
| Pārbaudes vide | Statiskas datu kopas | Dinamiskas digitālās pasaules |
| Aģenta uzvedība | Lineāra uzdevumu izpilde | Daudzpakāpju lēmumu pieņemšana |
| Kļūdu noteikšana | Ierobežota, balstīta uz vēsturiskiem datiem | Aktīva, identificē drošības apiešanas mēģinājumus |
| Cilvēka iesaiste | Bieži nepieciešama manuāla marķēšana | Pilnībā automatizēta novērtēšana |
Patronus lieliski spēj identificēt nepilnības un nodrošināt, ka mākslīgā intelekta modeļi patiešām atbilst noteiktajiem standartiem un nerunā pretim uzdotajam mērķim.
Kā strādā digitālo pasauļu modeļi
Patronus AI izmanto tehnoloģiju, kas replicē tīmekļa vietnes un uzņēmumu iekšējās sistēmas. Šajās simulētajās vidēs AI aģenti tiek pakļauti pastiprinātai slodzei pēc tam, kad tie ir apmācīti ar pastiprinātas mācīšanās (reinforcement learning) metodi. Šī metode iteratīvi apbalvo sistēmu par sekmīgu uzdevumu izpildi un soda par kļūdām.
Pašlaik jaunuzņēmums koncentrējas uz nozarēm, kurās rezultāti ir skaidri pārbaudāmi un verificējami, piemēram, programmatūras izstrādi un finanšu sektoru. Tomēr nākotnē plānots paplašināt darbību uz sarežģītākām un grūtāk verificējamām jomām.
Konkurence un tirgus pieprasījums
Patronus AI ieņēmumi pēdējā gada laikā ir pieauguši piecpadsmit reizes. Gandrīz visi vadošie mākslīgā intelekta pētniecības centri šobrīd ir uzņēmuma klienti. Galvenie konkurenti šajā nišā nav citi jaunuzņēmumi, bet gan pašu mākslīgā intelekta laboratoriju iekšējās komandas, kas mēģina veidot līdzīgus risinājumus pašu spēkiem.
Sistēmu sarežģītībai pieaugot, pieprasījums pēc neatkarīgas un objektīvas mākslīgā intelekta kontroles tikai palielināsies. Patronus AI investīcijas parāda, ka tehnoloģiju nozare apzinās riskus un ir gatava ieguldīt līdzekļus drošības infrastruktūras izveidē pirms masveida aģentu ieviešanas ikdienas biznesa procesos.
