Pētniekiem pirmo reizi vēsturē ir izdevies detalizēti kartēt miljoniem jēdzienu liela mēroga mākslīgā intelekta modeļa iekšienē, sniedzot iespēju kontrolēt un novērst nevēlamu AI uzvedību tieši tā neironu līmenī.
Mākslīgā intelekta izstrādātāji gadiem ilgi ir saskārušies ar nopietnu problēmu: lielie valodas modeļi darbojas kā necaurredzamas sistēmas. Inženieri zina, kādus datus ievadīt un kādu rezultātu iegūt, taču precīzs ceļš, kā neironu tīkls nonāk līdz konkrētajam secinājumam, palika apslēpts. Uzņēmums Anthropic ir publicējis pētījumu, kas šo situāciju maina no pamatiem.
Kas ir neironu tīklu interpretējamība un kāpēc tā satrauc pētniekus
Mākslīgā intelekta interpretējamība ir zinātnes nozare, kas pēta neironu tīklu iekšējos lēmumu pieņemšanas procesus. Līdz šim lielo modeļu neironi tika uzskatīti par polifunkcionāliem - viens un tas pats neirons varēja aktivizēties gan pie sarunas par programmēšanu, gan lasot dzeju vai analizējot finanšu pārskatus. Šo parādību zinātnieki dēvē par superpozīciju.
Superpozīcijas dēļ nav iespējams vienkārši izslēgt vai mainīt atsevišķu neironu darbību, neizjaucot visu sistēmu. Kā ziņo pētījuma autori un analītiķi, kuru atziņas var dzirdēt arī vizuālajā materiālā par šo tēmu, Anthropic komandai izdevās pielietot metodi, ko sauc par vārdnīcu mācīšanos (dictionary learning). Šī metode ļauj sadalīt sarežģītos neironu aktivizācijas modeļus atsevišķos, saprotamos jēdzienos.
Mēs vairs neskatāmies uz haotiskiem skaitļu masīviem. Mēs redzam reālu jēdzienu karti, ko modelis izmanto domāšanai.
Kā Anthropic atrada to, kam teorētiski nevajadzēja eksistēt
Izmantojot Claude 3 Sonnet modeli, pētnieki izolēja aptuveni desmit miljonus dažādu pazīmju (features). Šīs pazīmes ietver plašu spektru - no konkrētiem ģeogrāfiskiem objektiem, piemēram, Sanfrancisko Zelta vārtu tilta, līdz abstraktākiem jēdzieniem, kā programmēšanas kļūdas, dzimumu līdztiesība un pat viltus ziņas vai slepenu datu glabāšana.
Pārsteidzošākais atklājums bija tas, ka šīs pazīmes ir iespējams ne tikai novērot, bet arī fiziski manipulēt. Mākslīgi pastiprinot tieši Zelta vārtu tilta pazīmi, Claude modelis savās atbildēs sāka pieminēt šo objektu pat tad, kad tam tika jautāts par vienkāršām ikdienas tēmām. Šāda tieša iejaukšanās modeļa vērtībās un uzskatos pierāda, ka sistēmas uzvedību var koriģēt pašā pamatā.
| Parametrs | Tradicionālā pieeja (Melnā kaste) | Jaunā Anthropic interpretējamības metode |
|---|---|---|
| Sistēmas caurredzamība | Zema. Lēmumi tiek pieņemti slēptā neironu tīklā. | Augsta. Var redzēt konkrētas pazīmes un jēdzienus. |
| Drošības kontrole | Reaktīva. Modeļa uzvedību mēģina ierobežot ar instrukcijām. | Proaktīva. Nevēlamus jēdzienus var atrast un izslēgt sistēmas kodolā. |
| Manipulācijas iespējas | Nav iespējama tieša ietekme uz atsevišķiem konceptiem. | Iespējams pastiprināt vai vājināt konkrētas uzvedības līnijas. |
Praktiskā ietekme uz uzņēmējdarbību un drošību
Šis atklājums radikāli maina to, kā mēs raugāmies uz drošu tehnoloģiju integrāciju biznesā. Līdz šim lielākās uzņēmumu bažas bija saistītas ar modeļu neparedzamību, halucinācijām un risku, ka sistēma varētu nopludināt konfidenciālu informāciju. Kad šos procesus palīdz automatizēt mākslīgā intelekta asistenti uzņēmumiem, precīza kontrole pār datu apstrādes plūsmām kļūst par galveno drošības garantu.
Spēja identificēt un atslēgt bīstamus uzvedības modeļus (piemēram, krāpniecības paņēmienus vai diskriminējošus stereotipus) padarīs rīkus daudz uzticamākus regulētās nozarēs - finanšu sektorā, medicīnā un tieslietās.
Biežāk uzdotie jautājumi (FAQ)
Kāpēc šo Anthropic pētījumu sauc par vēsturisku?
Tāpēc, ka tas pirmo reizi pierāda, ka sarežģītus neironu tīklus ir iespējams pilnībā kartēt un saprast, sadalot tos lasāmos un kontrolējamos jēdzienos, nevis uztverot tos kā neparedzamu melno kasti.
Vai šī tehnoloģija ļauj novērst mākslīgā intelekta halucinācijas?
Jā, teorētiski, identificējot un kontrolējot nepareizas pārliecības vai faktu sagrozīšanas pazīmes modeļa iekšienē, nākotnē būs iespējams pilnībā izskaust nepatiesas informācijas ģenerēšanu.
Kad šie drošības mehānismi būs pieejami parastajiem lietotājiem?
Metodoloģiju jau tagad izmanto drošības pētījumos, taču ikdienas rīkos un API integrācijās tā parādīsies pakāpeniski dažu nākamo gadu laikā, optimizējoties skaitļošanas jaudu prasībām.
