Analizējam jaunākos Anthropic Claude modeļu atjauninājumus un to spēju samazināt halucinācijas jeb nepatiesas informācijas sniegšanu.
Mākslīgā intelekta lielie valodas modeļi ir veikuši milzīgu lēcienu pēdējo gadu laikā, taču viena problēma joprojām paliek neatrisināta. Tā ir tieksme izdomāt faktus jeb halucinēt. Anthropic, kas ir pazīstams kā viens no drošības un ētikas līderiem mākslīgā intelekta jomā, savā jaunākajā darbā mēģina šo problēmu risināt pēc iespējas efektīvāk. Jaunākās diskusijas un testi, ko savā apskatā analizē video apskata autors, liecina, ka nākamās paaudzes Claude Opus modelis varētu radīt nopietnu pavērsienu cīņā pret nepatiesas informācijas sniegšanu.
Kāpēc mākslīgais intelekts mēdz izdomāt faktus
Svarīgi saprast, ka lielie valodas modeļi (LLM) nedomā tāpat kā cilvēki. Tie ir sarežģīti statistikas rīki, kas prognozē nākamo ticamāko vārdu teikumā, balstoties uz milzīgiem datu apjomiem. Kad modelis nezina precīzu atbildi, tas bieži vien izveido loģiski skanošu, taču pilnībā izdomātu faktu kopumu. Šo parādību nozarē dēvē par halucinācijām.
Claude modeļu salīdzinājums un precizitātes evolūcija
Anthropic vienmēr ir uzsvēris "Konstitucionālo AI" kā metodi, kas palīdz ierobežot nevēlamu uzvedību. Salīdzinot dažādas Claude modeļu paaudzes, redzams skaudrs progress tieši faktu precizitātē un spējā atzīt savas zināšanu robežas.
| Modeļa versija | Paredzamais precizitātes līmenis | Spēja atzīt kļūdas | Galvenā priekšrocība |
|---|---|---|---|
| Claude 3 Opus | Vidēji augsts | Mērena | Dziļa teksta analīze |
| Claude 3.5 Sonnet | Augsts | Laba | Ātrums un programmēšanas spējas |
| Claude nākamā paaudze (Opus) | Ļoti augsts | Izcila | Samazināts halucināciju skaits par vairāk nekā 50% |
Kā Anthropic cīnās ar nepatiesas informācijas sniegšanu
Lai samazinātu kļūdu skaitu, jaunākajos modeļos tiek izmantotas uzlabotas treniņu metodes. Tā vietā, lai tikai sodītu modeli par nepareizām atbildēm pēc tam, kad tās jau ir ģenerētas, jaunie algoritmi palīdz modelim "pārdomāt" savu atbildi pirms tās parādīšanas lietotājam. Tas tiek panākts ar īpašu pašrefleksijas mehānismu.
"Nākamās paaudzes modeļi vairs necenšas izpatikt lietotājam ar jebkādu atbildi. Tā vietā tie arvien biežāk izvēlas teikt - es nezinu - kas ir milzīgs solis uz priekšu profesionālā lietošanā."
Šāda pieeja nodrošina uzticamību un drošību, ko šodien piedāvā mākslīgā intelekta asistenti uzņēmumiem, kas palīdz automatizēt darba procesus un sniedz strukturētus datus bez liekiem riskiem.
Praktiski padomi kā samazināt halucinācijas savos uzdevumos
Lai gan modeļi kļūst arvien gudrāki, lietotāja uzrakstītajai instrukcijai joprojām ir izšķiroša nozīme. Šeit ir daži vienkārši soļi, kā iegūt precīzākus rezultātus jau šodien:
- Skaidri norādiet avotus: Ja iespējams, iedodiet modelim tekstu, no kura veikt analīzi, un aizliedziet izmantot ārējo informāciju.
- Atļaujiet atzīties nezināšanā: Savā uzdevuma formulējumā ierakstiet - ja nezini atbildi, lūdzu, pasaki to, nevis izdomā jaunu informāciju.
- Izmantojiet pakāpenisku domāšanu: Palūdziet modelim pirms galīgās atbildes sniegšanas soli pa solim izskaidrot savu loģiku.
Kopumā jaunie sasniegumi liecina, ka esam tuvāk nekā jebkad agrāk inteliģentām sistēmām, kurām var uzticēties ikdienas biznesa procesos, samazinot cilvēka kļūdas faktoru.
