Is féidir le feidhmchláir LLM atá os comhair an phobail rioscaí clú agus airgeadais a chruthú do bhrandaí.
Bainimid úsáid as scagairí aicmithe sraitheacha chun an dochar ó jailbreaks LLM agus ó iompar neamhbheartaithe eile LLM a laghdú.
Chuireamar é seo i bhfeidhm i bhfeidhmchlár táirgeachta ardtoirte a fhaigheann 40,000 teachtaireacht sa lá, agus an líon sin ag méadú.
Le bliain anuas, d'oibríomar i gcomhar le mórfhorbróir cluichí chun bota comhrá GenAI a chur i bhfeidhm a láimhseálann tuairim is 40,000 teachtaireacht sa lá ó imreoirí, páistí ina measc. Tá sé ríthábhachtach luas, cruinneas, sábháilteacht agus spraoi a chothromú:
Agus bota comhrá á chruthú agat chun ionadaíocht a dhéanamh ar do bhranda, ní leor é a bheith sábháilte—caithfidh sé a bheith dílis do do ghlór féin.
I gcás comhlacht cluichí, ciallaíonn sé sin an tsábháilteacht a nascadh le spraoi agus le spleodar úsáideoirí—go háirithe i gcás lucht úsáide níos óige.
Tá na LLM atá mar bhonn le feidhmchláir nua-aimseartha GenAI an-solúbtha (agus sin an fáth a n-éiríonn leo dul i ngleic leis an oiread sin fadhbanna éagsúla), ach níl a ndóthain srianta orthu. Dá bhrí sin, is minic a d'fhéadfaidís imeacht den chosán agus réimse leathan téacs a thabhairt ar ais (cuid de nach mbeadh oiriúnach, b'fhéidir).
Is cinnte go dtiocfaidh iompar gan choinne as LLM a chur ar fáil go díreach don phobal agus, gan bearta maolaithe cuí, tá baol ann go dtarlóidh na nithe seo a leanas:
‘Jailbreaks’, ina ndéanann úsáideoirí an bota comhrá a ionramháil d'aon ghnó chun ábhar díobhálach nó toirmiscthe a ghiniúint (leid shuimiúil: is féidir le duine ar bith cuairt a thabhairt ar an suíomh seo chun jailbreak LLM a fhiosrú trí chluiche spraíúil…); nó
Ábhar míthaitneamhach, maslach nó contúirteach a sholáthar gan chuimhneamh. In go leor cásanna, d'fhéadfadh sé seo folláine úsáideora a chur i mbaol nó damáiste airgeadais nó damáiste do bhranda sholáthraí an fheidhmchláir a dhéanamh.
Ceannlínte nuachta faoi úsáid neamhbheartaithe LLM:
Léiríonn na teagmhais seo cén fáth nach rogha é sábháilteacht a chothú agus a choinneáil ar bun i gcórais GenAI. Tá sé seo fíor go háirithe nuair a bhíonn páistí óga i gceist; ní leor séanadh amháin—tá cosaintí láidre riachtanach chun an t-ábhar a choinneáil oiriúnach.
Mar atá déanta againn sna córais RAG (Giniúint Fheabhsaithe le hAisghabháil) a thógamar do chliaint, bainimid leas as comhpháirteanna éagsúla intleachta saorga chun rioscaí jailbreak a laghdú agus ardfheidhmíocht a choinneáil ag an am céanna.
Léaráid shimplithe d'ailtireacht ár gcórais
Chun sábháilteacht an chórais a chinntiú, bainimid úsáid as aicmitheoirí LLM ar ionchuir agus ar aschuir araon:
Aicmiú Ionchuir (á rith go comhuaineach)
D'úsáideamar scéimrí Pydantic in éineacht le haschur struchtúrtha LLM chun lipéid a chur ar iarratais úsáideoirí (m.sh., SAFE, SUSPICIOUS, CHILD_HARM_RISK, VIOLENT, etc). Áiríodh leis seo bratacha chun jailbreak nó iompar toirmiscthe a shainaithint.
Bhí feidhmíocht i bhfad níos fearr mar thoradh ar aicmitheoirí éagsúla d'ábhair ar leith ná mar a bhí ar oll-aicmitheoir amháin a bhí ceaptha gach rud a ghabháil.
Bhí réimse leathan samplaí beagiarrachta ríthábhachtach lena chinntiú go ndéanfadh na haicmitheoirí idirdhealú idir “I keep being killed by this character” (ag tagairt don chluiche) agus “I am being hurt by my parent” (comhartha go bhfuil díobháil á déanamh do pháiste).
Chinntigh dlúthchomhar leis an gcliant agus lena shainfhoirne iontaoibhe agus sábháilteachta gur léirigh ár n-aicmitheoirí an chaoi a mbreithneoidís teachtaireachtaí ardriosca sa saol mór.
Giniúint Freagartha
Gineann an príomh-LLM freagra má mheastar go bhfuil an t-ionchur sábháilte.
Mura bhfuil, is féidir neamhaird a dhéanamh den teachtaireacht (i gcás jailbreaks) nó í a chur faoi bhráid duine (má léiríonn an t-iarratas fadhb sábháilteachta).
Aicmiú Aschuir
Sula bhfágann sé ár bhfeidhmchlár, aicmímid freagra na samhla sula seachadtar é.
Ós rud é gur féidir le cuid de na freagraí úsáid a bhaint as teicnící RAG bunaithe ar shonraí a scríobadh ón idirlíon, chosnódh an chéim seo muid ar nimhiú sonraí.
Má bhíonn ábhar toirmiscthe ann, déanann an córas idirghabháil agus cuireann sé teachtaireacht ghinearálta ina áit. Go praiticiúil, is annamh a tharla sé seo dúinn, ach is sraith chosanta choimeádach bhreise é lena chinntiú go bhfanann iompar an ghníomhaire oiriúnach.
Chun luas agus inacmhainneacht a choinneáil:
Stórálaimid leideanna agus páirtchomhráite a úsáidtear go minic, mar aon le tacar coimeádta samplaí beagiarrachta.
Ligeann an taisceadh seo dúinn na haicmitheoirí LLM a chur i bhfeidhm go tapa agus ar chostas íseal, gan an comhthéacs a athchruthú gach uair.
Rinne staidéar de chuid Anthropic le déanaí cur síos ar Aicmitheoirí Bunreachtúla—córas a úsáideann aicmitheoirí breise, arna n-oiliúint de réir rialacha “bunreachtúla”, chun iarratais mhailíseacha nó neamhshábháilte a bhrath. Thuairiscigh siad:
Seasmhacht ard in aghaidh na mílte uair an chloig de thástáil ionsaitheach dhaonna.
Rátaí ísle diúltaithe iomarcaigh agus forchostas measartha ríomhaireachta.
Samhlaímid todhchaí inar féidir leis na cuir chuige bhunreachtúla seo sraitheanna traidisiúnta aicmithe a chomhlánú nó fiú teacht ina n-áit—agus cosaint níos cuimsithí a sholáthar ar bhearta jailbreak atá ag síorathrú.
Scagairí Éadroma Comhuaineacha
Cuireann sraitheanna aicmithe cosc ar iarratais mhailíseacha an croí giniúnach a bhaint amach—agus cinntíonn siad nach seachadtar drochaschur riamh.
Tá Eispéireas an Úsáideora Tábhachtach
Trí dhíriú ar rabhaidh spraíúla atá bunaithe ar sheanchas an chluiche agus ar dhiúltuithe barrúla, is mó an claonadh a bhíonn ag úsáideoirí glacadh le srianta an chórais.
Ná Déan Scimp ar Thástáil ná ar Mhonatóireacht
Cabhróidh tástáil ionsaitheach rialta, mar aon le monatóireacht mhinic ar iompar imreoirí, le leochaileachtaí a aimsiú sula mbíonn an pobal imreoirí i gcoitinne ar an eolas fúthu. Is féidir iad seo a chur ar ais ansin sna leideanna beagiarrachta do na haicmitheoirí chun nach mbainfear úsáid astu amach anseo (próiseas láimhe atá ann faoi láthair, ach d'fhéadfaí é a uathoibriú).
Cibé acu comhlacht cluichí, banc nó fiú roinn rialtais thú, má tá tú chun bota comhrá seirbhíse do chustaiméirí a chur i bhfeidhm ar mhórscála, caithfidh tú díriú ar dhearadh don úsáideoir AGUS ar iontaofacht araon.
Tógaimid réitigh atá os comhair custaiméirí d'eagraíochtaí agus do bhrandaí ina bhfuil:
An tsábháilteacht ríthábhachtach—botaí comhrá a thugann luach d'úsáideoirí ach a chosnaíonn go docht iad ar ábhar díobhálach
An clú faoi chosaint—dearaimid roinnt sraitheanna cosanta a chaomhnaíonn clú an bhranda, fiú má dhéanann úsáideoirí iarracht an córas a bhrú thar a theorainneacha
Do roghanna srianta ag rialacháin—coinnímid ar an eolas faoi na treoirlínte comhlíonta is déanaí ionas gur féidir leat réitigh a mhéadú gan a bheith buartha go ndéanfar jailbreak ar d'fheidhmchlár