Gelo AI pêbawer e? [Vîdyo û Pirs]

Bersiva kurt: Taybetmendiya AI ne pêbawer e: ew bi peywirê, çerxa vegerandinê, û mirovekî hîn jî li ser çengelê. Dema xebitandinê ew e ku gelo xala dawî bersiv daye an na; rastî ew e ku gelo bersiv rast bûye an na. Dema ku xeletiyek erzan be an jî meriv dikare bigire, wê bikar bînin; dema ku xeletiyek biha be, hêdî bibin.

Xalên sereke:

Berpirsiyarî: Navê kê dinirxîne, kê dikare wê rawestîne, û kê sûcdar e, binivîse.

Şefafî: Perçeya hatî dîtin kontrol bike, an na hûn hîn jî di mijê de ne.

Denetîbûn: Ferman, perçeyên hatine wergirtin û şandin tomar dike da ku şaşî werin şopandin.

Berxwedana li dijî bikaranîna xelet: Di pirsên pereyan de têk çûn; qet hejmar, pencere, an polîtîkayan îcad nekin.

Encamên mînakî: Testeke mînakî ya 20 pirsan wekî nexşeyekê bihesibînin, ne wekî îspateke %95.

Gotarên ku hûn dikarin piştî vê yekê bixwînin:

🔗 Meriv çawa AI di jiyana rojane de bikar tîne
Rêbazên pratîkî kifş bikin ku AI dikare kar û rûtînên rojane hêsan bike.

🔗 Meriv çawa AI-ê li kar bikar tîne
Rêbazên pratîkî fêr bibin da ku hilberîn û karîgeriyê bi AI-ê baştir bikin.

🔗 Gelo zekaya sûnî dikare bi serê xwe bifikire?
Vekolin ka gelo zekaya sûnî bi rastî dikare bi awayekî serbixwe bifikire û bifikire.

🔗 Cureyên AI çi ne?
Cureyên sereke, şiyan û cudahiyên sereke yên AI fêm bikin.

Dema ku makîne papağanekî îstatîstîkî be, "pêbawer" tê çi wateyê?

Pêbawerî, di axaftina rojane de, tê vê wateyê ku hûn dikarin xwe bispêrin tiştekî.

Bi otomasyona ku diaxive, komek taybetmendiyên cûda di bin yek peyvê de vedişêrin. Rastbûn. Lihevhatin. Pîvankirin - gelo baweriya modelê bi şansê rastbûna wê re li hev dike, an jî tenê... piştrast xuya dike. Ewlehî. Dema xebitandinê. Hestiyariya bilez. Reftar di rewşên sînor de. Reftar piştî guheztina belavkirinê, dema ku cîhana zindî ne cîhana perwerdehiyê ye. Yek ji van bi hev re têk naçe. Ev perçeya ku mirov ji bîr dikin e.

Botek sohbetê dikare tevahiya hefteyê "li ser kar" be û roja Sêşemê piştî nîvro jî xelet be. Hev-pîlotek kodkirinê dikare di standarda standard de baş be û dûv re API-yek ku tam dişibihe ya rastîn, halûsînasyon bike. Metafora ku mirov digihîjinê "hevkarekî ciwan" e. Ew ne temam e - yên ciwan şerm dikin - lê ew ji "oracle" nêzîktir e.

Testa zindî di çi, ji bo kê, û bi kîjan çerxê de pêbawer e. Wekî din, hûn blenderekê li gorî ka ew dikare bacan bicîh bîne dinirxînin.

Demjimêra xebitandinê ne rastbûn e - du celebên cûda yên "pêbawer"

Kesên Ops û kesên rastî heman peyvê bi kar tînin û ji bo hevdu neaxivin.

Dema xebitandinê "bersiva xala dawî da". Rastî "bersiv da" ye. Rêveberî girîngiyê dide herduyan jî, û rîska modelê di vê valahiya nexweş de ye. Hûn dikarin xizmetek hebe ku qet neqelişe û dîsa jî derewek herikbar di bilêta xerîdar de bişîne. Di wateya SRE de pêbawer. Di wateya "ji kerema xwe polîtîkayek vegerandinê îcad nekin" de ne pêbawer e.

Ez texmîn dikim ev eşkere ye ku hatiye nivîsandin. Di saet 4ê piştî nîvro de, dema ku bersiv zû ye û rêz pir mezin e, ne eşkere ye. Lez wekî jêhatîbûnê tê hîskirin. Hêdîbûn berê tê wê wateyê ku kesek difikirî. Niha lez nîşana wê yekê ye ku kes ne wisa ye.

Ewlehî aliyekî din e. Modelek ku jailbreak-ek nebaş red dike, ji hêla ewlehiyê ve "pêbawer" e û dibe ku hîn jî kurteya notên we xera bike.

Şaş û şêlû ji nebaş û rasterast xirabtir e

Ev pirsgirêka baweriyê ye, û ev yek ji wan e ku bi hêz dike.

Rastbûn û herikîn ji hev veqetiyan û herikîn malê parast. LLM dê rîtm, parastina cihên rast, dibe ku şiklekî îqtibasê yê sexte lê xweşik bide we. Mejiyê we dixwîne "ev kes dizane". Lê ew ne kesek e, û pîvandin pir caran pir xirab e - baweriya bilind, rastiya navîn, wekî gotarek sereke tê pêşkêş kirin.

Bersiveke xelet a nebaş te dixe gumanan. Bersiveke xelet a herikbar te dihêle ku dev ji kontrolkirinê berdî. Ev ne ferqeke biçûk e; ew tevahiya çîrokê di hevokeke hinekî nexweş de ye.

Pêşdarazî jî tê de ye, ne her tim wekî heqaretekê, bêtir wekî xwerûyek li ser ka kî di odeyê de ye û kîjan tama Îngilîzî wekî bêalî tê hesibandin. Mirov tên xapandin ji ber ku ziman navrûya baweriya me ya herî kevin e. Ger ew mîna kurteyekê biaxive, em wê wekî kurteyekê dibînin. Ez dixwazim di derbarê vê yekê de bêtir rexnegir bim. Dûv re ez kurteyek zelal dixwînim û milên min dadikevin. Dema ku ez diçim civînekê, kurteyek qediya xuya dike. Ew hevok pir zêde kar dike, û dîsa jî: ev e ku xeletî çawa dikeve nav dekê.

Pêbawerî li gorî rewşê, ne li gorî marqeyê

Marqe bala mirov dikişînin. Karê sereke berawirdkirina marqeyan e. Nakokî dê bi hev re nîqaş bikin. Ev baş e.

Her çi dibe bila bibe. Ger amûra te ya bijare di pêşnûmeyan de jêhatî be û tu xwe bibînî ku di nîvê şevê de jê rehetiyek li kêleka qanûnî dixwaze, ev ne nûvekirinek e. Ew nexşe ye ku dibêje te ew ji holê rakiriye.

Halûsînasyon, lerzîn, û cureya bêdeng a xeletiyê

Halûsînasyon ji ber ku tûj e, dibe mijara manşetan: pirtûkek ku tune ye, fonksiyonek ku qet nehatiye şandin, bendê polîtîkayê bi hejmarek ku fermî xuya dike.

Drift kêmtir sînemayî ye. Cîhan digere. Bermayiyên modelê dimînin. Hûn pirsek dipirsin ku pêdivî bi çarçoveyek nû heye û hûn ji hewaya berê bersivek baş-rêxistinkirî distînin. Min hema bêje li wir "ji serdemeke din" nivîsand, ku ev zêdegavî ev mijar vedixwîne. Ew ne serdemeke din e. Tenê niha nîne.

Ew tiştê ku ez bêtir eleqedarê wê me. Kurteyek ku îstîsnayê ji holê radike. Parafrazek ku dibe ku vediguherîne divêyekê. Rastî dikare "ji hêla teknîkî ve baş" be dema ku wate xera bûbe.

Hesasiyeta bilez vê yekê xirabtir dike. Pêçanê biguherîne û "rastî" dibiriqin. Wekî gumanbarekî bipirse, xwe ji parêzvanan biparêze. Wekî patronekî bi lez bipirse, zêdegaviyên bilez bistîne. Ger nirxandina te tenê cilûbergek bikar tîne, nirxandina te hinekî derew e. Bibore.

ji girtîgehê li ser qiraxê ye, û ez fîlmekî diziyê naxwazim. Ger pergalek were qanihkirin ku dev ji exlaqê berde, pêbawerî ne tenê bi rastiyê ve girêdayî ye; ew bi wê ve girêdayî ye ka gelo rêgir xelek in an poster in.

Bermayiyên perwerdeyê, zanîna kevn, û çima erdêkirin ne çîçek sêrbaz e

Modelên nifşî li ser girekî têne perwerdekirin, dû re ber bi Sêşemêya we ve têne arastekirin. Vegerandin hewldana mezinan e ku dema niha li ser wê girekî were girêdan. Erdkirin tê wateya "bersiv ji vê, ne ji mijê". Dema ku ew têk diçe, bi nezaket têk diçe.

Têkçûna klasîk: belgeyeke ku hema bêje têk çûye tîne. Jenerator bi aramiyeke tevahî di nav wê de dinivîse. Hûn tiştekî bi şiklê çavkaniyê dibînin û înstînta we ya kontrolkirinê dest pê dike. Ez vê dikim. Dibe ku hûn vê bikin. Fikra îqtibasê rast e; pêkanîn bi qasî serkeftinê baş e.

Zanîna kevin rijandina din e. Hin kar hewceyê rewşek zindî ne - biha, envanter, gotinên heyî yên polîtîkayekê. Hin jî hewceyê hunerek stabîl in, mîna çawaniya avakirina notekê. Van tevlihev bikin û hûn bersivek pir piştrast li ser cîhanek ku berê xwe daye guhertin digirin. Guhertina belavkirinê navê mezinan e: belavkirina zindî ne belavkirina perwerdeyê ye, û dozên qiraxê di nav valahiyê de dijîn.

Tiştekî din jî, bi xêzek şaş hat gotin ji ber ku notên min wisa xuya dikin: erdkirin erd e - ne halo ye. Heke hûn nekarin perçeya hatî dîtin kontrol bikin, hûn hîn jî di mijê de ne, tenê bi ronahiyek çêtir.

Şanoya nirxandinê: çima demo ceribandinek xirab e

Demo ronî dikin. Pîvan hinekî zelaltir in, û dîsa jî ne karê te ye.

Pêşniyareke paqij û peywireke ku model hezar pismamên wê dîtiye - bê guman ew zelal xuya dike. Nirxandineke ku tenê pîvana lîstikeke şanoyê ye. Herikînên xebatê yên zindî xwedî pasteya tevlihev, pelên wenda, û bikarhênerekî ku dê bersiva yekem qebûl bike ku fikara wan kêm dike.

Pîvanên pîvanê girîng in. Ew tenê wekî ku deste texmîn dikin baş naçin. Pûana tabloya rêberiyê ne kalibrasyona bilêtên we ye. Rîska modelê di pargîdaniyekê de ev e "gava ev di hejmarê de xelet be çi dibe", ne "gelo ew ji komek pirsên kurt derbas bû". Testên ku hûn hewce ne hişk in: di hundurê paragrafa wergirtî de bimînin; li şûna ku bluff bikin, nezelaliyê nîşan bidin; dema ku hûn ji nû ve dibêjin domdar bimînin; di girtinê de têk biçin (red bikin, bipirsin, paş bixin) li şûna ku di vekirinê de têk biçin (îcad bikin).

Min dîtiye ku mirov encamek balkêş wekî delîl dibînin. Ev mîna wê yekê ye ku meriv biryar bide ku xwaringehek "pêbawer" e ji ber ku pêşxwarin xweş bû. Belkî wisa ye. Belkî metbexê deh deqeyên baş derbas kir.

Nakokiyeke sivik derdikeve holê: Ez hîn jî demoyan bikar tînim da ku hestekê bistînim. Ez tenê hestê bi kar naynim.

Ma AI pêbawer e? Tenê heke kesek hîn jî di bin xetereyê de be

Mirov-di-çerxê-de tenê sêwirana ku bi modên têkçûnê re li hev dike ye.

Eger kes berpirsiyar nebe, pergal dê wekî ku hebe were bikar anîn. Rêveberî navekî ne seksî ye ji bo "kî dinirxîne, kî dikare wê rawestîne, çi tê tomar kirin, piştî şaşiyekê çi dibe". Ajan vê yekê tûjtir dikin ji ber ku ew çalakiyan dikin, ne tenê paragrafan. Pêşnûmeyek ku we neşandiye erzan e. Bangek amûrek ku we negotiye ne şandiye.

Navê kesê ku di bin gumanê de ye bibêje. Ger bersiv "model" be, bersiveke te nîne. Model piştî bûyerê naçin civînê. Kesek diçe, an jî makîneyeke paqijkirinê diçe û piştre parêzerek diçe.

Kontrolên ku bi radyoya teqînê re li hev dikin hilbijêrin. Nirxandinek asta rastnivîsê ji bo postek medyaya civakî. Kontrolkirina çavkaniyê ji bo her tiştê ku rastiyekê îdia dike. Pisporek ji bo her tiştê ku bi bijîşkî, hiqûq, krediyê, operasyonên krîtîk ên ewlehiyê ve girêdayî ye. Ji bo wan, mirov "di çerxê de" nine. Mirov çerx e. Model kurteyek e. Ev ne gumanbarî ye wekî kesayetiyek. Ev çêj e.

Niha moda veşartina çekê li pişt bişkokek şandinê ya geş e. Van rojan meriv bi xeletî gotegotek wisa otomatîk dike. Di demên dawî de ez li ser vê yekê hişktir bûm, û kar çêtir bû.

Meriv çawa dipirse da ku hûn şaşiyê bigirin

Hûn dikarin van sîsteman bêyî ku bibin gumanbarekî profesyonel ê tîrêjên rojê lêpirsîn bikin.

• Bi zanebûn ji bo nezelaliyê bipirse. "Çi dê vê yekê xelet bike?" li şûna "wê bi bawerî bike" ye.

• Dema ku hûn dikarin, berhevkirina ji nifşê cuda bikin. Pêşî li paragrafan binêrin. Piştre nivîsê bixwazin.

• Cil û berg biguherîne. Ji nû ve bêje. Bipirse ku berevajî vê yekê nîqaş bike. Hestasiya bilez wekî fenerê ye heke hûn wê bi vî rengî bikar bînin.

• Sînorkirinên bi zorê: "tenê ji nivîsa ku min pêve kiriye", "eger wenda be, bêje wenda". Model bi awayekî ecêb li gorî vê yekê tevdigerin... heta ku ew nebin. Her çi dibe bila bibe kontrol bikin.

• Erkên bi verastkerekî tercîh bikin. Berhevkar, lînter, kontrolên şemayê, çavekî duyemîn. Pêbawerî ji nirxdêrekî hez dike.

• Li nîşanê mêze bikin: taybetmendiyek zêde. Kesayetiyek bi xuyangek rast, rewşek bi navkirî, hevokek hejmarkirî ya rêkûpêk - ev e ku halûsînasyon hez dike xwe xemilîne.

• Gavên mirovan xuya bihêlin. Ger UI çekê veşêre, mirov çekê ji bîr dikin. Ev mobîlya ye, ne kêmasiyeke exlaqî ye.

Ev yek modelê "rast" nake. Ev yek lûpê kêmtir saf dike. Ez texmîn dikim ku ev berhem e.

Cihê ku nexşe te dihêle

Ji ber vê yekê. Pirsa erê/na tenê wekî derî kar dike.

Gelo AI Pêbawer e? Ne wekî taybetmendiyek. Wekî taybetmendiyek peywirekê, komek daneyan, çerxek vegerandinê, nirxandinek ku ne demo ye, û mirovek ku hîn jî divê wateya wê bibêje. Herikîn dê me bixapîne ji ber ku em heywanên ziman in û ev pergal makîneyên ziman in. Dema xebitandinê dê bi rastiyê re tevlihev bibe ji ber ku her du jî wekî "xebitî" hîs dikin. Hevpîlot dê debara xwe di nîvê tevlihev de qezenc bikin - pêşnûme, kurtasiyên ku hûn dikarin lê binêrin, koda ku hûn dikarin berhev bikin - û ne ewle ne dema ku em dadbariyê didin paragrafek ku xema wê tune.

Li cihê ku xeletî erzan e an jî meriv dikare bigire, wan bikar bîne. Li cihê ku xeletî biha ye hêdî bike. Ev bersiva rasterast e, û ji sloganekê jî hêjatir e.

Eger tu tiştekî bigirî ber çavan: dev ji pirsîna ji modelê berde ka ew rast e yan na. Dema ku tu jê dipirsî, temaşe bike ka çi dibe, çawa dikare xelet be. Hingê here kontrol bike.

Nimûneyek ji cîhana rastîn: Avakirina alîkarek AI ya siyaseta endametiyê

Senaryo

Priya ji bo Harbour Membership, ku saziyeke bazirganiyê ya Brîtanyayê ya ji 70 kesan pêk tê ji bo salonên werzîşê yên serbixwe, zanînê dimeşîne. Sê kes bersiva pirsên endaman didin. Çavkaniya rastiyê pirtûkek rêbernameyê ya 180 rûpelî ye, ku her sê mehan carekê tê nûvekirin, digel PDF-yên kevin ên di ajokerek hevpar de ku kes dilê wan nagire ku jê bibin.

Serokatiyê berê hev-pîlotek alîkariyê kirî. Demo pir xweş bû. Dema xebatê baş bû. Di hefteya duyemîn de, pêşnûmeyek herikbar ji endamekî re dibêje ku ew dikarin 14 rojan cemidînin û "wek standard" tevahiya pereyan bistînin. Ev ne polîtîka ye. Ajan ew girt ji ber ku ew hîn jî dema ku pere tê de ne, rêbernameyê vedikin. Pirsa serokatiyê, ku wekî erê an na hat şandin, ev e: gelo AI pêbawer e?

Priya biryarê red dike. Ew wê wek nexşeyekê dibîne. Kar ne "dayîna orakulekê ji endaman" e. Ew "bersivekê ji pirtûka rêbernameya heyî amade dike, paragrafê nîşan dide, û dema paragraf winda be, bi ser nakeve". Ger alîkarê pîlot nikaribe vê yekê bike, ew pêlîstokek nivîsandinê ye, ne maseyeke polîtîkayê ye.

Tiştê ku alîkar hewce dike

• Pirtûka rêberî ya Nîsana 2026an wekî tenê korpusa destûrdayî, bi hejmarên beşan saxlem

• PDF-a kevin a sala 2023-an bi zanebûn di ajokerê de maye, da ku ew bibînin ka vegerandin nêzîkatiya windabûyî digire an na

• Qaydeyek nivîskî: di amûrên xerîdar de daneyên kesane yên xerîdar tune ne; bêyî mirov şandin tune ye; hejmar, pencere, an bendên "wek standard" nayên îcadkirin

• Destûra tomarkirina fermanan, perçeyên hatine wergirtin, û şandina dawîn

• Xwediyek bi nav (Priya) ku dê setek ceribandinê xal bike û ger ew bi ser nekeve pîlotê alîkar rawestîne, ji avêtina pereyek xerabtir li ser pirsên pereyan girt

• Eger amûr piştgiriya vegerandinê dike, divê perçeya vegerandinê li kêleka pêşnûmeyê xuya be. Eger ne wisa be, ew ê beşê bi destan lê bixin. Erdê bêyî rêyeke venêrînê hîn jî mij e.

Nimûneya rênimayan

Priya vê yekê bi zimanekî asayî, ne bi awayekî ku di şanoyê de were lîstin, tîne ziman:

Tenê ji beşên pirtûka rêbernameya Nîsana 2026an ku ji we re hatine dayîn bersiv bidin. Hejmara beşê binivîsin. Ger bersiv di wan beşan de tune be, bibêjin "di pirtûka rêbernameya heyî de tune" û rawestin. Paceyên cemidandinê, qaîdeyên vegerandinê, an xercan îcad nekin. "Bi biryara salona werzîşê" nûve nekin bo "wek standard". Ger du beş nakok bin, herduyan nîşan bidin û bibêjin kîjan niha ye. Hûn ji bo mirovekî ku dê berî ku tiştek biçe endamekî çavkaniyê veke, dinivîsin.

Paşê ew rênimayek duyemîn ji xwe re dihêle, ji ber ku xala gotarê xelek e, ne model:

Berî şandinê, beşa ku hatiye îqtibaskirin veke. Bipirse "çi dibe sedema ku ev xelet be?" Ger di reşnivîsê de hejmarek hebe ku di paragrafê de tune be, wê red bike. Ger min mîna patronekî bi lez pirsîbe, dîsa mîna gumanbarekî bipirse û berawird bike.

Pêşnûmeyek baş wiha xuya dike: "Di pirtûka rêbernameya heyî de tune ye (Nîsana 2026, beşa 4.2). Cemidandin li gorî biryara salona werzîşê ye. Vegerandin otomatîk nîne. Zêde bike." Pêşnûmeyek xirab wiha xuya dike: "Endam dikarin 14 rojan cemidînin û wekî standard vegerandina tevahî bistînin. Di pirtûkê rêbernameyê de hatiye piştrast kirin." Heman ton. Tenê yek ji wan polîtîkayek e.

Çawa wê biceribînin

Priya berî ku li encamên hev-pîlot binêre 20 pirsan dinivîse. Rêz girîng e. Demo ronahîkirin e. Ev testa hişk e.

Set ne tiştekî ecêb e. Ew maseya zindî ye:

• Heşt pirsên ku bersivên wan di beşeke niha de ne (yên hêsan)

• Çar nêzîkatiyên şaş, ku PDF-a 2023-an ji hêla gotinê ve ji nivîsa Nîsanê nêzîktir e

• Sê pirsên "di pirtûkê de nînin" (nakokiyên fatûreyê, pirsek bi mijara bijîşkî ve girêdayî "ev perwerde ewle ye?" guhertinek peymanê ya bi mijara qanûnî ve girêdayî)

• Sê pirsên pereyan (cemidandin, vegerandina pereyan, xerca tevlêbûnê)

• Du pirsên endamên asayî (saetên vekirinê, sîgortaya rahêner)

Du ji wan bîst kesan di cilûbergeke duyemîn de jî ji nû ve hatin pirsîn, carekê wekî patronekî bi lez û bez û carekê jî wekî gumanbarekî, wekî kontroleke hesasiyeta bilez. Ew pirsên ji nû ve hatin nivîsandin, ne ku di puana 20 xalan de hatin zêdekirin.

Rubrîk, ji hêla Priya ve bi pirtûka rêbernameyê vekirî ve hatî nirxandin: derbasbûnek hewceyê qaîdeya niha ya rast, hejmareke beşê ya rastîn, û bê bendên îcadkirî yên zêde ye. Têkçûna bêdeng hevokek teknîkî baş e ku îstîsna ji holê rakir an jî belkî veguherandiye pêdivî. Têkçûna vekirî hejmareke îcadkirî an PDF-yek nêzîk-têkçûn e ku wekî niha tê hesibandin. Dema xebitandinê cuda tê hesibandin, ji ber ku "wê bersiv da" ne "ewqas bû".

Qebûlkirina ji bo bêtir çûnê: di pirsên pereyan de, li şûna ku vekirî bi ser nekeve, divê bi dawî bibe. Ger pîlotê alîkar pencereyeke vegerandina pereyan îcad bike, ew bilêtên zindî çênake. Ger kes çavkaniyê veneke, ew bilêtên zindî jî çênake.

Netîce

Encamek mînakî, ji testek 20 pirsan a çêkirî, ne hejmareke Endamtiya Harbourê ya weşandî.

Pêşbînî: yek alîkarê maseya alîkariyê; pirtûka rêbernameya Nîsana 2026an û PDFya mayî ya 2023an; Priya li gorî rubrîka jorîn puan girt; demjimêr wekî demjimêra telefonê ji pirsa ku li "Ez ê vê bişînim" hatiye zeliqandin bû; dema nirxandinê di rewşa çerxkirî de tê de ye û di ya nehatî kontrolkirin de tê derxistin, bi zanebûn, ji ber vê yekê berawirdkirin wekhev dimîne.

Hev-pîlotek bê kontrol, pêşniyarek bi şêwaza demo: 20 ji 20 pirsan bersivek herikbar wergirtin (dema xebitandinê bêkêmasî xuya dikir). 11 ji 20 pirsan li gorî rubrîkê bûn. Pênc ji wan têkçûnên bêdeng bûn. Çar ji wan têkçûnên vekirî bûn, tevî cemidandina 14 rojan. Du ji çar têkçûnên vekirî perçeyek bi şiklê çavkaniyê ji PDF-a 2023-an nîşan dan. Dema navîn a ji bo pêşnûmeyek ku dişibihe şandinê 1 hûrdem bû.

20 pirsên wekhev, rêwerzên bi sînor, perçeya wergirtî xuya bû: 15 ji 20 pirsan ji nivîsa Nîsanê bi tevahî rast bûn. Sêyan bi awayekî rast gotin "di pirtûka rêbernameya heyî de tune" (tiştên bi bijîşkî-hevpar û yên bi qanûnî-hevpar, û yek nakokiya fatûreyê), ji ber vê yekê 18 ji 20 pirsan qebûl bûn. Du dîsa jî têk çûn: yek PDF-a 2023-an a ku hema hema negihîştibû encamê nivîsand, û yek jî hejmareke xerca tevlêbûnê îcad kir ku di paragrafê de tune bû. Dema navîn a nivîsandinê hîn jî bi qasî 1 hûrdem bû.

Eynî 20, û Priya beşa navlêkirî berî şandina simulasyonî vekir: 19 ji 20 dê qebûl bikira. Wê PDF-ya ku hema hema xelet bû dît. Xeletiya mayî ew bû ku nirxander paragrafek bi rêkûpêk dixwend û bala xwe nedida rêjeya xerca tevlêbûnê ya îcadkirî. Dema navîn, tevî nirxandinê, 3 deqe bû.

Proseya kevin, tenê lêgerîna destnivîsê, bê alîkarê pîlot: 20 ji 20 qebûlkirî. Navînî 9 deqîqe.

Li seranserê vê nimûneyê, hev-pîlotê 6 deqe ji nêçîra rêbernameyê (9 kêm 3) zûtir bû, an jî di 20 pirsan de 120 deqe bû, ku 19 ji 20 pirsan li şûna 20 ji 20 qebûlkirî bûn. Hev-pîlotê bê kontrol 8 deqe zûtir bû (9 kêm 1) û xelet bû, bêdeng an bi dengekî bilind, li ser 9 ji 20 pirsan. Ev ne teserûfa 67% ya demê ye ku hûn di pakêtek rêvebirinê de datînin. Ew rijandinek 9-xeletî ye ku hûn ê otomatîk bikira.

Guhertoyên bi lez û bez ên herdu pirsên dubarekirî herduyan jî zêde îdîa kirin. Guhertoyên gumanbar ji hev cuda bûn. Heman model, heman rêbername, cil û bergên cuda. ​​Priya ev yek wekî dîtinek tomar kir, ne wekî kesayetiyek.

Ev hejmar texmînek mînakî ne ku li ser bingeha ceribandina diyarkirî, komek piçûk, bilêtên ku ji endamek hêrs hêsantir bûn, û nirxanderek ku jixwe pirtûkê dizanibû. Ew nîşan nadin ku pîlotê alîkar "95% pêbawer" e, an ku Harbour divê kesekî maseyê ji kar derxîne. Ew nîşan didin ku dema xebitandinê ne pirs bû, û ku kontrol ew bû.

Çi dikare xelet biçe

• Serokatî dema pêşnûmeyê ya 1 deqîqeyî diyar dike û 9 caran top ji dest dide. Lez hîn jî di saet 4ê piştî nîvro de wekî jêhatîbûnê xuya dike.

• PDF-a 2023-an di endeksê de dimîne. Lêgerîn her tim wê vedigerîne. Grounding xuya dike ku gihîştî ye û hîn jî hema hema negihîştiye armancê.

• UI perçeya wergirtî li pişt bişkojkek şandinê ya geş vedişêre. Mirov dev ji vekirina rêbernameyê berdidin, û ev jî rêbaza cemidandina bersivan digihîne endamekî.

• Priya tenê heşt pirsên hêsan puan digire ji ber ku ew di slaytê de xweşiktir xuya dikin. Şanoya nirxandinê, tenê bi pelgeyekê.

• Bersiveke "gelo ev perwerde ewle ye?" a nêzîkî bijîşkî wek kurteyekê xuya dike. Nexşeyê hema bêje qet nedigot. Deng digot berdewam bike.

• Tomar ne li ser in ji ber ku "ew wekî zêde xuya dikir". Piştî şaşiyekê, kes nikare bibîne ka kîjan beş hatiye vegerandin.

• Ew ji modelê dipirsin ka ew piştrast e. Rast e. Ew qet ceribandin nebû.

Xwarineke pratîkî

Pêbawerî ne taybetmendiyek ji pîlotê alîkar ê ku Harbour kirî ye. Ew taybetmendiyek ji 20 pirsan, pirtûkek rêbernameyê ya nûjen, beşek xuya, û kesek e ku dema ku pere tê de hebe jî çavkaniyê vedike. Herikîn dê di testa dema xebitandinê de derbas bibe. Loop tenê tiştê ku di testa polîtîkayê de derbas dibe ye.

Pirsên Pir tên Pirsîn

Ji bo AI-ya hilberîner, pêbawerî tê çi wateyê?

Pêbaweriya rojane tê vê wateyê ku hûn dikarin xwe bispêrin tiştekî. Bi otomasyona ku diaxive, komek tevahî taybetmendî di bin yek peyvê de veşartî ne: rastîbûn, hevgirtin, pîvandin, ewlehî, dema xebitandinê, hesasiyeta bilez, rewşên kêlekê, û tevger piştî guheztina belavkirinê. Ti ji van bi hev re têk naçe. Testa zindî di çi, ji bo kê, bi kîjan çerxê de pêbawer e. Wekî din, hûn blenderek li ser ka ew dikare bacan bike dinirxînin.

Ma AI pêbawer e?

Ne wekî taybetmendiyek. LLM dikare di karekî de bi awayekî zexm be û di karekî din de bêdeng bêbandor be, carinan di heman rûniştinê de, carinan jî ji ber ku we viraştek guheztiye. Pêbawerî taybetmendiyek erkê, komek daneyan, çerxek vegerandinê, nirxandinek ku ne demo ye, û mirovek ku hîn jî divê wateya wê bizanibe ye. Li cihê ku xeletiyek erzan e an jî dikare were girtin, wê bikar bînin. Li cihê ku xeletiyek biha ye, hêdî bikin.

Ma dema xebitandina AI û rastiyê wekhev e?

Na. Dema xebitandinê ew e ku xala dawî bersiv daye an na. Rastî ew e ku bersiv rast bû an na. Hûn dikarin xizmetek hebe ku qet çavên xwe neqelîne û dîsa jî derewek herikbar di bilêta xerîdar de bişîne. Lez wekî jêhatîbûnê hîs dike dema ku rêz pir mezin e. Ewlehî axek din e: modelek ku jailbreak red dike hîn jî dibe ku kurteyek ji notên we xera bike.

Çima AI-ya herikbar her çend xelet be jî, xwe pêbawer hîs dike?

Rastbûn û herikîn ji hev veqetiyan, û herikîn malê parast. LLM dê rîtm, parastin, dibe ku şiklek îqtibasê ya sexte lê xweşik bide we, û mejiyê we dixwîne "ev kes dizane". Pîvankirin pir caran xirab e: baweriya bilind, rastiyek navîn, wekî notek sereke tê pêşkêş kirin. Bersivek xelet a nebaş we gumanbar dike. Bersivek xelet a herikbar we dihêle ku hûn dev ji kontrolkirinê berdin. Ger ew mîna kurteyek biaxive, em wê wekî kurteyek digirin dest, û bi vî rengî xeletî dikeve nav dekê.

Ma AI ji bo karê bijîşkî, yasayî, an jî piştgiriya xerîdar pêbawer e?

Ew bi kar ve girêdayî ye, ne bi marqeyê. Şîretên bijîşkî û yên girêdayî qanûnî hema hema qet wekî berhemek têrê nakin: model kurteyek e û mirov jî profesyonel e. Piştgiriya xerîdar dikare di nav polîtîkayek hişk de binivîse, lê divê kesek xwedî pereyê şandinê û baweriyê be, ji ber ku polîtîkaya dahênandî û na-yek xelet a bi nezaket têkçûna asayî ne. Pêşnûme û kurtasiyên nivîsê yên yekem in ku hûn jixwe dizanin. Nav, hejmar û rêza ku dê biêşîne kontrol bikin.

Çima AI halûsînasyon dike, diguhere, an jî bi bêdengî xeletî dike?

Halûsînasyon şaşiyeke tûj e: pirtûkek ku tune ye, fonksiyonek ku qet nehatiye şandin, bendê siyasetê bi hejmarek ku fermî hîs dike. Drift kêmtir sînemayî ye: cîhan diguhere, bermahiyên modelê dimînin, û hûn ji hewaya berê bersivek baş-rêxistinkirî distînin. Xeletiya bêdeng kurteyek e ku îstîsnayê ji holê radike. An jî parafrazek e ku dibe ku vediguherîne divê. Rastî dikare ji hêla teknîkî ve baş xuya bike dema ku wate çûye. Hestiyariya bilez rastiyan diguhezîne dema ku hûn pêçanê diguherînin.

Ma erdkirin an vegerandina AI-ê pêbawer dike?

Erdkirin tê wateya bersiv ji vê yekê, ne ji mijê. Vegerandin niha li ser girekî perwerdekirî dihejîne. Dema ku ew têk diçe, ew bi nezaket têk diçe: belgeyek hema bêje winda bûye, nivîsek nivîsandî, û îstîsnaya we ya kontrolkirinê diqede. Erdkirin qatek e, ne halo ye. Ger hûn nekarin perçeya wergirtî kontrol bikin, hûn hîn jî di mijê de ne, tenê bi ronahiyek çêtir. Karên rewşa zindî yên wekî biha an jî gotinên polîtîkayê bi keştiyên stabîl re tevlihev bikin, û hûn bersivek pir piştrast li ser cîhanek ku berê tevgeriyaye digirin.

Çima demo ceribandinek xirab a pêbaweriya AI-ê ye?

Peyvek paqij û peywirek ku model bi hezaran pismamên wê dîtiye dê tûj xuya bike. Herikînên xebatê yên zindî têkelkirina tevlihev, pelên wenda, û bikarhênerek hene ku dê bersiva yekem qebûl bike ku fikara wan kêm dike. Pûana rêzbendiyê ne kalibrasyona li ser bilêtên we ye. Rîska modelê ew e ku gava ev di hejmarê de xelet be diqewime, ne ku gelo ew komek pirsên kurt derbas kiriye. Testên ku hûn hewce ne hişk in: di hundurê paragrafa wergirtî de bimînin, li şûna ku blof bikin nezelaliyê nîşan bidin, dema ku hûn ji nû ve dibêjin domdar bimînin, û li şûna ku hûn îcad bikin, di girtî de têk biçin.

Ma AI pêbawer e heke kes ne berpirsiyar be?

Na. Ger kes berpirsiyar nebe, pergal dê wekî ku hebe were bikar anîn. Mirov-di-çerxê-de-tenê sêwirandin e ku bi awayên têkçûnê re li hev dike: kî dinirxîne, kî dikare wê rawestîne, çi tê tomar kirin, piştî têkçûnekê çi dibe. Ger bersiv "model" be, bersivek we tune. Model piştî bûyerê naçin civînê. Ji bo bijîşkî, hiqûqî, krediyê, an operasyonên krîtîk ên ewlehiyê, mirov çerx e û model jî kurteyek e.

Ez çawa dikarim AI-ê teşwîq bikim da ku ez xeletiyan bigirim?

Bi zanebûn ji bo nezelaliyê bipirse: "Çi dê vê yekê xelet bike?" li şûna "ewle bike" ye. Dema ku hûn dikarin, vegerandina ji nifşê veqetînin. Pêşî li paragrafan binêrin, paşê nivîsê bipirsin. Cilûbergê biguherînin: ji nû ve binivîsin, an jî jê bipirsin ku berevajî wê nîqaş bike. Sînorkirinên wekî "tenê ji nivîsa ku min zeliqandiye" an "eger wenda be, bêje wenda ye," ferz bikin û dîsa jî kontrol bikin. Erkên bi verastkerek tercîh bikin, û li taybetmendiya zêde binêrin, ji ber ku ew der e ku halûsînasyon hez dike xwe xemilîne.

Referans

1. NIST - nvlpubs.nist.gov

2. NIST - airc.nist.gov

3. NIST - airc.nist.gov

4. ICO - ico.org.uk

5. NCSC - www.ncsc.gov.uk

6. NCSC - www.ncsc.gov.uk

7. OWASP - genai.owasp.org

AI-ya herî dawî li Dikana Alîkarên AI-ya Fermî bibînin

Çûna nava