Ev têgeh bilind xuya dike, lê armanc pir pratîkî ye: sîstemên AI-ê çêbikin ku mirov bikaribin pê bawer bin - ji ber ku ew bi awayên ku rêzê li mafên mirovan digirin, zirarê kêm dikin û sûdên rastîn peyda dikin têne sêwirandin, çêkirin û bikar anîn. Bes e - bi piranî.
Gotarên ku hûn dikarin piştî vê yekê bixwînin:
🔗 MCP di AI de çi ye?
Protokola hesabkirina modular û rola wê di AI de rave dike.
🔗 AI ya edge çi ye?
Vedibêje ka çawa pêvajoya li ser qiraxan biryarên AI-ê yên herêmî yên zûtir dihêle.
🔗 AI-ya hilberîner çi ye
Modelên ku nivîs, wêne û naveroka orîjînal a din diafirînin pêşkêş dike.
🔗 AI-ya ajan çi ye?
Ajansên AI yên xweser ên ku dikarin biryarên armanc-ajotin bidin, rave dike.
Etîka AI çi ye? Pênaseyeke hêsan 🧭
Exlaqa AI komek prensîp, pêvajo û rêgezên parastinê ne ku rêberiya me dikin ka em çawa AI-ê sêwirînin, pêş dixin, bicîh dikin û birêve dibin, da ku ew mafên mirovan, dadmendî, hesabdayîn, şefafî û qenciya civakî biparêze. Wê wekî qaîdeyên rojane yên rê ji bo algorîtmayan bifikirin - bi kontrolên zêde ji bo quncikên xerîb ên ku tişt dikarin xelet biçin.
Kevirên bingehîn ên cîhanî vê yekê piştgirî dikin: Pêşniyara UNESCOyê mafên mirovan, çavdêriya mirovan û edaletê dihewîne, û şefafî û dadperwerî wekî mijarên neguhêzbar nayên nîqaşkirin [1]. Prensîbên AI yên OECD armanc dikin ku pêbawer be ku rêzê li nirxên demokratîk bigire di heman demê de ji bo tîmên siyaset û endezyariyê pratîk bimîne [2].
Bi kurtasî, Exlaqê AI ne posterêk li ser dîwêr e. Ew pirtûkek lîstikê ye ku tîm ji bo pêşbînîkirina rîskan, îspatkirina pêbaweriyê û parastina mirovan bikar tînin. Çarçoveya Rêvebiriya Rîska AI ya NIST exlaqê wekî rêveberiya rîska çalak di seranserê çerxa jiyana AI de dibîne [3].
Çi etîka AI ya baş çêdike ✅
Ev guhertoya rasterast e. Bernameyeke baş a Exlaqê ya AI:
-
Tê jiyîn, ne laminatkirî ye - polîtîkayên ku pratîk û nirxandinên endezyariyê yên rastîn dimeşînin.
-
Ji çarçovekirina pirsgirêkê dest pê dike - heke armanc xelet be, tu çareseriyek dadperwerane wê xilas nake.
-
Belgekirina biryaran - çima ev dane, çima ev model, çima ev eşik.
-
Testên bi çarçoveyê re - li gorî binkomê binirxînin, ne tenê rastbûna giştî (mijarek bingehîn a NIST) [3].
-
Karê xwe nîşan dide - kartên modelê, belgekirina daneyan, û ragihandinên bikarhêner ên zelal [5].
-
Berpirsiyariyê ava dike - xwediyên bi nav, rêyên zêdekirinê, denetim.
-
Di vekirî de hevsengiya danûstandinan - ewlehî li hember kêrhatîbûnê li hember nepenîtiyê, hatiye nivîsandin.
-
Girêdana bi qanûnê ve girêdayî ye - pêdiviyên li ser bingeha rîskê ku kontrolên bi bandor pîvan dikin (li Qanûna AI ya YE binêre) [4].
Eger ew biryarek li ser hilberekê jî neguherîne, ew ne etîk e - ew dekor e.
Bersiva bilez ji bo pirsa mezin: Etîka AI çi ye? 🥤
Ew e ku tîm çawa bersivê didin sê pirsên dubare, dîsa û dîsa:
-
Divê em vê ava bikin?
-
Eger erê be, em çawa dikarin zirarê kêm bikin û wê îspat bikin?
-
Dema rewş ber bi xirabiyê ve biçe, kî berpirsiyar e û paşê çi dibe?
Bi awayekî bêzar pratîkî. Bi awayekî ecêb dijwar. Hêjayî wê ye.
Dozek piçûk a 60 saniyeyî (ezmûna di pratîkê de) 📎
Tîmeke fintech modelek sextekarîyê bi rastbûnek giştî ya mezin dişîne. Du hefte şûnda, bilêtên piştgiriyê ji herêmek taybetî zêde dibin - dravdanên rewa têne asteng kirin. Nirxandinek binkomê nîşan dide ku bîranîna wê deverê 12 xal ji navînî kêmtir e. Tîm ji nû ve daneyên berfireh dinirxîne, bi temsîlek çêtir ji nû ve perwerde dike, û kartek modelek ku guhertin, hişyariyên naskirî, û rêça îtîrazê ya bikarhêner belge dike. Rastbûn yek xal kêm dike; baweriya xerîdar bilind dibe. Ev exlaq e wekî rêveberiya rîskê û rêzgirtina bikarhêner , ne posterê ye [3][5].
Amûr û çarçoveyên ku hûn dikarin bi rastî bikar bînin 📋
(Xalên piçûk bi mebest hatine zêdekirin - ev jiyana rast e.)
| Amûr an Çarçove | Binêrevan | Biha | Çima ew dixebite | Têbînî |
|---|---|---|---|---|
| Çarçoveya Rêvebiriya Rîskê ya AI ya NIST | Berhem, rîsk, polîtîka | Belaş | Fonksiyonên zelal - Birêvebirin, Nexşekirin, Pîvandin, Birêvebirin - Tîman li hev bikin | Xwebexş, bi berfirehî tê behskirin [3] |
| Prensîbên OECD yên AI | Rêveber, siyasetmedar | Belaş | Nirx + pêşniyarên pratîkî ji bo AI-ya pêbawer | Hikûmeteke xurt a stêrka bakur [2] |
| Qanûna AI ya YE (li ser bingeha rîskê) | Yasayî, pabendbûn, CTO | Belaş* | Astên rîskê ji bo karanînên bi bandora bilind kontrolên rêjeyî destnîşan dikin | Mesrefên pabendbûnê diguherin [4] |
| Kartên Modelê | Endezyarên ML, PM | Belaş | Standardîze dike ka modelek çi ye, çi dike, û li ku derê têk diçe. | Kaxez + mînak hene [5] |
| Belgekirina daneyan ("pelên daneyan") | Zanyarên daneyan | Belaş | Çavkaniya daneyan, berfirehî, razîbûn û xetereyan rave dike | Wek etîketeke xurekê wê derman bike |
Nirxandina Kûr 1 - Prensîb di tevgerê de, ne di teoriyê de 🏃
-
Dadperwerî - Performansê li gorî demografî û çarçoveyan binirxînin; pîvanên giştî zirarê vedişêrin [3].
-
Berpirsiyarî - Xwediyên biryarên daneyan, model û bicihkirinê destnîşan bikin. Tomarên biryaran biparêzin.
-
Şefafî - Kartên model bikar bînin; ji bikarhêneran re bibêjin ka biryarek çiqas otomatîk e û çi rêyek heye [5].
-
Çavdêriya Mirovan - Bi hêza rawestandin/sererastkirina rastîn (ku ji hêla UNESCO ve bi eşkereyî li pêş hatiye destnîşankirin) mirovan bixin nav çerxê ji bo biryarên xetereya bilind [1].
-
Nepenî û ewlehî - Daneyan kêm bikin û biparêzin; rijandina dema texmînkirinê û karanîna xelet a paşîn li ber çavan bigirin.
-
Xêrxwazî - Feydeya civakî nîşan bide, ne tenê KPI-yên sade (OECD vê hevsengiyê çarçove dike) [2].
Gotineke biçûk: tîm carinan bi saetan li ser navên metrîkan nîqaş dikin dema ku pirsa zirara rastîn paşguh dikin. Çiqas ecêb e ku ev çawa dibe.
Nirxandina Kûr 2 - Rîsk û çawaniya pîvandina wan 📏
Dema ku hûn zirarê wekî rîskek pîvandî dibînin, AI ya exlaqî berbiçav dibe:
-
Nexşerêya çarçoveyê - Kî bandor dibe, rasterast û nerasterast? Pergal çi hêza biryardanê digire?
-
Lihevhatina daneyan - Nûneratî, drift, kalîteya etîketkirinê, rêyên razîbûnê.
-
Reftara modelê - Modên têkçûnê di bin guheztina belavkirinê, fermanên dijber, an têketinên xerabkar de.
-
Nirxandina bandorê - Giraniya × îhtîmal, kêmkirin, û rîska mayî.
-
Kontrolên çerxa jiyanê - Ji çarçovekirina pirsgirêkan bigire heya çavdêriya piştî bicihkirinê.
NIST vê yekê li çar fonksiyonan dabeş dike ku tîm dikarin bêyî ku çerxê ji nû ve îcad bikin bicîh bînin: Rêveberî, Nexşe, Pîvandin, Rêvebirin [3].
Kûrbûn 3 - Belgekirin ku we paşê xilas dike 🗂️
Du berhemên hunerî yên sade ji her sloganekê bêtir dikin:
-
Kartên Modelê - Model ji bo çi ye, çawa hatiye nirxandin, li ku derê têk diçe, nirxandinên exlaqî, û hişyarî - kurt, bi rêkûpêk, xwendî [5].
-
Belgekirina setên daneyan ("pelên daneyan") - Çima ev dane hene, çawa hatine berhevkirin, kî tê temsîlkirin, kêmasiyên zanîn, û karanînên pêşniyarkirî.
Heger we qet neçar mabe ku ji sazîyên rêkûpêk an rojnamevanan re rave bikin ka çima modelek nebaş tevgerîyaye, hûn ê ji bo nivîsandina van ji xweya berê re spas bikin. Qehweya paşerojê - hûn ê ji bo xwe bikirin.
Nirxandina Kûr 4 - Rêvebiriya ku bi rastî diqelişe 🧩
-
Astên rîskê diyar bikin - Fikra li ser bingeha rîskê deyn bikin da ku rewşên karanîna yên bi bandora bilind lêkolînek kûrtir bistînin [4].
-
Deriyên qonaxê - Nirxandina exlaqî di dema wergirtinê, berî destpêkirinê û piştî destpêkirinê de. Ne panzdeh derî. Sê bes in.
-
Jihevqetandina erkên - Pêşdebir pêşniyar dikin, hevkarên rîskê dinirxînin, rêber îmze dikin. Xetên zelal.
-
Bersiva bûyerê - Kî modelekê rawestîne, bikarhêner çawa têne agahdarkirin, sererastkirin çawa xuya dike.
-
Denetimên serbixwe - Pêşî hundirîn; derveyî li cihê ku pêdiviya me bi pişkdariyê heye.
-
Perwerde û teşwîq - Xelatkirina derxistina pirsgirêkan di zû de, ne veşartina wan.
Werin em rastgo bin: Ger rêveberî qet nebêje na , ew ne rêveberî ye.
Gotina Kûr 5 - Mirov di nav lepê de ne, ne wekî pêvek 👩⚖️
Çavdêriya mirovan ne qutiyek kontrolê ye - ew hilbijartinek sêwiranê ye:
-
Dema ku mirov biryar didin - Sînorên zelal ên ku divê mirov li ku binirxîne, nemaze ji bo encamên xetereya bilind.
-
Şirovekirin ji bo biryarderan sedema wê û hem jî nezelaliyê bide mirovan .
-
Xalên bersivdayîna bikarhêner - Bila bikarhêner biryarên otomatîkî nîqaş bikin an jî rast bikin.
-
Gihîştin - Navrûyên ku bikarhênerên cûda dikarin fêm bikin û bi rastî bikar bînin.
Rêbernameya UNESCOyê li vir hêsan e: rûmet û çavdêrî bingehîn in, ne vebijarkî ne. Berhemê wisa ava bikin ku mirov bikaribin berî ku zirarê bidin destwerdanê bikin [1].
Têbînî - Sînorê din: neuroteknolojî 🧠
Her ku AI bi neuroteknolojiyê re dikeve têkiliyê, nepeniya derûnî û azadiya ramanê dibin mijarên rastîn ên sêwiranê. Heman rêbaz jî derbas dibe: prensîbên maf-navendî [1], rêveberiya pêbawer-bi-sêwiranê [2], û parastinên rêjeyî ji bo karanînên xetereya bilind [4]. Li şûna ku paşê wan bi kilît ve girêdin, rêgirên parastinê yên zû ava bikin.
Tîm çawa bersiv didin Etîka AI çi ye? di pratîkê de - rêyek xebatê 🧪
Vê çerxa hêsan biceribîne. Ne bêkêmahî ye, lê bi serhişkî bi bandor e:
-
Kontrolkirina armancê - Em çi pirsgirêka mirovan çareser dikin, û kî sûd werdigire an jî rîskê hildigire?
-
Nexşeya çarçoveyê - Xwedîyên berjewendî, jîngeh, astengî, metirsiyên naskirî.
-
Plana daneyan - Çavkanî, razîbûn, temsîliyet, parastin, belgekirin.
-
Sêwirandin ji bo ewlehiyê - Ceribandina dijber, tîmîkirina sor, nepenî-bi-sêwiranê.
-
Edaletê pênase bike - Metrîkên guncaw ji bo qadê hilbijêre; tawîzan belge bike.
-
Plana şirovekirinê - Çi dê were ravekirin, ji kê re, û hûn ê çawa kêrhatîbûnê piştrast bikin.
-
Karta modelê - Zû pêşnûmeyê çêke, di dema xebatê de nûve bike, di dema destpêkirinê de biweşîne [5].
-
Deriyên rêveberiyê - Nirxandinên rîskê bi xwediyên berpirsiyar re; avahî bi karanîna fonksiyonên NIST [3].
-
Çavdêriya piştî destpêkirinê - Pîvan, hişyariyên ji rê derketinê, pirtûkên lîstikê yên bûyeran, bangewaziyên bikarhêneran.
Eger gavek giran xuya bike, wê li gorî rîskê bipîve. Hîle ev e. Zêde-endezyariya botek rastkirina rastnivîsê alîkariya kesî nake.
Exlaq li dijî pabendbûnê - cudahiya tûj lê pêwîst 🌶️
-
Exlaq dipirse: gelo ev ji bo mirovan tiştê rast e?
-
Pabendbûn dipirse: gelo ev li gorî rêziknameyan e?
Pêdivîya te bi herduyan jî heye. Modela YEyê ya li ser bingeha rîskê dikare bibe pişta pabendbûna te, lê divê bernameya te ya exlaqî ji kêmtirîn mercan derbas bibe - nemaze di rewşên karanîna nezelal an nû de [4].
Metaforeke bilez (şaş): pabendbûn têl e; exlaq şivan e. Têl te di nav sînoran de dihêle; şivan te di rêya rast de dihêle.
Xeletiyên hevpar - û li şûna wê çi bikin 🚧
-
Xefik: şanoya exlaqî - prensîbên xeyalî bêyî çavkanî.
Çareserkirin: dem, xwedan, û xalên kontrolê veqetînin. -
Xefik: navînîkirina zirarê - pîvanên giştî yên baş têkçûna binkomê vedişêrin.
Çareserkirin: her gav li gorî binkomên têkildar binirxînin [3]. -
Xefik: nepenî wekî ewlehiyê tê veşartin - veşartina hûrguliyan ji bikarhêneran.
Çareserkirin: eşkerekirina şiyan, sînor û rêbazan bi zimanekî sade [5]. -
Xefik: denetim di dawiyê de - dîtina pirsgirêkan berî destpêkirinê.
Çareserkirin: ber bi çepê ve bizivirîne - exlaqê bike beşek ji sêwiran û berhevkirina daneyan. -
Xeletî: lîsteyên kontrolê bêyî biryardanê - şopandina forman, bê mantiq.
Çareserkirin: şablonan bi nirxandina pisporan û lêkolîna bikarhêneran re bikin yek.
Pirsên Pir tên Pirsîn - tiştên ku her çi dibe bila bibe ji we tên pirsîn ❓
Ma Exlaqê AI li dijî nûjeniyê ye?
Na. Ew nûjeniyeke alîkar e ji bo sûdwergirtinê. Exlaq ji rêyên bê encam ên wekî pergalên alîgir dûr dikeve ku dibin sedema bertek an tengasiyên qanûnî. Çarçoveya OECD bi eşkere nûjeniyê bi ewlehiyê pêş dixe [2].
Ger berhema me xetereya wê kêm be, gelo pêwîstiya me bi vê heye?
Belê, lê siviktir. Kontrolên rêjeyî bi kar bînin. Ev fikra li ser bingeha xetereyê di rêbaza YE de standard e [4].
Pêdivî bi kîjan belgeyan heye?
Herî kêm: belgekirina daneyên sereke ji bo daneyên we, qarteke modelê ji bo her modelekê, û qeyda biryara berdanê [5].
Kî xwediyê Etîka AI ye?
Her kes xwediyê reftaran e, lê tîmên hilber, zanista daneyan û rîskê hewceyê berpirsiyariyên bi nav in. Fonksiyonên NIST-ê stûyek baş in [3].
Pir dirêj e min nexwendiye - Têbînîyên dawî 💡
Eger te ev hemû bi awayekî zelal xwendiye, bingeha wê ev e: Etîka AI çi ye? Ew dîsîplînek pratîkî ye ji bo avakirina AI-ê ku mirov dikarin pê bawer bin. Bi rêbernameya berfireh a pejirandî ve girêdayî bin - nêrîna maf-navendî ya UNESCO-yê û prensîbên AI-ê yên pêbawer ên OECD-yê. Çarçoveya rîskê ya NIST-ê bikar bînin da ku wê bixin pratîkê, û bi kartên model û belgekirina daneyan re bişînin da ku hilbijartinên we xwendî bin. Dûv re guh bidin bikarhêneran, xwediyên berjewendiyan, çavdêriya xwe - û sererast bikin. Etîk ne tiştekî carekê ye; ew adetek e.
Û belê, carinan tu dikarî rêça rast bikî. Ev ne têkçûn e. Kar ev e. 🌱
Referans
-
UNESCO - Pêşniyara li ser Etîka Zekaya Sûni (2021). Girêdan
-
OECD - Prensîbên AI (2019). Girêdan
-
NIST - Çarçoveya Rêvebiriya Rîska Zekaya Sûni (AI RMF 1.0) (2023) (PDF). Girêdan
-
EUR-Lex - Rêziknameya (YE) 2024/1689 (Qanûna AI). Girêdan
-
Mitchell û yên din - "Kartên Modelê ji bo Raporkirina Modelê" (ACM, 2019). Girêdan