CLM-8B Nû Derket: Modela Nû ya AI ya Vekirî ku Îdia Dike ku Ji bo Ajanan Heta 9 Caran Ji Jev Zûtir e

Bersiva kurt: CLM-8B Modelek Zimanê Berevajî ya ku armanc dike biryarên bilez ên ajanan bide, bi îdiayên nivîskaran ku derengmayîna wan heta 9 carî kêmtir e ji hevtayên pola Jev. Ew hejmar li derveyî sazkirina berdanê nehatine piştrast kirin. Ger hûn ajanên kodkirinê ava dikin, berî ku hûn baweriya xwe bi nexşeyan bînin, wê li ser kembera xwe A/B bikin.

Xalên sereke:

Îdiayên derengmayînê: Leza ~9× Jev wekî ku ji hêla nivîskar ve hatî ragihandin derman bikin heya ku yên din wê dubare bikin.

Kembera nirxandinê: Dema ceribandina A/B ya CLM-8B amûr û agahdariyên pêwîst rast bigirin.

Stacka hîbrîd: Ji bo lûpên germ CLM bikar bînin; ji bo karên nû sedemek hêdîtir bihêlin.

Giraniya vekirî: Berî şandina forkên bazirganî, pelên lîsansa Apache piştrast bikin.

Rîska bikaranîna xelet: Dema ku ajan di mîlîçirkeyan de biryar didin, amûr û razên berevajîkirî vedikin.

CLM-8B Hewl Dide Bibe Çi ⚡

Perwerdehiya Modela Zimanî ya Berevajîker, wekî ku ji hêla kesên ku vê daketinê pêşve dixin ve hatî ravekirin, li ser girêdana rewşan û çalakiyan e, ne ku îhtîmala nîşana din bi tenê zêde bike. Bi gotinên zelal: model tê teşwîqkirin ku "rewş ev e" bi "gav ev e" ve girêbide, bêtir mîna serokê siyasetê ye ne mîna romannivîsekî. Ev analojiya Sîstema 1 e ku lêkolîner her gav digihîjin wê - bilez, hevkar, bi şiklê biryarê - berevajî şêwaza zincîra dirêj a ramanê ya Sîstema 2 ku nîşanan dişewitîne dema ku ew bi dengekî bilind difikire.

CLM-8B yekem giraniya giştî ye ku di wê rêzê de hatiye danîn. Ew wekî berdanek lêkolîna vekirî bi lîsansa Apache 2.0 li ser vegirtinê ku bi berdanê re tê de ye, tê danîn, ku girîng e ger hûn dixwazin bêyî pîknîkek parêzerî baş bikin, bişînin, an jî belav bikin. Jacky Kwok xebat da nasîn; Azalia Mirhoseini, ku bi Stanfordê ve girêdayî ye, wê berfireh kir; û çarçoveya berfirehtir Stanford û NVIDIA nîşan dide. Lêkolînerên bi nav, giraniya giştî, koda vekirî - ne rijandina anonîm. Ji bo dubarekirina partiya sêyemîn hîn zû ye, ji ber vê yekê rêza gumanbariyê li cîhek di navbera "balkêş" û "desteya serbixwe nîşanî min bide" de bihêlin.

Pola mezinahîyê heşt milyar parametre ye, ku ew qas piçûk e ku laboratuar û avakerên serbixwe dikarin bêyî firotina gurçikekê ji bo dema H100 wê mêvandar bikin. Jixwe behsa CLM-35B kirin. Gelo ew xwişk û birayê mezintir çîroka latency diparêze an jî leza bi kûrahiyê diguherîne hîn ne diyar e, lê nîşana nexşerêyê eşkere ye: ev ji bo malbatekê ye, ne ji bo qerta demo ya yekcarî.

•  Fokus: rewş → çerxên çalakiyê ji bo ajanan, ne nivîsandina gotaran
•  Lîsans wekî Apache 2.0 di çarçoveya nixumandinê de li dora berdanê hatî çarçovekirin
•  Şêwaz: Sîstema 1 / çîroka perwerdehiyê ya biryar-navendî
•  Paşveçûn: CLM-35B-ya mezintir wekî planek hatî behs kirin

Şêwaza Sîstema 1 li hember Treadmill-a Token a Asayî 

Piraniya LLM-yên hilberînê yên ku hûn dizanin nivîsê yek bi yek nîşanek çêdikin. Ev ji bo nivîsên nivîskî, kodên dubarekirî û şopên aqilmendiya baldar pir baş dixebite. Ev jî sedema wê yekê ye ku ajanek ku di hûrdemê de hewceyê bîst mîkro-biryaran e, dikare xwe sist hîs bike, tewra dema ku model "zîrek" be jî. Her gav baca otoregresyon dide.

Modela Zimanê Berevajî balê diguherîne. Li şûna ku hûn ji torê bixwazin ku rêya xwe vebêje û bibe bersivek, hûn wê perwerde dikin ku çalakiya rast a li gorî rewşekê tercîh bike - kişandinên berevajî di navbera tevgerên baş û xirab de bifikirin, ne tenê berdewamiyên herikbar. Avaker jixwe qalibê dizanin: carinan hûn ne hewceyî mantiqek hezar peyvan in; hûn hewce ne ku model li şûna rm -rf pytest binivîse . Loopên bilez li ser vê cûdahiyê eleqedar dibin.

Ti ji van nayê wê wateyê ku CLM-8B nikare nivîsê derxe. Ev tê wê wateyê ku armanca perwerdeyê û çîroka nirxandinê ber bi kontrola ajantiyê ve meyldar in. Ev şiklek hilberê ji "modela sohbetê ya ku dikare amûran jî gazî bike" cuda ye. Pîşesaziyê bi salan modelan çêtir kiriye da ku li ser amûran biaxivin dema ku hîn jî di axaftinê de tengasiyê dikişîne. Modelek ku pêşî biryar digire cureyek tevgera alî ye ku an di paşveçûnê de eşkere xuya dike an jî dema ku pîvan tevlihev dibin têk diçe. Her du encam jî mimkun in.

Leza Daxwazkirî û Hejmarên Bench (Wek Daxwazan Bihesibînin)

Ev beşa ku postên civakî dimeşîne ev e: pêşvebir îdîa dikin ku texmînkirin heta 9 carî ji modelên pola Jev zûtir e. Piştî mîhengkirina sivik, ew encamên kodkirina ajantiyê yên bihêz jî radigihînin - DeepSWE bi qasî 81.6% serkeftin û Terminal-Bench 2.1 bi qasî 87.6%. Di hin nirxandinan de ew performansa sifir-shot wekî berawirdî Jev diyar dikin, lê derengmayîn pir kêmtir dimîne. Kurteya klusterê ya ku bi sohbeta berdanê re diherike, bi qasî 32 demên bersivdayînê yên pola ms li ser mîhenga bench-a termînalê destnîşan kir. Hevokek ku bi baldarî hatiye gotin: hatiye ragihandin û îdîakirin, di vê gotarê de bi serbixwe nehatiye vekolandin.

Eger ew hejmarên latency giştî bibin, qezenca pratîkî ew e ku GPU-yên kêmtir ji bo her ajanek hevdem, an jî ajanên zêdetir ji bo her GPU-yê bin. Ajanên kodkirinê yên ku qalikekê dişkînin bi taybetî hesas in ji ber ku li benda demjimêra dîwêr kom dibin; biryarek 200 ms û biryarek 30 ms piştî çend sed zivirînan wekî hilberên cûda hîs dikin. Bikarhêner pir caran "model ehmeq e" sûcdar dikin dema ku êşa tûjtir derengiya înteraktîf e.

Dîsa jî - û ev paragrafa çavdêriya mezinan e - kursiyên nivîskaran heta ku kesek din wan li ser alavên hevpar bi pêşniyarên hevpar ji nû ve hilberîne, bazar dikin. Encamên mîhengkirina sivik jî dikarin gelek astengiyan veşêrin. Hejmarên DeepSWE û Terminal-Bench ên bihêz tam ji ber ku ew sûîte ajanên şikestî ceza dikin, heyecan in, lê heyecan dubarekirin nîne. Notek zeliqok bigirin ku li ser 9× û li ser wê fîgura pola 32 ms dibêje CLAIM. 

Tabloya Berawirdkirinê: LLM-yên Token-bi-Token li hember Çarçoveya Şêwaza CLM

Tablo dema ku zimanê pazarvaniyê nelihev dibe alîkar. Ev yek adetên nifşê LLM-ê yên tîpîk bi çîroka Modela Zimanê Berevajî re, wekî ku lêkolîner diyar dikin, berawird dike. Xane bi zanebûn hinekî ne yekreng in ji ber ku berawirdkirinên berbiçav her gav ne yekreng in.

Tabloyê wekî modelek derûnî bikar bînin, ne wekî biryarek. Tîmên hilberê hîn jî hewce ne ku hêza xwe bipîvin: şêmayên amûran, polîtîkaya ceribandina dubare, û dengê jîngehê dê ji ya ku dekê slaytê qebûl dike bêtir puanan biguhezînin.

Kî li pişt Deng e 👤

Wesfkirin girîng e ji ber ku berdanên AI yên vekirî ji berdanên laboratûarê yên bi baldarî bigire heya torrentên sirrî diguherin. Ev yek rû hene. Jacky Kwok CLM da nasîn; Azalia Mirhoseini alîkarî kir ku ew ber bi dîtinek berfirehtir ve biçe; vegirtin bi domdarî hevkariyek lêkolînê ya girêdayî Stanford û NVIDIA çarçove dike. Ev bi awayekî efsûnî her hejmarê rast nake, lê ew çermê navûdengê dixe nav lîstikê. Berdanên vekirî yên lêkolînerên bi navkirî ji berdanên anonîm zûtir di bin ceribandina stresê de ne - hevpîşeyên wan ji hedefek giştî hez dikin.

Ji bo avakeran, bandora pratîkî gihîştin e. Giraniya vekirî û lîsansek şêwaza Apache 2.0 (wekî ku di dema destpêkirinê de hatî vegirtin) bi gelemperî tê vê wateyê ku hûn dikarin bi bazirganî ceribandinan bikin bi kêmtir xeletiyan ji lîsansên tenê-lêkolînê. Berî ku hûn tiştek bişînin, pelên lîsansê yên rastîn ên di berdanê de bi xwe kontrol bikin; kurteyên vegirtinê ne peymanek e. Ev dibe ku pedantîkî xuya bike, lê pedantîzma lîsansê destpêkan xilas dike.

Şêweya zêdekirina civakî nas e: posta lêkolîner, postên gotinên zêdekerê rêzdar, dû re pêlek "ajanên ku di dawiyê de çareser bûne" digire. Ji bo kesên ku hûrguliyên kelûpelan parve dikin fîltre bikin. Dîmenên ekranê yên yek xebitandina kodkirinê ya serketî şanoya hestan e, ne zanist e. 🛰️

Çima Loopên Dewlet-ber-Çalakiyê Kodkirina Ajansê Xwedî Dikin 

Kodkirina ajantî jîngeheke hovane ye. Model wêneyekî depoyê, transkrîpteke shellê, dibe ku ceribandineke têkçûyî dibîne, û divê sererastkirinek an fermanekê hilbijêre. Serkeftin ji sohbetê pir caran dualî ye. An test kesk dibe an na. Ew şeklê xelatê polîtîkayên ku çalakiyan bi awayekî paqij hildibijêrin li ser modelên ku gotarên têkçûnê yên xweşik dinivîsin tercîh dike.

Çîrokên perwerdehiya berawirdî li gorî wê cîhanê ne ji ber ku ew bi eşkereyî torê ber bi çalakiyên tercîhkirî di bin rewşek diyarkirî de dikişînin. Wê wekî fêrkirina endezyarek ciwan bifikirin "dema ku hûn vê çîna çewtiyê dibînin, li şûna "posteyek blogê binivîsin ka çima berhevkar dijwar in, li vê qaliba rastkirinê bigerin". Endezyarê ciwan hîn jî hewceyê biryarê ye; kurtebir tenê lerizînê kêm dike.

Latency li vir zêde dibe. Bifikirin ku ajanek bi navînî heştê gavên amûran diavêje da ku rastkirinek xeletiyek navîn bibîne. Ji bo her gavê 150 ms kêm bikin û hûn diwanzdeh saniyeyên demjimêra dîwar vedigerînin - ku ev cûdahiya di navbera rewşa herikînê û bikarhênerek ku bi alt-tabê ji bo kontrolkirina e-nameyê dûr dikeve ye. Tîmên ku filoyên ajanan dimeşînin hîs dikin ku ev matematîk di fatûreyên ewr de jî heye. Lezgîniyek texmînkirina rêza-mezinahiyê ya îdiakirî li hember hevtayek pola Jev, her çend ew di xwezayê de "tenê" 4× be jî, dîsa jî plansaziya kapasîteyê ji nû ve rêz dike.

Metaforeke lerzok heye ku ez di civînan de her tim bikar tînim: modelên sohbeta nîşanek-bi-nîşanek mîna nîqaşkirina rêyê li her xaçerêyekê ne, lê kontrolkerek şêwaza Sîstema 1 bêtir mîna bîra masûlkeyan ji bo ajotina bajêr e. Bîra masûlkeyan li bajarekî nû têk diçe. Dema ku çanda depoyê taybetî be, modelek çalakiyê ya teng-mîhengkirî jî têk diçe. Hûn hîn jî ji bo hilbijartinên mîmariya nû modên şêwirdarî dixwazin; hûn ji bo pêncî "împortê rast bikin û ji nû ve bixebitin" refleksan dixwazin. Stakên hîbrîd - kontrolkerek bilez a mîna CLM-ê û her weha sedemek girantir li ser şaxên hişk - dibe ku ew cih bin ku pergalên cidî lê dadikevin, her çend postên destpêkirinê modelek qehremanek yekane bifroşin. 🚦

Her wiha hêjayî gotinê ye: kursiyên kodkirina ajantiyê yên wekî DeepSWE û Terminal-Bench xelatên scaffolding. Kalîteya têlkirinê, navnîşên destûrdayîna amûran, û pêşniyarên vegerandinê dikarin rêjeyên serkeftinê bi du reqeman biguherînin. Dema ku hûn piştî mîhengkirina ronahiyê ~%81.6 an ~%87.6 dibînin, li kîjan pêçanê li dora giraniyan rûniştiye bigerin. Ev ne siya ye; ew awayê xebata qadê ye.

Giraniyên Vekirî, Mîhengkirina Baş, û Siya 35B 

Giraniyên vekirî dînamîkên civakî yên îdîayekê diguherînin. Modelên API-yên girtî dikarin nexşeyekê nîşan bidin û we li ser qirêjbûn, hîleyên deşîfrekirinê, an jî fermanên pergalê yên veşartî bihêlin. Bi parametreyên dakêşbar hûn dikarin bi kêmanî tiştê kontrol bikin. Mîhengkirina CLM-8B ji bo jîngeha kodkirina navxweyî ya we - qaîdeyên lint-a we, CLI-ya we ya bicihkirinê, topolojiya monorepo-ya we - rêya rastîn a berbi hejmarên bench ên geş e, ne sêrbaziya sifir-guleyê di roja yekem de.

Çarçoveya Apache 2.0 (li gorî bergê) ji bo avakeran minasib e: zimanê dayîna patentê, normên ji nû ve belavkirinê yên zelal, kêmtir dafikên "tenê lêkolîn" hene. Dîsa: dosyeyan bixwînin. Nivîskarên bergê kurteber dikin; parêzer pispor in.

CLM-35B ya plankirî fîlê di nexşerêya rê de ye. Modelên mezintir pir caran jêhatîbûna xwe ya bi baldarî vedigerînin û hin ji xweşikbûna "biçûk û pir zû" winda dikin heya ku hîleyên spekulatîf derengmayînê kontrol nekin. Ger guhertoya heşt milyarî otomobîla werzîşê be û sî û pênc milyarî sedana gerok be, tîm dikarin herduyan jî bihêlin: 8B ji bo gerên germ, 35B ji bo plansaziya dijwar. An jî modela mezintir dibe ku tenê serdest be ger hardware erzantir bibe. Kîjan pêşeroj tê hîn jî ne diyar e; notên berdanê yên pêşerojê dê biryar bidin, ne ev paragraf.

Rîskeke veşartî ya modelên ajanên vekirî: mirov wan bêyî sînorên rêjeyê dixin nav CI û bi rêya README-yên xerabkar derzîkirina bilez kifş dikin. Modelên bilez bi heman awayî ku nirxa pratîkî zêde dikin, karanîna xelet zêde dikin. Parastvan ne cosplayek vebijarkî ne; ew hilber in. 

• Berî ku hûn kalîteyê binirxînin, şopên xwe baştir bikin
• Ji bo karên nû, sedemek hêdîtir wekî deriyek revê bihêle
• Latencyiya amûrê p50/p95 di kembera we de, ne tenê rastbûn
• Bifikirin ku 35B dê sînorê Pareto dîsa biguhezîne

Xwendina Berawirdkirina Jev bêyî ku berf lê were kişandin 

Berawirdkirin bi modelên pola Jev re karekî retorîkî dikin. Ew di asta leza ajantiyê de hevtayek ava dikin, ji ber vê yekê "heta 9 carî zûtir" referansek heye. Îdiayên têkildar hewceyê lengerekê ne, û ev yek jî rast e. Xetere ew e ku tevahiya stûna nirxandinê di nav pirjimarek yekane de hilweşe. Mezinahiya komê, rastbûn, mîhengên dekodkirinê, dirêjahiya kontekstê, û rêzefîlmkirina banga amûrê hemî wateya "leztir" ji nû ve şekil didin, û ew bişkok kêm kêm di heman slaytê de xuya dibin.

Dema ku kurteyek komê bersivên ~32 ms-class li ser mîhenga bench-a termînalê destnîşan dike, "bersiv" wekî etîketek nezelal bihesibîne heya ku kesek bi kurtasî bibêje ka ew tê wateya nîşana yekem, JSON-a çalakiya tevahî, an pêşgirek cached. Ew cûdahî milîçirkeyên kirrûbirrê vediguherînin demjimêrên endezyariyê. Kalîteya sifir-şûşeyê ya berawirdî bi derengiya kêmtir hevberdana xewnê ye; heke komên serbixwe nîvê wê xewnê jî piştrast bikin, perwerdehiya bi şêwaza CLM kursiyek daîmî di civînên mîmariyê de qezenc dike.

Heta wê demê, Jev bêtir wekî çîrokeke reqabetê bihesibîne ne wekî tabloyeke rêzgirtinê ya aram. Reqabet postan difiroşin. KPI-yên hilberîna we eleqeya xwe bi çîrokê naynin. Serkeftina peywirê, dolar ji bo her bilêtek çareserkirî, û rêjeya destwerdana mirovan bipîvin. Ger forkek Modela Zimanê Berevajî wan qezenc bike, pîroz bike. Ger ew tenê Twitter qezenc bike, berdewam bike. 🚶

Demê nakokiyeke sivik: çîrokên reqabetê hîn jî giraniya xwe dikişînin. Ew laboratûvaran neçar dikin ku li şûna atmosferek xweş hejmaran biweşînin. Tenê tabloya skorê bi werzîşê re tevlihev nekin.

Tiştên ku Ev Bername Pêdivî ye ku Rast Bibe 

Ji bo ku CLM-8B ji çerxek nûçeyan wêdetir jî girîng be, çend tişt divê bên eşkerekirin:

• Dubarekirin: komên derve divê bikaribin derengiya sernavê û rêjeyên serkeftina kodkirinê bi reçeteyên belgekirî re li hev bikin.
• Şefafiya bikaranînê: hûrguliyên pêça ajantê yên ku puanên DeepSWE û Terminal-Bench hilberandine parve bikin.
• Belgeyên ku telepatiya laboratîfê texmîn nakin: skrîptên mîhengkirina zelal, fermanên nirxandinê, û notên hardware.
• Modên têkçûnê: nîşan bide ka biryarên şêwaza Sîstema 1 li ku derê têk diçin - API-yên nû, bilêtên nezelal, operasyonên hesas ên ewlehiyê.
• Riya nûvekirinê: zelal bike ka CLM-35B çawa bi hev ve girêdayî ye da ku tîm zêde li ser stûna xwe ya 8B zêde bicîh nebin.

Eger ew qutî vala bimînin, model dibe kaxezek din a balkêş. Ger ew tijî bibin, platformên ajanan hilbijartinek pêkhateyek berbiçav digirin: LLM-ya bi baldarî ji bo ramana dijwar, modela bilez a berevajî ji bo destên lerizîner. Ew dabeşkirina kar ji texmînkirina ku megamodelek divê her karî di her budceya latency de bike mezintir xuya dike.

Dersên Pratîkî ji bo Avakerên ku Ajansan Dişînin 

Pêdivîya te bi ji nû ve nivîsandina stacka xwe sibê tune. Ji bo nirxandina modelên biryar-lez, pêdivîya te bi planeke heye. Bi çêkirina perçeyek krîtîk a latency-ê ya ajansa xwe dest pê bike - dibe ku mîkro-lûpa termînalê an jî gava "hilbijêre grep next" - û A/B CLM-8B-yek li gorî hêza xebatê ya heyî mîheng bike. Têla elektrîkê sabît bihêle. Her tiştî tomar bike.

Li paşveçûnên kalîteya bêdeng temaşe bikin: modelên ku bi kiryarên xelet ên bi bawer tavilê bersiv didin, di depoyên bi xetereyên bilind de ji yên rast û hêdî xirabtir in. Gavên verastkirinê zêde bikin. Amûrên berevajî tercîh bikin. Dema ku bawerî kêm be, ji bo bangek modela duyemîn budçeyê destnîşan bikin - erê, ev yek hin ji qezenca lezê dixwe, û ev baş e. Leza bêyî firênan ew e ku demo çawa dibin qutbûn.

Ji aliyê rêxistinî ve, pelên kapasîteyê bi stûnek ji bo "çalakiyên di her saniyeyê de ji bo her GPU" nûve bikin, ne tenê nîşanekan di her saniyeyê de. Karê karên ajantiyê girîngiyê dide biryaran, ne rêjeya helbestê. Ger îdiaya ~9× ya nivîskaran bi qismî jî bi têkiliya bi alavên we re bimîne, pelrêça we dê cûda xuya bike. Ger ne wisa be, we bi erzanî fêr bûye.

Û ji kerema xwe, ji bo hezkirina operasyonan, sirên hilberînê nexin nav ajanek ceribandinê ji ber ku model "ewle" hîs dikir. Modelên ku bi lez vedibin hêsantir dikin ku pergalên siya ku kes nirxandinê nake werin zivirandin. Pêvajo hîn jî girîng e. 

Mijarên Vekirî Hîn jî Daliqandî ne 

Çend mijarên çaresernekirî rê li ber min digirin ku ez ji moda danasînê ya tevahî dûr bisekinim:

• Çend ji serkeftina kodkirinê ya ragihandî girêdayî giraniyê ye li hember daneyên rastkirina hûr û pêçanê ne diyar e.
• Çarçoveya Sîstema 1 dibe ku zirav bibe dema ku peywir hewceyê plansaziya demdirêj bin ne ku refleksên qalikê herêmî.
• Dibe ku CLM-35B çîroka latency biparêze an jî bibe LLM-yek din a navîn a bihêz.
• Tercîhên çalakiya berevajî dikarin di bin guheztina belavkirinê de şikestî bibin - zimanên nû, CLI-yên ewr ên nû, depoyên dijber.
• Çîroka ewlehiyê hîn jî hewceyê beden û qewetê ye dema ku çalakî di mîlîçirkeyan de têne kirin.

Ew ne tiştên ku ji bo tîmê hatine çêkirin in. Ew kontrolên ku divê her nirxandinek pejirandinê ya cidî bike ne. Guhertoyên vekirî yên zû hêjayî lêkolînek baldar û aloziyê ne, ne sazkirinên kor.

Xeta Jêrîn 

CLM-8B Modelek Zimanê Berawirdî ya vekirî, bi çarçoveya Apache (li gorî bergê) ye ku armanc dike ku tevgera bilez a rewş-bi-çalakiyê ji bo ajanan çêbike, ku ji hêla Jacky Kwok ve bi amplîfîkasyona ji Azalia Mirhoseini ve ji raya giştî re hate pêşkêş kirin û wekî lêkolînek girêdayî Stanford/NVIDIA hate çarçove kirin. Sernav îdîa dike - heya nêzîkî 9 carî ji texmîna çîna Jev zûtir, encamên DeepSWE û Terminal-Bench ên bihêz piştî mîhengkirina sivik, kalîteya guleya sifir a berawirdî bi derengiya pir kêmtir, di nav de sohbetên li ser bersivên termînalê yên çîna ~32 ms - ji hêla nivîskar ve hatine ragihandin û hîn jî li benda pejirandina berfireh a partiya sêyemîn in. CLM-35B-yek mezintir li ber çavan e.

Eger hûn pergalên kodkirina ajantiyê ava bikin, ev hêjayî nirxandinek baldar e, ne ol e. Wê wekî kontrolkerek namzed a Sîstema 1 di stûnek hîbrîd de bihesibînin, kembera xwe bipîvin, û stîkera CLAIM li ser her nexşeyê bihêlin heya ku xebitandinên serbixwe pêk werin. Beşa balkêş ne modelek sohbetê ya din bi logoyek nû ye. Beşa balkêş ev e ku gelo perwerdehiya bi şiklê biryarê dikare ajanan bêyî ku wan bi bêwijdanî xelet bike, tavilê hîs bike.

Nimûneyek pratîkî: Avakirina nirxandinek mîkro-lûpê ya ajana krîtîk a latency-krîtîk ji bo CLM-8B

Nexşeyên nivîskaran ên li ser CLM-8B Just Daxistî: Modela Nû ya AI ya Vekirî ku Îdia Dike ku Heta 9 carî Ji Jev Zûtir e ji bo Ajanan dikarin balkêş xuya bikin; kembera we tenê deng e ku girîng e. Li vir e ku tîmek amûrên serbixwe ya Keyaniya Yekbûyî çawa CLM-8B wekî kontrolkerek Sîstema 1-ê ya namzet - ne cîgirê sohbetê - bi kar anî û ew li ser mîkro-lûpa termînala xwe pîvand.

Senaryo

Sam berhemeke biçûk dimeşîne ku ji bo refaktorên pir-pelî berê ajaneke kodkirinê ya girantir bikar tîne. Beşa bi êş çerxa germ e: transkrîpteke testê ya têkçûyî bixwîne, qalikê din hilbijêre an çalakiya guherandinê bike, bixebitîne, dubare bike. Bikarhêner ji bersivên bêzar kêmtir gilî dikin, ji derengketina lepikên zivistanê di pêncî gavên amûran de. Postên medyaya civakî giraniya Modela Zimanê Berevajî û leza ~9× ya îdîakirî li gorî hevtayên pola Jev zêde dikin, û her weha hejmarên DeepSWE / Terminal-Bench ên bihêz piştî mîhengkirina sivik. Sam red dike ku hilberînê li ser nexşeyek çapameniyê ji nû ve binivîse.

Ew mîkro-lûpek krîtîk a latency derdixin holê: bîst şopên rastkirina xeletiyan ji monorepoya xwe. Karkerê heyî rêya biryardayînê ji bo bilêtên mîmariya nû dimîne. CLM-8B - heke li ser şopên xwe were mêvandar kirin û bi sivikî were mîheng kirin - tenê destûr tê dayîn ku di gava "hilbijartina çalakiya berevajî ya din" de pêşbaziyê bike, bi sedemek hêdîtir wekî deriyê revê dema ku bawerî kêm be.

Armanc A/Byek e ku têla elektrîkê sabît dihêle: heman amûr, heman lîsteya destûrdayînê, heman siyaseta ceribandina dubare. Çalakiyên her saniyeyê, derengketina p50/p95, serkeftina peywirê, û destwerdanên mirovan tomar bike - dûv re biryar bide ka giraniya vekirî cîhek qezenc dike an na.

Tiştê ku alîkar hewce dike

• Bîst şopên testên têkçûyî yên anonîm ji xebata rastîn (tenê têketin + amûrên destûrdayî)
• Pêçek ajanek sabît: şema amûran, lîsteya destûrdayînê, gavên herî zêde, û şaxek "gazîkirina sedemek hêdî"
• Xalên bingehîn li ser modela heyî ji bo heman bîst peywirên
• Têbînîyên hardware ji bo mêvandara CLM-8B (pola GPU, rastbûn, kom) ji ber vê yekê "leztir" referansek heye
• Qaydeyek çîtikê ya CLAIM: nivîskar DeepSWE / Terminal-Bench / ~9× / ~32 ms hejmar heta ku ev bend tiştek hilberîne nîşankirî dimînin
• Xwediyê mirovî ku berî her CI bolt-on kiryarên xelet lê bilez dinirxîne

Nimûneya rênimayan

Tu alîkariya min dikî ku ji bo CLM-8B-ê wekî kontrolkerek rewş → çalakiya bilez di hundurê ajansa kodkirinê ya me de A/B-yek dadperwer sêwirînim. Tenê agahdariya têlkirinê ya ku ez pêve dikim bikar bîne. Pirzêdekerên latency, puanên DeepSWE, an şertên lîsansê îcad neke.

Kar: Ji navên bîst kar û notên bingehîn ên heyî yên min, (1) pelgeyeke nirînê bi stûnên Kar / Model / Gav / Demjimêra dîwêr / Serkeftin (derbasbûn/têkçûn) / Destwerdana mirovan (erê/n) / Nîşeyan, (2) protokoleke şeş xalan ku pêçanê li seranserê modelan yekreng dihêle, û (3) qaîdeyeke biryardanê bi gotinên rojane yên zelal ji bo dema ku CLM-8B dibe ku xwediyê mîkro-lûpê be li hember dema ku em ber bi aqilmendiya hêdî ve diçin, amade bike.

Astengkirin: Îngilîziya Keyaniya Yekbûyî. Her hejmareke ku ji hêla nivîskar ve hatiye ragihandin wekî CLAIM nîşan bikin, heke xuya bibe. Amûrên berevajîkirinê tercîh bikin. Zimanê "ajan di dawiyê de çareser kirin" qedexe bikin. Heke metrîkek di pêveka min de winda be, li şûna texmînkirinê [NEED MEASUREMENT] binivîsin.

Deranî: sernivîsa pelê skorê û rêzeke mînakî ya tijîkirî bi karanîna cihên cihê, xalên protokolê, paşê qaîdeya zêdekirin/parastinê. Pêşgotin tune.

Çawa wê biceribînin

• Li ser kargêriya heyî û li ser mîhengkirina hûr a CLM-8B bi pêça heman deh şopan bimeşîne. Tenê piştrast bike ku demjimêra dîwar û serkeftin ji hev cuda ne - ne navnîşên amûran.
• Bipirse: "Kîjan nexşeya nivîskaran dibe ku vê hefteyê hilberînê biguherîne?" Bersiveke baş: heta ku ev amûr serkeftin û derengmayînê bi hev re nîşan nede, tiştek tune.
• Doza qiraxê: CLM-8B di nav ~30 ms de bi pêşniyara fermana wêranker bersiv dide - lîsteya destûr piştrast bike û nirxandina mirovî berî CI wê bigire.
• Doza qiraxê: bilêta API-ya nû li derveyî bîst şopan - piştrast dike ku sedemê hêdî xwediyê wê ye, ne modela refleksê.
• Kontrolên qebûlkirinê: (1) ti îdiayek 9× ya îcadkirî wekî encamek pîvandî nehatiye pîvandin, (2) derengketina p50 û p95 hatiye tomar kirin, (3) jimareya serkeftinê bîst peywir e, (4) çalakiyên xelet-lez hatine jimartin, (5) Kontrola Apache/lîsansê berî her planeke keştîya bazirganî negirêdayî pêk tê.

Netîce

Encama mînakî (texmîna nimûne ji bo tîmek amûran a sê-kesî li ser bîst şopên monorepo yên sabît, ne ji nû ve ceribandinek laboratûarê ya serbixwe ya kursiyên nivîskaran): Karkerê bingehîn 14 ji 20 şopan bêyî alîkariya mirovan qedand; derengiya gavê ya navîn nêzîkî 180 ms; du şop piştî sererastkirinek xelet hewceyê mirovekî bûn. Piştî mîhengkirinek sivik a CLM-8B li ser şopên navxweyî (heman pêçan), 15 ji 20 bêyî alîkariyê derbas bûn; derengiya gavê ya navîn nêzîkî 45 ms li ser mêvandara wan a GPU-ya yekane; çalakiyek din a xelet-lez ji hêla navnîşa destûr ve berî sepandinê hate girtin. Demjimêra dîwar ji bo koma bîst-şopan ji nêzîkî 38 hûrdeman daket nêzîkî 22 hûrdeman, tevî gavên verastkirinê. Li ser navnîşek kontrolê ya paqijiyê (bendkirin sabît ma, etîketên CLAIM li ser nexşeyên nivîskaran hatin girtin, sedemek hêdî hîn jî ji bo bilêtên romanê tê bikar anîn, di ajansa ceribandinê de nehêniyên hilberînê tune), 5 ji 5 tiştên nirxandinê derbas bûn. Sînorkirin: komek peywirek piçûk, yek çîna hardware, kalîteya daneyê ya mîhengkirina baş serdest e; ev hejmarên ~9× an DeepSWE yên nivîskaran li derveyî vê kemberê piştrast nake.

Ji bo pîvandina guhertoya xwe: bîst şopan cemidînin; pêşî modela heyî puan bikin; CLM-8B bi rastbûn/mîhengên belgekirî mêvandar bikin; bi heman pêçanê ji nû ve bimeşînin; serkeftin/n, p50/p95, destwerdanan, û gelo hejmareke CLAIM wekî rastiyek hatiye destgirtin, rapor bikin.

Çi dikare xelet biçe

• Perestina nexşeyê: Şandina li ser slaytek ~9× bêyî p95-a xwe.
• Kiryarên xelet-lez: Di depoyên bi metirsiyên bilind de xeletiyên tavilê yên bi bawerî li hember xeletiyên rast ên hêdî têk diçin.
• Harness drift: Guhertina fermanên amûran di navbera modelan de û bi navkirina wê wekî serkeftina modelê.
• Stacka yek-qehreman: Ji holê rakirina sedemek şêwirdarî ji bo xebata mîmariya nûjen.
• Destnivîsa lîsansê: Bawerîkirina bi kurteyên vegirtinê li şûna pelên lîsansê yên giraniya-repo yên rastîn.
• Shadow CI: Bi boltê madeyek ku bi lez vedibe têxe nav boriyan bêyî sînorên rêjeyê an nirxandina derzîkirinê.

Xwarineke pratîkî

CLM-8B wekî kontrolkerek berendam a Sîstema 1 ji bo kodkirina ajantiyê hêjayî nirxandinek baldar e - giraniya vekirî, çîroka bi şiklê biryarê, îdiayên leza ku ji hêla nivîskar ve hatî ragihandin. Ew ne baweriyek e û ne jî 9× ya îsbatkirî ye ji bo stacka we heya ku kembera we wiya nebêje. Pêçanê sabît bigire, çalakiyan di saniyeyê de û rêjeya xelet-lez tomar bike, deriyek revînê ya hêdîtir bihêle, û stîkera CLAIM li ser her nexşeya çapkirinê bihêle heya ku xebitandinên serbixwe (tevî yên we) werin.

Pirsên Pir tên Pirsîn

CLM-8B çi ye, û çima avakerên ajanan li ser wê diaxivin?

CLM-8B yekem giraniya giştî ye ku di rêza Modela Zimanê Berawirdî de hatiye danîn - guhertoyek lêkolînê ya vekirî ku wekî çerxek biryardana bilez ji bo ajanan tê pêşkêş kirin, ne tenê mejiyek sohbetek din. Çîroka perwerdehiyê dewletan bi çalakiyan ve bêtir mîna refleksek Sîstema 1-ê ve girêdide ne wekî gotarek hêdî ya nîşaneya paşîn. Bi heşt mîlyar parametreyan, ew ji bo gelek laboratûar û avakerên serbixwe têra xwe piçûk e ku mêvandar bikin, bi lîsansa Apache 2.0-ê ku li dora daketinê hatiye çarçove kirin. Hejmarên di postên destpêkirinê de îdiayên ku ji hêla nivîskaran ve hatine ragihandin in, ne dubarekirinên laboratûarên serbixwe ne.

Çawa CLM-8B îdîa dike ku ji bo ajanan heta 9 caran ji Jev zûtir e?

Pêşvebir îdîa dikin ku texmînkirin heta 9 carî ji modelên pola Jev zûtir e, bi bersivên pola Jev ên bi qasî 32 ms li ser mîhenga bench-a termînalê. Piştî mîhengkirina sivik, ew encamên kodkirina ajantiyê yên bihêz jî radigihînin - DeepSWE dora 81.6% û Terminal-Bench 2.1 dora 87.6% - û hin kalîteyek sifir-gule ku bi Jev re di latency pir kêmtir de tê berhev kirin. Hejmarên 9× û milîçirkeyan wekî îdîayan bihesibînin heya ku aliyên sêyemîn wan li ser hardware-a hevpar dubare bikin. Leza nisbî hîn jî hewce dike ku mezinahiya komê, rastbûn û mîhengên dekodkirinê werin diyarkirin.

Perwerdehiya Modela Zimanê Berevajî çawa ji LLM-ên tîpîk cuda ye?

Piraniya LLM-yên hilberînê di carekê de yek nîşanek çêdikin, ku ji bo pexşan û mentiqek dirêj dixebite lê her mîkro-biryarek ku ajanek dide dixebitîne. Perwerdehiya Modela Zimanê Berevajî, wekî ku pêşvebir wê diyar dikin, torê teşwîq dike ku rewşan li gorî tevgerên bijarte nexşe bike - bêtir mîna serokê siyasetê ye ne wekî romannivîsek. Ew çarçovekirina Sîstema 1 lûpên bilez ên rewş-ber-çalakiyê li şûna vegotina bêdawî di navbera bangên amûran de tercîh dike. CLM-8B hîn jî dikare nivîsê derxîne; çîroka armanc û nirxandinê ber bi kontrola ajan ve meyldar e.

Kê CLM-8B derxist, û gelo bi rastî jî vekirî ye?

Jacky Kwok xebat da nasîn; Azalia Mirhoseini ew berfirehtir kir; firehî çarçoveyek hewldanek tîmek girêdayî Stanford û NVIDIA bi lêkolînerên bi nav, giraniya giştî, û koda vekirî ve girêdide. Lîsanskirina li dora berdanê wekî Apache 2.0 hatiye çarçovekirin, ku ji bo mîhengkirina baş û şandinê girîng e - lê berî ku hûn xwe bispêrin kurteyên firehiyê pelên lîsansê di depoyê de bixwînin. Berdanên vekirî yên bi nav bi gelemperî ji dumpên anonîm zûtir têne ceribandin. Ji bo dubarekirina berfireh a partiya sêyemîn hîn zû ye.

Çima lûpên rewş-ber-çalakiyê ji bo kodkirina ajantî ewqas girîng in?

Kodkirina ajantî pir caran dualî ye: test kesk dibe an na, ji ber vê yekê hilbijartinên çalakiya paqij ji gotarên têkçûnê yên xweşik derbas dibin. Latency li ser dehan gavên amûran tevlihev dibe - dema tirşkirinê li ser her gavê û demjimêra dîwar û fatûreyên ewr her du jî diçin. Lezkirinek rêza-mezinahiyê ya îdîakirî li hember hevtayek pola Jev, her çend ew di xwezayê de "tenê" 4× be jî, dîsa jî plansaziya kapasîteyê ji nû ve rêz dike. Stakên hîbrîd - kontrolkerek bilez a mîna CLM û her weha sedemek girantir li ser şaxên hişk - şeklek rastîn a demdirêj in.

Gelo divê ez baweriya xwe bi puanên DeepSWE û Terminal-Bench ji bo CLM-8B bînim?

Ew kom ajanên şikestî ceza dikin, ji ber vê yekê ~%81.6 DeepSWE û ~%87.6 Terminal-Bench 2.1 piştî mîhengkirina sivik balkêş xuya dikin. Kursîyên ajantî di heman demê de skeleyê xelat dikin: kalîteya kemberê, navnîşên destûrdayîna amûran, û pêşniyarên vegerandinê dikarin serkeftinê bi du reqeman biguherînin. Berî ku hûn nexşeyê wekî zanistek pejirandî bihesibînin, li pêça li dora giraniyan bigerin. Kursîyên nivîskaran heta ku kesek din wan bi reçeteyên belgekirî ji nû ve hilberîne, kirrûbirrê dikin.

Divê ez di derbarê CLM-35B û başkirina modela 8B de çi bizanim?

Berdewamiya CLM-35B-ya mezintir wekî planek tê behs kirin; gelo ew çîroka latency diparêze an jî leza bi kûrahiyê diguherîne ne diyar e. Rêya rastîn a sererastkirina CLM-8B-ê li ser qaîdeyên xwe yên lint, bicihkirina CLI, û şopên monorepo ye ber bi hejmarên bihêz ve - ne sêrbaziya sifir-şûştinê di roja yekem de. Tîm dikarin her du mezinahiyan biparêzin ger ew dakevin: 8B ji bo germên germ, 35B ji bo plansaziya dijwar. Giraniyên vekirî jî karanîna xelet hêsantir dikin, ji ber vê yekê parêzvan û sînorên rêjeyê hilber in, ne cosplaya vebijarkî ne.

Ez çawa divê berawirdkirinên Jev bixwînim bêyî ku berf bibare?

Berawirdkirinên pola Jev "heta 9 carî zûtir" lengerek hevtayê didin, ku alîkariya danîna pêşniyarê dike. Xetere ew e ku mezinahiya komê, rastbûn, dirêjahiya kontekstê, û rêze-gava amûrê di yek pirjimar de hilweşe. Dema ku chatter bersivên pola-32 ms vedibêje, bipirsin ka ev tê wateya nîşana yekem, JSON-a çalakiya tevahî, an pêşgirek cached. Serkeftina peywirê, dolar ji bo her bilêtek çareserkirî, û rêjeya destwerdana mirovan li ser stûna xwe bipîvin. Vegotinên reqabetê laboratûaran neçar dikin ku hejmaran biweşînin; KPI-yên hilberîna we hîn jî biryar didin.

Berî ku CLM-8B têxin nav ajanên hilberînê, divê avaker çi bikin?

Perçeyek krîtîk a latency-ê derxin - wekî mîkro-lûpa termînalê - û A/B-ê bi sabît li gorî hespê xwe yê kar ê heyî mîheng bikin. Li kiryarên xelet lê bilez binêrin; verastkirinê zêde bikin, amûrên berevajî tercîh bikin, û dema ku bawerî kêm be, sedemek hêdîtir budçe bikin. Çalakiyan li gorî saniyeyê li gorî GPU-yê bişopînin, ne tenê nîşanekan li gorî saniyeyê. Sirên hilberînê li ajanên ceribandinê nexin, û heta ku karên xwe bicîh bibin, li ser her nexşeya çapkirinê stîkerek CLAIM bihêlin.

Ez çawa dikarim nirxandinek mîkro-lûpek latency adil ji bo îdiayên CLM-8B Just Dropp ava bikim?

Komek piçûk ji şopên rastîn ên ceribandina têkçûnê cemidînin, heman şêma amûran û lîsteya destûrdayînê li seranserê modelan bihêlin, û gavan, demjimêra dîwar, serkeftin û destwerdanên mirovan tomar bikin. Ger hûn ji bo bilêtên romanê deriyek revê ya bi zanebûn bihêlin, CLM-8B tenê li ser gava "hilbijartina çalakiya berevajîkirî ya din" bikar bînin. Nivîskar ~9×, DeepSWE, û hejmarên milîçirkeyan wekî CLAIM bi nav bikin heya ku ev amûr serkeftinek li ser serkeftin û derengmayînê bi hev re nîşan bide. Ew nirxandina fokuskirî ji ji nû ve nivîsandina hilberînê li ser desteyek slaytê çêtir e.

Referans

1. Rûyê Hembêzkirinê — Modela Zimanê Berawirdî (CLM-v0.1-8B) — huggingface.co
2. GitHub — Berevajî-LM / CLM — github.com
3. Zanîngeha Stanford - Azalia Mirhoseini - cs.stanford.edu
4. Jacky Kwok — jackyk02.github.io
5. X — Pêşgotina Jacky Kwok — x.com
6. DeepSWE - deepswe.datacurve.ai
7. Snorkel AI — Terminal-Bench 2.1 — snorkel.ai
8. Jev — jevtypesafeai.com