CLM-8B управо објављен: Нови отворени вештачки интелигентни модел који тврди да је до 9 пута бржи од Jev-а за агенте

Кратак одговор: CLM-8B је отворени контрастивни језички модел намењен брзим одлукама агената, са тврдњама аутора о до око 9 пута нижој латенцији од вршњака класе Jev. Те бројке остају непотврђене ван подешавања издања. Ако правите агенте за кодирање, урадите A/B анализу на сопственом систему пре него што верујете графиконима.

Кључне закључке:

Тврдње о латенцији: Третирајте убрзање од ~9× Јев као да је пријављено од стране аутора док га други не репродукују.

Евал харт: Алати и упити су фиксирани приликом А/Б тестирања CLM-8B.

Хибридни стек: Користите CLM за активне петље; задржите спорији резон за нове задатке.

Отворене тежине: Потврдите Apache лиценцне датотеке пре слања комерцијалних виљушки.

Ризик од злоупотребе: Отворите реверзибилне алате и тајне када агенти доносе одлуке у милисекундама.

Шта CLM-8B покушава да буде ⚡

Обука модела контрастивног језика, како је описана од стране људи који промовишу овај пад, односи се на повезивање стања и акција, а не на максимизирање вероватноће следећег токена у изолацији. Једноставно речено: модел је подстакнут да мапира „ево је ситуација“ на „ево је потез“, више као шеф политике него романописац. То је аналогија Система 1 којој истраживачи стално посежу - брза, асоцијативна, обликована у складу са одлукама - за разлику од система 2 који има дугачак ланац мисли који спаљује токене док наглас размишља.

CLM-8B је први јавни скуп тежина у тој линији. Позициониран је као отворено истраживачко издање са Apache 2.0 лиценцом на извештавању које је пратило објављивање, што је важно ако желите да фино подесите, испоручите или поделите без пикника са адвокатима. Џеки Квок је представила рад; Азалија Мирхосеини, која је повезана са Станфордом, проширила га је; а шири оквир приказује Станфорда и NVIDIA-е. Именовани истраживачи, јавне тежине, отворени код - не анонимно цурење информација. Још је рано за репликацију од стране треће стране, зато задржите скептицизам негде између „занимљивог“ и „покажите ми независни одбор“.

Класа величине је осам милијарди параметара, што је довољно мало да лабораторије и независни произвођачи могу да је угосте без продаје бубрега за време H100. Већ се говори о већем CLM-35B . Да ли ће тај већи брат задржати причу о латенцији или ће жртвовати брзину за дубину, остаје нејасно, али сигнал мапе пута је јасан: ово је замишљено као породица, а не као једнократна демо картица.

•  Фокус: стање → петље акције за агенте, не писање есеја
•  Лиценцирање уоквирено као Apache 2.0 у извештавању око објављивања
•  Стил: Систем 1 / прича о обуци усмереној на одлучивање
•  Наставак: већи CLM-35B помиње се као план

Систем 1 Стил у односу на уобичајену траку за трчање са токеном 

Већина продукцијских LLM-ова које познајете генерише текст један по један токен. То одлично функционише за прозу, дампове кода и пажљиве трагове резоновања. То је такође разлог зашто агент коме је потребно двадесет микро-одлука у минути може деловати споро чак и када је модел „паметан“. Сваки корак плаћа ауторегресивни порез.

Контрастивни језички модел мења нагласак. Уместо да тражите од мреже да наративно формулише свој пут до одговора, тренирате је да преферира праву акцију с обзиром на стање - замислите контрастивна повлачења између добрих и лоших потеза, а не само течне наставке. Конструктори већ знају образац: понекад вам није потребно образложење од хиљаду речи; потребно вам је да модел откуца pytest уместо rm -rf. Брзе петље воде рачуна о тој разлици.

Ништа од овога не значи да CLM-8B не може да емитује текст. То значи да су циљ обуке и прича о евалуацији нагнути ка агентској контроли. То је другачији облик производа од „модела ћаскања који такође може да позива алате“. Индустрија је годинама побољшавала моделе који говоре о алатима, а истовремено ограничава сам разговор. Модел који прво доноси одлуке је врста бочног померања које или изгледа очигледно ретроспективно или пропада када се бенчмаркови испреплету. Оба исхода су могућа.

Наведена брзина и бројеви са клупе (третирати као тврдње)

Ево дела који покреће објаве на друштвеним мрежама: промотери тврде да је инференција до око 9 пута бржа од модела класе Jev. Након благог финог подешавања, они такође извештавају о јаким резултатима агентског кодирања - DeepSWE око 81,6% успеха и Terminal-Bench 2.1 око 87,6%. У неким евалуацијама описују перформансе зеро-схот као упоредиве са Jev-ом, док латенција остаје много нижа. Један резиме кластера који се појавио уз ћаскање о издању навео је време одзива од око 32 ms на терминалном бенч подешавању. Пажљиво формулишите то: пријављено и тврди се, није независно ревидирано у овом чланку.

Ако се те бројке латенције генерализују, практична победа је мање графичких процесора по истовременим агентима, или више агената по графичком процесору. Агенти за кодирање који „разбијају“ шкољку су посебно осетљиви јер се чекање на зидном сату нагомилава; одлука од 200 ms и одлука од 30 ms делују као различити производи након неколико стотина потеза. Корисници често криве „модел зато што је глуп“, када је оштрији проблем интерактивно кашњење.

Ипак - а ово је пасус о надзору одраслих - ауторски клупе су маркетинг док их неко други не репродукује на дељеном хардверу са дељеним промптима. Лагани резултати финог подешавања такође могу сакрити много скеле. Јаки бројеви DeepSWE и Terminal-Bench су узбудљиви управо зато што ти пакети кажњавају крхке агенте, али узбуђење није репликација. Залепите лепљиву белешку на којој пише CLAIM на 9× и на тој цифри од 32 ms. 

Табела за поређење: LLM-ови токен-по-токен наспрам CLM-стила уоквиривања

Табеле помажу када маркетиншки језик постане клизав. Ова упоређује типичне навике генерисања мастер студија права (LLM) са причом о моделу контрастивног језика како је истраживачи описују. Ћелије су намерно мало неуједначене јер конкретна поређења увек јесу.

Користите табелу као ментални модел, а не као пресуду. Тимови за производе и даље морају да мере сопствену опрему: шеме алата, политика поновног покушаја и бука у окружењу ће померати резултате више него што слајд дек признаје.

Ко стоји иза буке 👤

Приписивање је важно јер се отворена издања вештачке интелигенције крећу од пажљивих лабораторијских издања до мистериозних торент објављивања. Ово има лица. Џеки Квок је представила CLM; Азалија Мирхосеини је помогла да се прошири; извештавање доследно оцртава истраживачку сарадњу повезану са Станфордом и NVIDIA-ом. То не чини магично сваки број тачним, али даје репутацијску кожу игри. Отворена издања именованих истраживача имају тенденцију да брже прођу тест оптерећења од анонимних издања - колеге воле јавну мету.

За програмере, практична импликација је приступ. Отворене тежине плус лиценца у стилу Apache 2.0 (како је обрађено око лансирања) обично значе да можете комерцијално експериментисати са мање проблема него код лиценци само за истраживање. Проверите стварне датотеке лиценце у издању пре него што било шта пошаљете; резимеи покрића нису уговор. То може звучати педантно, али педантност око лиценци спасава стартапе.

Образац друштвене амплификације је познат: објава истраживача, објаве са цитатима поштованих појачавача, затим талас покушаја „агенти коначно решени“. Филтрирајте за људе који деле детаље о појачању. Снимци екрана једног успешног кодирања су позориште расположења, а не наука. 🛰️

Зашто петље од стања до акције поседују агентско кодирање 

Агентско кодирање је сурово окружење. Модел види снимак репозиторијума, транскрипт шкољке, можда неуспешан тест и мора да изабере измену или команду. Успех је бинаран чешће него ћаскање. Или тест постане зелен или не. Тај облик награде фаворизује политике које јасно бирају акције у односу на моделе који пишу лепе есеје о неуспеху.

Контрастивне приче за обуку одговарају том свету јер експлицитно подстичу мрежу ка преферираним акцијама у датом стању. Замислите то као да подучавате млађег инжењера „када видите ову класу грешке, посегните за овим обрасцем исправке“ уместо „напишите блог пост о томе зашто су компајлери тешки“. Млађем инжењеру је и даље потребна процена; пречица само смањује подешавање.

Латенција се овде повећава. Претпоставимо да агент у просеку користи осамдесет корака алата да би добио средњу исправку грешке. Смањите време за 150 мс по кораку и вратићете дванаест секунди зидног сата - што је разлика између стања тока и корисника који користи Alt-Tab да би проверио имејл. Тимови који воде флоте агената осећају ту математику и у рачунима за облак. Наведено убрзање закључивања реда величине у односу на вршњака класе Jev, чак и ако се у стварном животу постигне као „само“ 4× брже, и даље преуређује планирање капацитета.

Постоји једна несигурна метафора коју стално користим на састанцима: модели ћаскања токен по токен су као расправа о рути на свакој раскрсници, док је контролер у стилу Систем 1 више као мишићна меморија за градску вожњу. Мишићна меморија отказује у новом граду. Такође и уско подешен акциони модел када је култура репозиторијума идиосинкратична. И даље желите делиберативне режиме за нове архитектонске изборе; желите рефлексе за педесето „поправи увоз и поново покрени“. Хибридни стекови - брзи контролер сличан CLM-у плус тежи резонатор на тешким гранама - су вероватно место где се озбиљни системи налазе, чак и ако лансирни постови продају само један модел хероја. 🚦

Такође вреди наглас поменути: агентске клупе за кодирање попут DeepSWE и Terminal-Bench награђују скелање. Квалитет алата, листе дозвољених алата и упити за опоравак могу променити стопе успеха за двоцифрене бројке. Када видите ~81,6% или ~87,6% након лаког финог подешавања, истражите какав је омотач стајао око тежина. То није сенка; то је начин на који поље функционише.

Отворени тегови, фино подешавање и сенка 35Б 

Отворене тежине мењају друштвену динамику захтева. Затворени API модели могу да прикажу графикон и оставе вас у недоумици о контаминацији, триковима декодирања или тајним системским упитима. Са параметрима који се могу преузети, можете бар да их испробате. Фино подешавање CLM-8B за ваше интерно окружење за кодирање - ваша правила за прање, ваш CLI за имплементацију, вашу топологију монорепозиторијума - је реалан пут до сјајних бројева на клупи, а не магија нултог покушаја првог дана.

Apache 2.0 фрејмовање (према покривености) је прилагођено креаторима: језик за доделу патента, јасне норме за дистрибуцију, мање замки „само за истраживање“. Поново: прочитајте датотеке. Писци покривености сумирају; адвокати се специјализују.

Планирани CLM-35B је слон у клизи са мапом пута. Већи модели често враћају вештину промишљања и губе део шарма „малог и невероватно брзог“ осим ако дестилација или спекулативни трикови не држе латенцију под контролом. Ако је варијанта од осам милијарди долара спортски аутомобил, а она од тридесет пет милијарди долара туристичка лимузина, тимови би могли задржати оба: 8B за вруће петље, 35B за тешко планирање. Или би већи модел могао једноставно доминирати ако хардвер настави да буде јефтинији. Која будућност долази још увек је неизвесно; белешке о издању будућности ће одлучити, а не овај пасус.

Један суптилни ризик код модела отворених агента: људи ће их уградити у CI без ограничења брзине и открити брзо убризгавање путем злонамерних README датотека. Брзи модели појачавају злоупотребу на исти начин на који појачавају практичну вредност. Заштитне ограде нису опциони косплеј; они су производ. 

• Прецизно подесите сопствене трагове пре него што процените квалитет
• Задржите спорије резоновање као излаз за нове задатке
• Латенција инструмента p50/p95 у вашем појасу, не само тачност
• Претпоставимо да ће 35B поново померити Паретоову границу

Читање поређења са Џевом без падања снега 

Поређења са моделима класе Јев врше реторички посао. Она успостављају равноправног у нивоу агентске брзине, тако да „до 9 пута брже“ има референт. Релативним тврдњама је потребно сидро, и то је разумно. Опасност је урушавање целог стека за евалуацију у један множилац. Величина пакета, прецизност, подешавања декодирања, дужина контекста и серијализација позива алата мењају значење „брже“, а та дугмад се ретко појављују на истом слајду.

Када резиме кластера наводи одговоре од ~32 ms у терминалном тесту, третирајте „одговор“ као двосмислену ознаку док неко не објасни да ли то значи први токен, JSON пуне акције или кеширани префикс. Те разлике претварају маркетиншке милисекунде у инжењерске сате. Упоредиви квалитет „нултог покушаја“ са мањом латенцијом је идеалан избор; ако независне групе потврде чак и половину тог сна, обука у CLM стилу зарађује стално место на састанцима о архитектури.

До тада, третирајте Џева као наратив о ривалству више него као устаљену табелу. Ривалства продају објаве. Ваши KPI-јеви продукције не маре за наратив. Мерите успех задатка, долар по решеном тикету и стопу људске интервенције. Ако форк контрастивног језичког модела победи у тим случајевима, славите. Ако победи само на Твитеру, наставите да ходате. 🚶

Време је за малу контрадикцију: наративи о ривалству и даље имају своју тежину. Они терају лабораторије да објављују бројке уместо лењог расположења. Само немојте мешати резултате са спортом.

Шта је потребно да би ово издање било како треба 

Да би CLM-8B био важан изван циклуса вести, потребно је да се деси неколико ствари:

• Репликација: спољне групе би требало да буду у стању да упореде латенцију наслова и стопе успеха кодирања са документованим рецептима.
• Искористите транспарентност: поделите детаље омотача агента који су произвели резултате DeepSWE и Terminal-Bench.
• Документи који не претпостављају лабораторијску телепатију: јасни скрипти за фино подешавање, команде за евалуацију и белешке о хардверу.
• Начини отказа: покажите где се одлуке у стилу Система 1 урушавају - нови API-ји, двосмислени тикети, операције осетљиве на безбедност.
• Пут надоградње: разјаснити како се CLM-35B односи како тимови не би преоптеретили свој стек до ћорсокака од 8B.

Ако те кутије остану празне, модел постаје још један занимљив папирни тег. Ако се попуне, агентске платформе добијају конкретан избор компоненти: делиберативни LLM за тешко размишљање, контрастивни брзи модел за трзаве руке. Та подела рада делује одраслије него претварање да један мегамодел треба да обави сваки посао са сваким буџетом латенције.

Практични савети за грађевинске агенте који се баве шпедитерским услугама 

Не морате сутра да преписујете свој стек. Потребан вам је план за процену модела брзих одлучивања. Почните тако што ћете издвојити део вашег агента који је критичан за латенцију - можда микро-петљу терминала или корак „изаберите следећи grep“ - и A/B извршити фино подешавање CLM-8B у односу на вашу тренутну радну машину. Држите појас константним. Забележите све.

Пазите на тихе регресије квалитета: модели који тренутно одговарају сигурним погрешним акцијама су гори од спорих исправних у репозиторијумима са високим улогом. Додајте кораке верификације. Преферирајте реверзибилне алате. Планирајте други позив модела када је поверење ниско - да, то умањује део добитка у брзини, и то је у реду. Брзина без кочница је начин на који демо верзије постају прекиди.

На страни организације, ажурирајте табеле капацитета колоном за „акције у секунди по GPU-у“ уместо само за токене у секунди. Агентска радна оптерећења се баве одлукама, а не пропусним оптерећењем поезије. Ако ауторова тврдња о ~9× чак и делимично преживи контакт са вашим хардвером, ваша табела ће изгледати другачије. Ако не, јефтино сте научили.

И молим вас, за љубав према операцијама, немојте лепити производне тајне у експериментални агент само зато што се модел чинио „безбедним“. Брзо отворени модели олакшавају покретање система који се не прегледају. Процес је и даље важан. 

Отворене теме и даље висе 

Неколико нерешених тема ме спречава да будем у потпуном промотивном режиму:

• Остаје нејасно колики део пријављеног успеха кодирања припада тежинама у односу на податке финог подешавања и омотач.
• Уоквиривање Система 1 може се проредити када задаци захтевају дугорочно планирање, а не локалне рефлексе љуске.
• CLM-35B може задржати причу о латенцији или се установити као још један јак LLM средње величине.
• Преференције контрастивних акција могу постати крхке током промене дистрибуције - нови језици, нови cloud CLI-ји, адверзарна складишта.
• Причи о безбедности је и даље потребан садржај када се акције извршавају у милисекундама.

То нису трикови који треба да заварају тим. То су провере које би свака озбиљна ревизија усвајања требало да спроведе. Рана отворена издања заслужују пажљиво испитивање и трење, а не слепо инсталирање.

Закључак 

CLM-8B је отворени, Apache-уоквирени (по покривености) контрастивни језички модел који је усмерен на брзо понашање агената од стања до акције, који је јавно представила Џеки Квок уз појашњење Азалије Мирхосеини и који је уоквирен као истраживање повезано са Станфордом/NVIDIA. Насловне тврдње - до око 9 пута брже од закључивања класе Jev, јаки DeepSWE и Terminal-Bench резултати након благог финог подешавања, упоредив квалитет zero-shot-а са много мањом латенцијом, укључујући гласине о терминалним одговорима класе ~32 ms - су објављене од стране аутора и још увек чекају ширу потврду треће стране. Већи CLM-35B је на помолу.

Ако градите агентске системе кодирања, ово је вредно фокусиране евалуације, а не религије. Третирајте га као кандидата за контролер Систем 1 у хибридном стеку, измерите сопствену снагу и држите налепницу CLAIM на сваком графикону док се не појаве независни покушаји. Занимљив део није још један модел ћаскања са новим логотипом. Занимљив део је да ли обука обликована одлукама може учинити да се агенти осећају тренутно, а да их притом не учини непромишљено погрешним.

Практични пример: Изградња микро-петље за евалуацију агента критичног за латенцију за CLM-8B

Ауторски графикони о CLM-8B управо објављеном: Нови отворени вештачки интелигенцијски модел који тврди да је до 9 пута бржи од Jev-а за агенте могу изгледати убедљиво; ваш појас је једини глас који се рачуна. Ево како је један британски независни тим за алате третирао CLM-8B као кандидата за контролер System 1 - а не замену за ћаскање - и измерио га на сопственој терминалној микро-петљи.

Сценарио

Сем води мали производ који већ користи захтевнији агент за кодирање за рефакторисање више датотека. Најтежи део је „врућа петља“: прочитајте транскрипт теста који не успева, изаберите следећу шкољку или акцију уређивања, покрените је, поновите. Корисници се мање жале на досадне одговоре него на кашњење „под зимским рукавицама“ кроз педесет корака алата. Објаве на друштвеним мрежама појачавају тежине модела контрастивног језика и наводно убрзање од ~9 пута у односу на конкуренте класе Јев, плус јаке DeepSWE / Terminal-Bench бројке након благог финог подешавања. Сем одбија да преписује продукцију на штампарској табели.

Они су издвојили једну микропетљу критичну за латенцију: двадесет исправљених трагова грешака из сопственог монорепозиторијума. Тренутни радни коњ остаје промишљени пут за тикете за нове архитектуре. CLM-8B - ако је хостован и благо фино подешен на својим траговима - сме да се такмичи само у кораку „изабери следећу реверзибилну акцију“, са споријим резоновањем као излазом за бекство када је самопоуздање ниско.

Циљ је А/Б анализа која одржава константним распоред: исти алати, иста листа дозвољених опција, иста политика поновног покушаја. Забележите акције у секунди, латенцију p50/p95, успех задатака и људске интервенције - затим одлучите да ли отворене тежине заслужују место.

Шта је потребно асистенту

• Двадесет анонимизованих трагова неуспешних тестова из стварног рада (само уноси + дозвољени алати)
• Фиксни омотач агента: шема алата, листа дозвољених, максимални број корака и грана „позив спорог резоновања“
• Основни резултати на тренутном моделу за истих двадесет задатака
• Хардверске белешке за CLM-8B хост (класа GPU-а, прецизност, пакетно коришћење) тако да „брже“ има референцу
• Правило налепнице CLAIM: аутор DeepSWE / Terminal-Bench / ~9× / ~32 ms фигуре остају означене док овај појас не репродукује нешто
• Људски власник који прегледа погрешне, али брзе радње пре било каквог прикључивања CI

Пример упутства

Помажеш ми да дизајнирам фер А/Б за CLM-8B као брзи контролер стања→акције унутар нашег агента за кодирање. Користи само чињенице о повезивању које сам налепио. Не измишљај мултипликаторе латенције, DeepSWE резултате или услове лиценце.

Задатак: На основу мојих двадесет назива задатака и тренутних основних белешки, направите (1) листу за бодовање са колонама Задатак / Модел / Кораци / Зидни сат / Успех (прошао/пао) / Људска интервенција (д/н) / Напомене, (2) протокол са шест тачака који одржава омотач идентичним у свим моделима и (3) правило одлучивања у јасним, свакодневним формулацијама за то када CLM-8B може да преузме контролу над микро-петљом, а када ескалирамо до спорог резоновања.

Ограничења: британски енглески. Означите сваки број који је пријавио аутор као ЗАХТЕВ ако се појави. Преферирајте алате за обрнуте кораке. Забраните језик „агенти коначно решили“. Ако метрика недостаје у мом пастеу, напишите [ПОТРЕБНО МЕРЕЊЕ] уместо погађања.

Излаз: заглавље табеле за бодовање и један попуњен пример реда користећи резервисана места, протоколске тачке, затим правило ескалације/задржи. Без преамбуле.

Како га тестирати

• Покрените истих десет трагова на тренутном радном коњу и на CLM-8B фином подешавању са идентичним омотачем. Потврдите да се разликују само зидни сат и успех - не листе алата.
• Питајте: „Који ауторски графикон би могао да промени продукцију ове недеље?“ Добар одговор: ниједан док овај систем не покаже победу у успеху и кашњењу заједно.
• Гранични случај: CLM-8B одговара за ~30 ms са предлогом деструктивне команде - потврдите листу дозвољених команди и људски преглед је ухвати пре CI.
• Гранични случај: нови API тикет ван двадесет трагова - потврдите да га поседује спори резонатор, а не рефлексни модел.
• Провере прихватања: (1) нема измишљене тврдње о 9× као измереног резултата, (2) забележена је латенција p50 и p95, (3) именилац успеха је двадесет задатака, (4) пребројане су погрешно брзе акције, (5) провера Apache-а/лиценце се дешава ван мреже пре било каквог комерцијалног плана за слање бродова.

Резултат

Илустративан резултат (пример процене за један трочлани тим за алате на двадесет фиксних монорепо трагова, а не независно лабораторијско поновно покретање ауторских клупа): Основни радни коњ је завршио 14 од 20 трагова без људске помоћи; средња латенција корака око 180 мс; два трага су захтевала људску помоћ након погрешне измене. Након лаганог финог подешавања CLM-8B на интерним траговима (исти омотач), 15 од 20 је прошло без помоћи; средња латенција корака око 45 мс на њиховом хосту са једном графичком картицом; једна додатна погрешно брза радња је ухваћена од стране дозвољене листе пре примене. Време трајања за пакет од двадесет трагова је пало са око 38 минута на око 22 минута, укључујући кораке верификације. На контролној листи за хигијену (појас је остао константан, ознаке CLAIM су задржане на ауторским графиконима, споро резоновање се и даље користи за нове тикете, нема тајни производње у експерименталном агенту), 5 од 5 ставки прегледа је прошло. Ограничења: мали скуп задатака, једна класа хардверса, доминира квалитет података финог подешавања; ово не потврђује ауторове бројке ~9× или DeepSWE ван овог појаса.

Да бисте измерили сопствену верзију: замрзните двадесет трагова; прво процените тренутни модел; хостујте CLM-8B са документованом прецизношћу/подешавањима; поново покрените са истим омотачем; пријавите успех/n, p50/p95, интервенције и да ли је било који CLAIM број третиран као чињеница.

Шта може поћи по злу

• Обожавање графикона: Испорука на слајду величине ~9× без вашег сопственог p95.
• Брзе погрешне акције: Тренутне самоуверене грешке побеђују споре исправне у репо операцијама са високим улозима.
• Померање снаге: Промена упутстава алата између модела и називање тога победом модела.
• Стек са једним херојем: Напуштање промишљеног резоновања за рад на новој архитектури.
• Ручно одобравање лиценци: Веровање резимеима покрића уместо стварним датотекама лиценци за складиштење тежина.
• Shadow CI: Убацивање брзо отвореног агента у цевоводе без ограничења брзине или прегледа убризгавања.

Практична информација

CLM-8B вреди пажљивог испитивања као кандидата за Систем 1 контролер за агентско кодирање - отворене тежине, прича обликована одлукама, тврдње о брзини коју пријављују аутори. То није кредо и није доказани 9× за ваш стек док вам то не каже ваш систем. Држите омотач константним, бележите акције у секунди и погрешну брзину, одржавајте спорији излаз и оставите налепницу CLAIM на свакој штампаној табели док се не појаве независни излази (укључујући и ваш).

Честа питања

Шта је CLM-8B и зашто креатори агената причају о томе?

CLM-8B је први јавни скуп тежина у линији модела контрастивног језика - отворено истраживачко издање представљено као брза петља одлучивања за агенте, а не само још један мозак за ћаскање. Прича о обуци повезује стања са радњама више као рефлекс Система 1 него као спори есеј о следећем токену. Са осам милијарди параметара, довољно је мали да га многе лабораторије и инди креатори хостују, са лиценцирањем Apache 2.0 уоквиреним у покривености око пада. Бројеви у објавама о лансирању су тврдње које су пријавили аутори, а не независне репризе лабораторија.

Како CLM-8B тврди да је до 9 пута бржи од Jev-а за агенте?

Промотери тврде да је инференција до око 9 пута бржа од модела класе Jev, са временом одговора од око 32 ms на терминалном тесту. Након благог финог подешавања, они такође извештавају о јаким резултатима агентског кодирања - DeepSWE око 81,6% и Terminal-Bench 2.1 око 87,6% - и квалитету „zero-shot“-а упоредивом са Jev-ом уз много мању латенцију. Третирајте бројке од 9× и милисекунде као тврдње док их треће стране не репродукују на дељеном хардверу. За релативну брзину и даље је потребно навести величину групе, прецизност и подешавања декодирања.

По чему се обука за контрастивни језички модел разликује од типичних мастер студија језика (LLM)?

Већина продукцијских LLM-ова генерише један токен у исто време, што функционише за прозу и дуго резоновање, али опорезује сваку микро-одлуку коју агент донесе. Обука контрастивног језичког модела, како је промотери описују, подстиче мрежу да мапира ситуације на префериране потезе - више као шеф политике него романописац. То уоквиривање Систем 1 фаворизује брзе петље од стања до акције у односу на нарацију заувек између позива алата. CLM-8B и даље може да емитује текст; циљ и евалуациона прича су нагнуте ка агентовој контроли.

Ко је објавио CLM-8B и да ли је заиста отворен?

Џеки Квок је представила рад; Азалија Мирхосеини га је проширила; покривеност обухвата тимски рад повезан са Станфордом и NVIDIA-ом са именованим истраживачима, јавним тежинама и отвореним кодом. Лиценцирање око издања је уоквирено као Apache 2.0, што је важно за фино подешавање и испоруку - али прочитајте датотеке лиценци у репозиторијуму пре него што се ослоните на резимее покривености. Именована отворена издања имају тенденцију да брже прођу тестирање оптерећења од анонимних дампова. Још је рано за широку репликацију од стране трећих страна.

Зашто су петље од стања до акције толико важне за агентско кодирање?

Агентско кодирање је често бинарно: тест постаје зелен или не, тако да чисти избори акција побеђују лепе есеје о неуспеху. Латенција се повећава кроз десетине корака алата - скраћује време по кораку, а зидни сат и рачуни за облак се померају. Наведено убрзање реда величине у односу на вршњака класе Јев, чак и ако се у стварности покаже као „само“ 4× брже, и даље преуређује планирање капацитета. Хибридни стекови - брзи контролер сличан CLM-у плус тежи резонатор на тешким гранама - представљају реалан дугорочни облик.

Да ли треба да верујем резултатима DeepSWE и Terminal-Bench за CLM-8B?

Ти пакети кажњавају крхке агенте, због чега ~81,6% DeepSWE и ~87,6% Terminal-Bench 2.1 након лаког финог подешавања изгледају узбудљиво. Агентски бенчови такође награђују скелање: квалитет опреме, листе дозвољених алата и упити за опоравак могу променити успех за двоцифрене бројеве. Истражите шта је стајало око тежина пре него што графикон третирате као устаљену науку. Ауторски бенчови су маркетинг док их неко други не репродукује са документованим рецептима.

Шта треба да знам о CLM-35B и фином подешавању модела 8B?

Већи наставак CLM-35B се помиње као план; да ли ће задржати причу о латенцији или ће жртвовати брзину за дубину, није јасно. Фино подешавање CLM-8B на сопственим правилима за линт, примена CLI-ја и монорепо трагова је реалан пут до јаких бројки - не магија нултог погодка првог дана. Тимови би могли задржати обе величине ако успеју: 8B за активне петље, 35B за тешко планирање. Отворене тежине такође олакшавају злоупотребу, тако да су заштитне ограде и ограничења брзине производ, а не опциони косплеј.

Како да читам Јевова поређења, а да ме не затрпа снег?

Поређења са класом Џев дају „до 9 пута брже“ сидро за вршњаке, што помаже да се презентација усвоји. Опасност је урушавање величине серије, прецизности, дужине контекста и серијализације позива алата у један множилац. Када ћаскање наводи одговоре класе ~32 мс, питајте да ли то значи први токен, JSON пуне акције или кеширани префикс. Мерите успех задатка, долар по решеном тикету и стопу људске интервенције на вашем стеку. Наративи ривалства приморавају лабораторије да објављују бројеве; ваши KPI-јеви производње и даље одлучују.

Шта би градитељи требало да ураде пре него што ставе CLM-8B у производне агенте?

Издвојите део који је критичан за латенцију - као што је микро-петља терминала - и извршите А/Б фино подешавање у односу на вашу тренутну радну снагу, држећи константне оптерећење. Пазите на погрешне, али брзе акције; додајте верификацију, преферирајте реверзибилне алате и планирајте спорији систем за расуђивање када је поузданост ниска. Пратите акције по секунди по графичком процесору, не само токене по секунди. Немојте лепити производне тајне у експерименталне агенте и остављајте налепницу CLAIM на сваком графикону штампе док ваши сопствени задаци не стигну.

Како да направим микро-петљу са фер латенцијом за CLM-8B Just Dropped захтеве?

Замрзните мали скуп стварних трагова неуспешних тестова, задржите исту шему алата и листу дозвољених опција у свим моделима и евидентирајте кораке, зидни сат, успех и људске интервенције. Користите CLM-8B само у кораку „изаберите следећу реверзибилну акцију“ ако задржавате намерни излаз за нове тикете. Означите аутора ~9×, DeepSWE и бројке у милисекундама као CLAIM док овај систем не покаже победу у успеху и латенцији заједно. Та фокусирана евалуација је боља од преписивања продукције на презентацији.

Референце

1. Загрљајно лице — Контрастивни језички модел (CLM-v0.1-8B) — huggingface.co
2. ГитХаб — Контрастивни-ЛМ / ЦЛМ — github.com
3. Универзитет Станфорд — Азалија Мирхосеини — цс.станфорд.еду
4. Џеки Квок — jackyk02.github.io
5. X — Увод у Џекија Квока — x.com
6. ДеепСВЕ — деепсве.датацурве.аи
7. Сноркел вештачка интелигенција — Terminal-Bench 2.1 — snorkel.ai
8. Џев — jevtypesafeai.com