Први резултати Халапењоа показују водећу брзину и ефикасност у индустрији у закључивању вештачке инференције ↗
OpenAI је објавио прве резултате перформанси за Jalapeño, свој прилагођени чип за инференцију. Наводи се да је на GPT-OSS 120B чип испоручио отприлике 1,9 пута већи вршни проток по киловату и око 1,7 пута нижу латенцију од краја до краја у односу на упоредни систем.
Добици су се пренели и на DeepSeek R1 и Kimi K2.5. OpenAI планира да примени Jalapeño унутар сопствене рачунарске инфраструктуре, док су дизајни друге и треће генерације већ у току... тако да да, OpenAI све више постаје и компанија за чипове, некако. (OpenAI)
Клод Коворк се коначно сећа шта сте рекли апликацији у ћаскању ↗
Антропик је објединио Клодово памћење кроз редовни ћаскање и коворкинг. Информације научене током разговора сада могу пратити кориснике у агентским задацима, уклањајући тај благо залуђујући ритуал објашњавања истог пројекта изнова и изнова.
Корисници могу да прегледају, уређују и бришу запамћене теме, док се сећања ажурирају док се разговори и даље одвијају. Ова функција је подразумевано омогућена у плановима Free, Pro и Max. (TechCrunch)
Google Cloud покреће Gemini Enterprise за правне сврхе ↗
Google Cloud је представио наменски пакет Gemini Enterprise за адвокате, померајући своје агенте даље од генеричког ћаскања у преглед уговора, правна истраживања, регулаторно праћење, захтеве за приватност и израду докумената.
Укључује конекторе за платформе као што су Harvey, iManage, Docusign, RelativityOne и Thomson Reuters, уз очување постојећих контрола приступа и етичких зидова фирми. Заузимање земљишта од стране вештачке интелигенције стигло је до правног одељења... предвидљиво, али и даље прилично брзо. (Google Cloud Press Corner)
Google Cloud покреће Gemini Enterprise за финансијске услуге ↗
Гугл је такође покренуо понуду „Џемини Ентерпрајз“ специфичну за финансије, укључујући агента за управљана финансијска истраживања, више од 50 специјализованих вештина и 13 конектора за финансијске и тржишне системе података.
Платформа је усмерена на радне процесе, укључујући процену кредитног ризика, праћење портфолија, истраживање KYC-а и анализу тржишта. CME Group и Deutsche Bank су међу организацијама које су већ укључене - пословни агенти постају све специјализованији, готово као софтвер који носи одело. (Google Cloud Press Corner)
NVIDIA најављује Jetson Orin Nano 2 роботски рачунар који ће редефинисати вештачку интелигенцију почетног нивоа ↗
Nvidia је представила Jetson Orin Nano 2, компактни рачунар намењен роботима, дроновима и другим физичким системима вештачке интелигенције. Нуди 78 трилиона операција у секунди, 8 GB меморије и осмојезгарни Arm процесор.
Нвидиа каже да су перформансе инференције удвостручене у односу на претходни Нано Супер, док би упоређивање његових перформанси могло захтевати 40% мање енергије. Занимљив део је то што мањи модели постају заиста способни на компактном хардверу - вештачка интелигенција више не мора увек да телефонира џиновском центру података. (Нвидиа вести)
Перплексити се удружује са Нвидијом како би покренули преносиви рачунар, потпуно локални вештачки агент са нултим трошковима токена ↗
Перплексити је лансирао Преносни рачунар, доносећи своје искуство агентског рачунара на локални хардвер који покреће Nvidia. Модели, датотеке и извршавање агента могу остати на корисничкој машини, а локално обављени радови не троше кредите за наплату у облаку.
Задаци почињу локално, а систем тражи дозволу пре него што пређе на модел граничног облака. Покреће се око Nvidia DGX Spark и Linux система са довољно моћним RTX графичким процесорима - приватност и трошкови одједном постају део продајне презентације локалне вештачке интелигенције, не само брзина. (Venturebeat)
Очекује се да ће Антропик обавестити инвеститоре да види преко 30 билиона долара потенцијалних прихода, извештава WSJ ↗
Антропик се наводно спрема да саопшти инвеститорима да би његово укупно адресабилно тржиште могло да премаши 30 билиона долара. Важна разлика - то је теоретска годишња прилика ако би вештачка интелигенција обухватила релевантни рад, а не Антропик предвиђа да ће наставити да заради 30 билиона долара. (Ројтерс)
Огромна цифра помаже у схватању инфраструктурних издатака компаније Anthropic, њене конкуренције са OpenAI и Google-ом, као и шире приче о инвеститорима. То је спектакуларно велики број... чак и по стандардима бројева у индустрији вештачке интелигенције. (Ројтерс)
Честа питања
Шта резултати OpenAI-јевог чипа са халапењо значе за закључивање вештачке инференције?
OpenAI каже да је Jalapeño остварио већи вршни проток по киловату и ниже кашњење од краја до краја у односу на упоредни систем док је користио GPT-OSS 120B. Слични добици су забележени са DeepSeek R1 и Kimi K2.5. Резултати указују на то да OpenAI све више дизајнира хардвер према специфичним захтевима ефикасности и брзине закључивања вештачке инференције великих размера.
Како Клодова заједничка меморија функционише у ћаскању и Коворкингу?
Клод сада може да пренесе информације стечене у редовним разговорима у задатке у коворкингу, смањујући потребу за поновљеним објашњавањем истог пројекта или контекста. Корисници могу да прегледају, уређују и бришу запамћене теме, док се та сећања могу наставити ажурирати како се разговори развијају. Према најави обрађеној у чланку, ова функција је подразумевано омогућена у бесплатним, про и макс плановима.
Шта може Gemini Enterprise за правне и финансијске услуге да уради?
Специјализоване понуде Gemini Enterprise компаније Google Cloud усмерене су на специфичне радне процесе за индустрију, а не на генерички AI ћаскање. Правни пакет покрива области као што су преглед уговора, истраживање, регулаторно праћење, захтеви за приватност и израда нацрта, док верзија за финансијске услуге подржава радне процесе укључујући процену кредитног ризика, праћење портфолија, истраживање KYC-а и анализу тржишта. Обе верзије се такође могу повезати са постојећим професионалним системима података и софтвера.
Зашто локално закључивање вештачке инференције постаје све важније?
Локална вештачка инференција може ојачати приватност, смањити зависност од клауд инфраструктуре и потенцијално смањити текуће трошкове коришћења. Nvidia-ин Jetson Orin Nano 2 циља роботе, дронове и друге периферне системе, док Perplexity-јев преносиви рачунар чува моделе, датотеке и извршавање агената на компатибилном локалном хардверу. У многим радним процесима, клауд модели се затим могу резервисати за задатке који захтевају додатне могућности.
Како преносиви рачунар Perplexity одлучује када да користи облачну вештачку интелигенцију?
Задаци су дизајнирани да почну на локалном хардверу корисника који користи Nvidia технологију, задржавајући компатибилно извршавање модела и датотеке на машини. Ако корак захтева модел граничног облака, систем тражи дозволу од корисника пре него што га ескалира. Рад завршен локално не троши кредите за наплату у облаку, што овај приступ чини релевантним за кориснике који су забринути и за приватност и за трошкове понављања инференције.
Шта значи Anthropic-ова процена тржишта вештачке интелигенције од 30 билиона долара?
Пријављена бројка се односи на Антропиков став о потенцијалном укупном адресабилном тржишту за вештачку интелигенцију, а не на предвиђање да ће сам Антропик генерисати 30 билиона долара годишњег прихода. Она представља теоријску вредност посла којим би вештачка интелигенција потенцијално могла да се бави у целој економији. Процена такође помаже да се објасни зашто водеће компаније за вештачку интелигенцију толико улажу у инфраструктуру и пословне капацитете.