🛡️ Британски регулатори журе да процене ризике најновијег модела антропске вештачке интелигенције, извештава ФТ ↗
Британски финансијски надзорници наводно брзо раде на новом Anthropic-овом моделу Mythos након забринутости да би могао открити озбиљне слабости у критичним системима. У разговорима учествују Банка Енглеске, FCA, Министарство финансија и Национални центар за сајбер безбедност - што је импресиван састав за један преглед модела.
Забрињавајуће је што је Митос необично вешт у проналажењу софтверских рањивости, иако Антропик каже да је имплементација строго ограничена и усмерена на одбрамбене безбедносне радове. Очекује се да ће банке, осигуравајуће компаније и берзе бити обавештене, тако да ово сада мање личи на лабораторијске трачеве, а више на инфраструктурну политику.
🤖 На конференцији HumanX, сви су причали о Клоду ↗
Чинило се да је Anthropic задао тон на HumanX-у - то је била прича. Кроз панеле, разговоре са добављачима и ћаскање у ходнику, Клод се стално појављивао као модел људи које су највише тражили за пословне и програмерске радне процесе.
Оно што се истицало јесте релативна тишина око ChatGPT-а. Чланак сугерише да OpenAI и даље има обим и новац, али је расположење на конференцији било наклоњено ка Клоду као алату са јачом пословном привлачношћу у овом тренутку - или се бар тако чини.
📄 Антропиков Клод за Ворд је још један изазов за Мајкрософтово софтверско царство ↗
Антропик је покренуо бета верзију програма Клод за Ворд, продирући даље у свакодневни канцеларијски софтвер уместо да остане ограничен као алат за програмере. Може да одговори на питања о документу помоћу цитата одељака на које се може кликнути, да уређује изабрани текст без нарушавања форматирања и да обрађује праћене измене.
Циљна публика је прилично јасна: тимови који раде много на документима, посебно правни и финансијски. Због тога је ово више од пуког додатка - то је директан напад на Мајкрософтов домаћи терен и прилично дрзак потез.
🌐 АИ ботови рударе на вебу, а Anthropic предњачи у томе ↗
Нови поглед на податке Cloudflare-а тврди да компаније које се баве вештачком интелигенцијом извлаче много више са веба него што враћају. Кључна статистика је однос претраживања и референци - колико често ботови претражују странице у односу на то колико често враћају кориснике - а Anthropic је посебно лоше прошао.
Однос за Anthropic је пријављен као 8.800 према 1, док је OpenAI такође висок, али много нижи. Шира поента је тврда: стара веб погодба је била да нас претражују, а затим нам шаљу саобраћај. AI механизми за одговоре задржавају први део, а други пуштају да се разведри.
⚔️ Поглед на ескалацију глобалне трке у наоружању вештачком интелигенцијом, док САД, Кина, Русија и други журе да изграде аутономно оружје и одбрамбене системе потпомогнуте вештачком интелигенцијом ↗
Најновије извештавање о војсци и вештачкој интелигенцији мање се бави блиставим демонстрацијама, а више стратешким убрзањем. Велике силе истовремено промовишу аутономне и одбрамбене системе потпомогнуте вештачком интелигенцијом, што целу ствар чини као штафетну трку где су сви зграбили палицу и заборавили на кочнице.
То покреће уобичајена питања - контрола, ескалација, одговорност - али сада са већом хитношћу. Када се вештачка интелигенција дубље угради у циљање, надзор и доношење одлука на бојном пољу, „експериментално“ почиње да звучи као папирна етикета на нечему што је већ у покрету.
🏭 Јапанска СофтБанк покреће јединицу за развој домаће вештачке интелигенције ↗
СофтБанк се удружио са Сонијем, Хондом и другим јапанским компанијама како би формирао нови AI подухват фокусиран на „физичку AI“ - моделе намењене за контролу машина и робота, а не само за одговарање путем текста. То је другачија стаза од уобичајеног такмичења четботова, и можда занимљивија.
Амбиција је огромна, а напори су наводно усмерени ка веома великом моделу темеља и дугој писти ка индустријској употреби. Делом је то национално-технолошка стратегија, делом циљ на Месец, делом мех аниме са састанцима одбора.
Честа питања
Зашто регулатори у Великој Британији пажљиво прате Anthropic-ов Mythos модел?
Извештаји указују да власти у Великој Британији виде Mythos као потенцијални ризик јер би могао бити необично вешт у проналажењу софтверских рањивости. У разговорима наводно учествују Банка Енглеске, FCA, Трезор и Национални центар за сајбер безбедност. Та комбинација институција указује на забринутост због могућих ефеката на критичне системе, посебно у финансијама и инфраструктури.
По чему се модел Антропског мита разликује од нормалног издања вештачке интелигенције?
Забринутост није само у томе што је у питању нови модел, већ у томе што се чини посебно способним у одбрамбеним безбедносним пословима везаним за откривање слабости софтвера. Антропик наводно каже да је приступ строго ограничен, што сугерише да се са имплементацијом поступа опрезније него са широким лансирањем за потрошаче. У пракси, то чини да се чини ближим контролисаној безбедносној могућности него стандардном ажурирању четбота.
Зашто је Клод добијао толико пажње на конференцији HumanX?
Према чланку, Клод се више пута појављивао у панелима, разговорима са добављачима и неформалним дискусијама као јака опција за пословне и програмерске радне процесе. Чланак представља Anthropic као платформу која је имала значајан замах код пословних корисника на том догађају. Такође сугерише да је расположење око HumanX-а било пригушеније на ChatGPT-у, иако OpenAI и даље има велики обим и ресурсе.
Шта Claude for Word заправо ради за тимове са пуно докумената?
Бета верзија описана овде је дизајнирана за рад унутар докумената, а не само за генерисање самосталног текста. Може да одговори на питања о документу са цитатима одељака, да уређује одабране пасусе без ометања форматирања и да обрађује праћене измене. То је чини посебно релевантном за правне, финансијске и друге тимове којима је потребан пажљив преглед, а не груба израда.
Шта однос пописивања и референци говори о AI ботовима и вебу?
Чланак представља овај однос као начин да се упореди колико компаније које користе вештачку интелигенцију претражују веб странице у односу на то колико често враћају кориснике назад. У том оквиру, веома висок однос указује на екстракцију са мало повратног саобраћаја. Антропик се описује као посебно лош према овој мери, што пооштрава шире критике да системи за одговоре вештачке интелигенције могу ослабити старију веб размену индексирања у замену за препоруке.
Зашто људи повезују напредак вештачке интелигенције и са аутономним оружјем и са физичком вештачком интелигенцијом?
Чланак указује на два повезана тренда: владе које убрзавају одбрамбене системе потпомогнуте вештачком интелигенцијом и компаније попут СофтБанка које подржавају моделе дизајниране за контролу машина и робота. Заједно, они показују да вештачка интелигенција превазилази ћаскање и претраживање и стиже до физичких система који могу да осете, одлуче и делују. То покреће већа питања о контроли, одговорности, индустријској употреби и колико брзо ови системи прелазе из експерименталног у оперативни период.