Мајкрософтов нови „кодекс понашања“ за вештачку интелигенцију налаже моделима да не хакују системе или не варају људе
Дакле, Мајкрософт је избацио целу статутску регулативу за своје моделе - као, праве црвене линије. Без сајбер напада. Без нуклеарног оружја. Без фабрика дипфејкова. И најважнија ствар: моделу није дозвољено да се извуче из гашења.
Зову то свеобухватни код који поништава све што сте унели у чет. Што је... помало освежавајуће. Или контролно. Можда и једно и друго.
Надела је овде напољу и клима главом заједно са гомилом која „корача границом“. Пажљиво држање и свест о суморној соби могу изгледати исто споља; Мајкрософт бира да не буде лабораторија која слеже раменима.
У сваком случају, документ звучи као да је неко коначно написао „молим вас, немојте постати антагониста хорор филмова“ корпоративним стилом.
ОпенАИ купује произвођача камера за паметне телефоне Гласс Имагинг за 300 милиона долара, наводи се у извештају
У међувремену, OpenAI је тихо купио стартап за камере за више од 300 милиона долара. Glass Imaging. Основали су га бивши људи из Apple Portrait Mode-а. Дакле, није случајна аквизиција - ови људи су испоручивали објективе које људи познају.
Поента није „Вештачка интелигенција ће поправити ваш селфи у постпродукцији“. То су неуронске мреже које уче одређене камере на телефону и праве боље фотографије кликом на затварач. Сићушни сензори, велика амбиција.
ОпенАИ није коментарисао. Наравно. И да - ово се налази поред свих гласина о хардверу, телефонима, слушалицама и пратећим гаџетима. Готово да можете чути некога како каже „вижн стек“ на састанку и сви превише јако климају главом.
Компанија за камере као недостајући део уређаја остаје отворена опклада - или само веома скупа опклада да пиксели и даље значе када четботови поједу свет.
Глобалне акције вештачке интелигенције падају док челници индустрије позивају на успоравање развоја
Тржишта нису волела проповед о безбедности. Имена чипова су била погођена. СофтБанк је потпуно настрадао у Азији. Европски технолошки берзански сектор се трзнуо. СОК је имао тешко јутро.
Окидач је био тај ретки тренутак када се извршни директори око нечега сложе - Амодеијево „успоравање“, Алтман и Маск су у суштини рекли да. Алтман је такође поменуо да OpenAI ове године неће излазити на берзу због безбедносних забринутости... док Anthropic и даље брзо напредује ка томе. Ту тензију је тешко смирити.
Трамп је то одмахнуо руком као „болесну заверу“ против вештачке интелигенције и центара података. Мајкл Бери је одбацио упозорења као преувеличану буку. Дакле, расположење је: егзистенцијални страх на једној временској линији, цинизам заснован на мемовима на другој.
Такође - имена из области сајбер безбедности су се окупила. Јер, наравно, заштита од „вештачке интелигенције која би могла да постане нестабилна“ јесте „купите више безбедносног софтвера“. Капитализам проналази начин…
Водеће компаније за вештачку интелигенцију разговарале су о стварању сопственог тела за стандардизацију
CNN наводи да Anthropic, Google и OpenAI разговарају о изградњи сопственог тела за стандардизацију - попут FINRA за граничне моделе. Хасабис је покренуо ту идеју пре неколико месеци. Сада су радне групе очигледно стварне.
Финансирано од стране индустрије. Независни стручњаци. Тестирање напредних модела пре испоруке. Разговори у току о томе да ли Вашингтон жели да игра или не.
Саморегулација увек звучи племенито док се не сетите да се исте лабораторије међусобно такмиче. Онда звучи као клуб са правилима облачења. Онда се повлачите: у реду, можда би вам помогли спољни евалуатори са приступом као запослени.
Нису сви убеђени. Закерберг је наводно рекао Трампу да прескочи идеју FINRA-е за вештачку интелигенцију. Дакле, коалиција „ми ћемо сами себе контролисати“ већ има познати став.
Антропик циља финансијске саветнике новим Клодовим алатом
Док половина индустрије размишља о заустављању пословања, Anthropic је послао Клода за Финансијске саветнике. Повезује се са BlackRock-ом, Schwab-ом, Addepar-ом - плус гомилом имена са великим бројем богаташа попут Envestnet-а и Orion-а.
Припрема за састанак. Преглед портфолија. Праћење посла. Негламурозне ствари које некако и даље изједају људски уторак.
Међутим, тајминг је запањујући - неколико дана након што је OpenAI почео да привлачи банкаре и истраживаче у финансијске сврхе. Дакле, да, они корачају по границама... и такође се тркају за удео у RIA новчаницима. Блага контрадикција. Изузетно блага. Изузетно очигледна.
Ако ваш саветник почне сумњиво течно да говори о вашим улагањима, па, сада знате зашто.
Лидери вештачке интелигенције позивају на успоравање. Трампов тим каже да је то на њима
WIRED јасно бележи политичку сензацију: шефови лабораторија желе помоћ да се успори; расположење у Белој кући је „кул, урадите то сами“
Дејвид Сакс је у суштини рекао да ако вас ваши необјављени модели плаше, будите одговорни - али престаните да се претварате да вам је потребно изузеће од антимонополских прописа да бисте формирали картел безбедности. Оштро. Такође је тешко расправљати се са њим ако сте посматрали ове компаније пет минута.
Трампов став је једноставнији: Америка предњачи у Кини по питању вештачке интелигенције и он жели да тако и остане - „ко год победи у вештачкој интелигенцији, побеђује“. Председник Представничког дома Џонсон упозорава да би хитно укидање прописа могло да одложи трку.
Дакле, Алтманово обећање „независних евалуатора са приступом као запослени“ завршава се у овом непријатном јазу - добровољна изградња поверења док влада слеже раменима. Напредак и позориште поново путују заједно.
Честа питања
Шта забрањује нови Мајкрософтов кодекс понашања за вештачку интелигенцију?
Мајкрософт је објавио свеобухватни кодекс понашања са црвеним линијама за своје моделе, укључујући забрану сајбер напада, забрану нуклеарног рада и забрану фабрика дипфејкова. Кључно правило је да се моделу не дозволи да се извуче из гашења. Код је намењен да поништи све што је корисник укуцао у чет. Сатја Надела се такође слаже са гомилом која тврди да „корача ка граници“ док лабораторије постају јавно опрезније.
Зашто је OpenAI купио Glass Imaging за око 300 милиона долара?
Наводно је OpenAI купио произвођача камера за паметне телефоне Glass Imaging за више од 300 милиона долара. Стартап су основали бивши инжењери компаније Apple Portrait Mode који су испоручивали функције камера које су људима већ познате. Њихова идеја су неуронске мреже које уче одређене камере телефона и побољшавају фотографије кликом на затварач, а не само поправке које вештачка интелигенција поправља у постпродукцији. Споразум се налази поред гласина о хардверу, телефонима, слушалицама и пратећим гаџетима, иако OpenAI није коментарисао.
Зашто су глобалне акције вештачке интелигенције пале након што су извршни директори лабораторија позвали на успоравање?
Тржишта су лоше реаговала на редак тренутак сагласности извршних директора када је Амодеи позвао на успоравање развоја, а Алтман и Маск су се углавном сложили. Имена чипова су била погођена, СофтБанк је био нарушен у Азији, европска технолошка индустрија је посустала, а SOX је имао тешко јутро. Алтман је такође изнео мишљење да OpenAI неће излазити на берзу ове године због безбедносних забринутости, док се Антропик и даље трчи ка томе. Имена компанија за сајбер безбедност су се опоравила као заштита од страха од одметнуте вештачке интелигенције.
Да ли Anthropic, Google и OpenAI стварају сопствено тело за стандарде вештачке интелигенције?
CNN извештава да су Anthropic, Google и OpenAI разговарали о изградњи тела за индустријске стандарде - попут FINRA за граничне моделе - уз финансирање из индустрије, независне стручњаке и тестирање напредних модела пре испоруке. Демис Хасабис је покренуо идеју пре неколико месеци, а радне групе су сада наводно стварне. Разговори о томе да ли Вашингтон жели да учествује се настављају. Нису сви уверени: Закерберг је наводно рекао Трампу да прескочи идеју FINRA-е за вештачку интелигенцију.
Шта је Антропиков Клод за финансијске саветнике?
Антропик је испоручио алатку Клода за финансијске саветнике са конекторима за БлекРок, Шваб, Адепар и велика имена као што су Енвестнет и Орион. Алат је усмерен на негламурозне саветничке послове попут припреме састанака, прегледа портфолија и праћења послова. Лансирање долази неколико дана након што је ОпенАИ почео да се бави финансијама банкара и истраживача. То значи да лабораторије јавно корачају границама док се и даље тркају за удео у RIA новчаницима.
Како је Трампов тим одговорио на позиве лидера вештачке интелигенције на успоравање?
WIRED извештава да шефови лабораторија желе помоћ у успоравању, док је расположење у Белој кући да то треба сами да ураде. Дејвид Сакс је рекао да ако вас необјављени модели плаше, будите одговорни - али престаните да се претварате да вам је потребно изузеће од антимонополских прописа да бисте формирали картел за безбедност. Трампова једноставнија позиција је да Америка води у Кини по питању вештачке интелигенције и да ко год победи, вештачка интелигенција побеђује. Председник Представничког дома Џонсон упозорава да би хитно увођење регулативе могло да преда трку, остављајући Алтманову обавезу независног евалуатора у добровољној празнини.