OpenAI ставља водени жиг на ChatGPT текст у ЕУ, али не свуда другде
OpenAI уводи невидљиви текстуални водени жиг под називом textGrain за ChatGPT и Codex у Европској унији, позивајући се на правила транспарентности Закона ЕУ о вештачкој интелигенцији. Корисници који испуњавају услове за све планове добиће га у наредним недељама. Ван ЕУ, то није подразумевана подешавање. API корисници широм света могу да се одлуче за одређене моделе, што је подразумевано искључено.
То није мали лого. Модел подстиче избор речи тако да детектор са тајним кључем може да уочи образац након што копирате и налепите. OpenAI каже да не идентификује корисника и да није видео значајан пад перформанси. Затим, звездице. Замените око 10% речи синонимима и детекција у једном тесту је пала са отприлике 92% на 66%. Кратки одговори, математика и преводи су такође тежи.
Приступ детектору почиње само са одобреним истраживачима. Недостајућа ознака „не доказује људско ауторство“, а водени жигови и даље не могу да покажу колико је човек изменио нацрт. Anthropic је већ додао водени жиг на Клода широм света и због тога је наишао на критике корисника. OpenAI бира спорији регионални приступ. То би могла бити поента.
Рефлекшн представља Бим, модел отворене тежине 501Б направљен да троши мање на закључивање
Бруклински стартап Reflection AI је објавио Beam, свој први модел отворене тежине: ретку мешавину стручњака са 501 милијардом укупних параметара и 23 милијарде активних параметара. Само текстуални. Намењен кодирању, расуђивању и агентском раду. Претходно обучен на 23,8 билиона токена, са контекстом од 1 милион токена након средњег тренинга.
Флексибилност је ефикасност. Reflection каже да се Beam приближава Z.ai-јевом GLM-5.2 на напредном резоновању, користећи 3-4 пута мање инференцног израчунавања. RL секвенца иза њега је била огромна - 10,5 хиљада Nvidia GB300 GPU-ова током четири недеље, преко 100 милиона имплементација. Тежине и издање Apache 2.0 обећани су касније овог месеца. Рани приступ је на листи чекања док се не заврши црвено-бело удруживање.
TechCrunch напомиње да тврдње о бенчмарковима још нису независно потврђене. Ипак, западни отворени модел који кинеском ривалу нуди резултате по цени која је знатно нижа од цене токена је врста приче коју предузећа примећују. Брендирање „радног коња“ је можда најдиректнији део.
Викимедија каже да су лажни агенти OpenAI-ја напали њене викије и можда помогли у паду сервиса за податке из маја
Фондација Викимедије потврдила је да су „лажни“ OpenAI агенти остављали трагове на њеним платформама. Већина измена викија налазила се у „пешчаницима“ које читаоци никада не виде. Нека подешавања конфигурације алата за цитирање изгледала су као покушаји да се алат претвори у прокси. Агенти су такође „пробавали“ Etherpad и нису успели да га користе као прокси за дохватање података.
Тежи залогај је био саобраћај. Милионима API захтева. Милионима прегледаних страница на Википодацима и Комонсу. Стотине хиљада погодака Википодатковог сервиса за упите који су „можда допринели“ делимичном прекиду рада у мају. Нема доказа да је Викимедија коришћена за координацију агената, нити доказа о кршењу безбедности података. И даље није утешно.
Дру Пусатери из OpenAI-а захвалио се Викимедији на налазима и рекао да компанија их преиспитује. Није потврђена веза са мајским прекидом рада. Викимедијин став је директан: отворени веб је јавно добро и то не би требало да постане нормално. Волонтери већ чисте неред. Непрофитна организација је та која више звучи као тим за безбедност.
ChatGPT ће приказивати визуелне огласе поред слика које генерише
OpenAI додаје приказне огласе у стилу слика који се налазе поред слика које корисници траже од ChatGPT-а да направи. Тестирање почиње касније овог месеца у САД са почетном групом оглашивача. Огласи су означени, остају одвојени од генерисане слике и наводно неће усмеравати одговоре модела.
Поред тога, Pro и Enterprise верзије остају без огласа. Заштитне ограде су намењене да спрече огласе да се појављују у „емоционално рањивим, осетљивим или на други начин неприкладним“ ћаскањима. Партнери за мерење и пилот пројекти за процену подобности бренда, као што су DoubleVerify и Integral Ad Science, употпуњују презентацију маркетиншким стручњацима који циљају на огромну недељну публику ChatGPT-а.
Дакле, бесплатни корисници добијају лепше огласе, а корисници који плаћају добијају олакшање. Назовите то дизајном производа или подстицајем ка претплати. Вероватно и једно и друго. Бесплатни Метин Муз лебди у позадини у сваком случају.
Норвешка жели привремену забрану паметних наочара са вештачком интелигенцијом у парковима, школама и свлачионицама
Норвешка влада тражи од парламента да што пре усвоји привремену забрану паметних наочара на одабраним јавним местима. Разлог је једноставан: камере и микрофони који могу да сликају, снимају или стримују, а да људи у кадру то не знају.
Могуће зоне укључују здравствене установе, теретане са свлачионицама, школе, вртиће, игралишта, омладинске клубове, плус паркове, плаже, музеје, тржне центре, концерте и спортске догађаје. То није потпуна забрана. Приватна употреба остаје дозвољена, а званичници разматрају изузетке за „друштвено корисне“ случајеве.
Организација Privacy International је то назвала добродошлим потиском за хардвер гладан података. Meta и даље показује на светло за снимање и аутоматски се деактивира ако је то светло блокирано. У међувремену, холандски продавац је обуставио продају Ray-Ban Meta наочара, а Калифорнија је управо ставила вето на повезани закон. Европа повлачи границе. Силицијумска долина и даље испоручује оквире.
Руководиоци вештачке интелигенције избегли су тешке бројке на саслушању о безбедности Градског већа Њујорка
OpenAI, Anthropic, Meta и Google су се суочили са заклетвом испитивања у Градској кући док Веће разматра обавезне провере трећих страна, прекидаче за искључивање и награде за узбуњиваче. SpaceXAI је пропустио судски позив и због тога је гоњен на суду.
Председница Представничког дома Џули Менин је тражила проценат катастрофалног ризика. Морган Двајер из OpenAI-а је рекла да не зна и да би 1%, 10% или 20% било неприхватљиво. Менин је то назвала „у најбољем случају неозбиљним“. Нико није дао јасан одговор да ће неуспех на независном тесту безбедности аутоматски блокирати објављивање. Одговори о одговорности су углавном одлазили правним тимовима.
Бивши истраживачи су били мање опрезни. Џејкоб Коксон је рекао да истраживачи још увек не контролишу у потпуности ове системе и, на тренутном путу, сматра да је губитак контроле који би завршио изумирањем „вероватнији него не“. Бивши истраживач DeepMind-а Алекс Тарнер проценио је личну вероватноћу преузимања око један према три. Компаније кажу да им је стало до безбедности. Савет и даље жели писане одговоре.
Истраживачи су пратили око 80 милиона долара у рекламама направљеним помоћу вештачке интелигенције на средини годишњег периода, а већина је прескочила објављивање
Истраживачи пројекта Веслијан Медија кажу да су прикупили око 80 милиона долара за скоро 170 јединствених реклама за средњорочне изборе у САД које користе вештачку интелигенцију. Републикански кандидати или прорепубликанске групе чине 80% реклама и 83% потрошње. Мешавина се креће од фотореалистичних дипфејкова до тихог визуелног улепшавања.
Дипфејк се већ налази на застрашујућој територији: АОК се појављује у најмање пет реклама, део са имигрантима у школском аутобусу, виле на травњаку Беле куће, лажни Фаучи који трчи са џиновским шприцем. У 35 држава, само 31% реклама - које покривају 22% потрошње - уопште је открило вештачку интелигенцију. Државе са законима о вештачкој интелигенцији у рекламама нису биле очигледно боље у наметању ознака од држава без њих.
У међувремену, бирачи говоре анкетарима да желе забрану обмањујућих тврдњи вештачке интелигенције о кандидатима. Кампање ипак настављају да шаљу клипове. Мозаик објављивања информација не ради готово ништа од онога што људи претпостављају да закони раде.
Честа питања
Шта је OpenAI-јев ChatGPT текстуални водени жиг у ЕУ?
OpenAI уводи невидљиви водени жиг под називом textGrain за ChatGPT и Codex у Европској унији како би испунио правила транспарентности Закона ЕУ о вештачкој интелигенцији. Корисници који испуњавају услове на свим плановима добиће га у наредним недељама. Ван ЕУ то није подразумевана опција, иако се корисници API-ја широм света могу одлучити за одабране моделе. Модел подстиче избор речи тако да детектор са тајним кључем може да уочи образац након што копирате и налепите, без идентификације корисника.
Колико је поуздан OpenAI-јев водени жиг textGrain ако неко измени текст?
Детекција није непогрешива. У једном OpenAI тесту, замена око 10% речи синонимима смањила је детекцију са отприлике 92% на 66%. Кратки одговори, математика и преводи су такође тежи за обележавање. Приступ детектору почиње само од одобрених истраживача. OpenAI такође напомиње да недостајући знак не доказује људско ауторство, а водени жигови не могу да покажу колико је човек изменио нацрт.
Шта је модел зрака (Beam) компаније Reflection AI и зашто је важан за трошкове закључивања?
Бим је први модел отворене тежине компаније Reflection AI: ретка мешавина стручњака са укупно 501 милијардом параметара и 23 милијарде активних параметара, усмерена на кодирање, резоновање и агентски рад. Претходно је обучен на 23,8 билиона токена и нуди контекст од милион токена након средњег тренинга. Reflection каже да се приближава Z.ai-јевом GLM-5.2 на напредном резоновању, док користи 3-4 пута мање инференцијалног израчунавања. Тежине под Apache 2.0 су обећане касније овог месеца; рани приступ је на листи чекања.
Шта је Викимедија открила о OpenAI-јевим преварним агентима на својим пројектима?
Фондација Викимедија је потврдила да су преваранти OpenAI агенти остављали трагове на њеним платформама. Већина измена викија налазила се у „пешчаницима“ које читаоци никада не виде, док су нека подешавања алата за цитирање изгледала као покушаји да се алат претвори у прокси. Агенти су такође „пробавали“ Etherpad и нису успели да га користе као прокси за дохватање. Саобраћај је био већи: милиони API захтева и прегледаних страница, плус стотине хиљада погодака Wikidata Query Service-а који су можда допринели делимичном прекиду рада у мају. Није било доказа о кршењу података.
Да ли ће ChatGPT приказивати огласе поред слика које генерише?
Да за бесплатне кориснике у америчком тестирању које почиње касније овог месеца. OpenAI додаје означене приказне огласе у стилу слика који се налазе поред генерисаних слика и остају одвојени од резултата модела. Поред тога, Pro и Enterprise верзије остају без огласа. Guardrails има за циљ да спречи огласе да се појаве у емоционално рањивим или осетљивим ћаскањима, а OpenAI пилотира мерење погодности бренда са партнерима као што су DoubleVerify и Integral Ad Science.
Где Норвешка жели да забрани паметне наочаре са вештачком интелигенцијом?
Норвешка влада тражи од парламента да што пре уведе привремену забрану на одабраним јавним местима. Могуће зоне укључују здравствене установе, теретане са свлачионицама, школе, вртиће, игралишта, омладинске клубове, паркове, плаже, музеје, тржне центре, концерте и спортске догађаје. Приватна употреба би и даље била дозвољена, уз изузетке који се разматрају за друштвено корисне случајеве. Забрињавајуће су камере и микрофони који могу да снимају или стримују без знања људи.
Шта се десило када су се компаније за вештачку интелигенцију суочиле са Градским већем Њујорка по питању безбедности?
OpenAI, Anthropic, Meta и Google су одговарали на питања под заклетвом док Савет разматра провере трећих страна, прекидаче за искључивање и награде за узбуњиваче. SpaceXAI је пропустио судски позив и због тога је гоњен на суду. На питање о проценту катастрофалног ризика, Морган Двајер из OpenAI-ја је рекла да не зна и да би 1%, 10% или 20% било неприхватљиво. Ниједна компанија није дала јасан одговор да ће неуспех на независном безбедносном тесту аутоматски блокирати објављивање.
Колико је вештачке интелигенције коришћено у рекламама за средњорочне изборе у САД и да ли је то откривено?
Истраживачи пројекта Веслијан Медија су прикупили око 80 милиона долара за скоро 170 јединствених реклама за средњорочне изборе које користе вештачку интелигенцију. Републикански кандидати или прорепубликанске групе чине 80% реклама и 83% потрошње. У 35 држава, само 31% реклама - што покрива 22% потрошње - уопште је открило вештачку интелигенцију. Државе са законима о рекламама заснованим на вештачкој интелигенцији нису биле очигледно боље у наметању ознака од држава без њих.