🧒 OpenAI уводи предвиђање старости на ChatGPT-у ↗
OpenAI је почео да уводи слој „предвиђања старости“ унутар ChatGPT-а - тихог система који покушава да закључи када налог вероватно припада малолетнику, а затим ставља додатне сигурносне ограде. Ако мисли да имате мање од 18 година, аутоматски сужава приступ осетљивијем садржају.
Када погреши у претпоставци (што... понекад хоће), лек је верификација идентитета путем Персоне, користећи ток заснован на селфијима. Такође се уклапа у шире промене платформе попут експеримената са „режимом за одрасле“ и потеза монетизације који се, искрено, осећају као да се неколико тањира окреће одједном.
🏦 Британији су потребни „стрес тестови вештачке интелигенције“ за финансијске услуге, кажу законодавци ↗
Британски законодавци у суштини поручују: престаните да будете хладни по питању вештачке интелигенције у финансијама. Њихов аргумент је да би регулатори и влада требало да тестирају системе вештачке интелигенције под притиском, слично као што се банке тестирају на стрес - јер се „упс“ у свету новца брзо шири.
Забринутост је она врста проблема која се открива само у великим размерама: пристрасност, каскаде грешака, обрасци преваре, повратне спреге. То је као да пустите мало дете да вози аутобус зато што је пут прав... док одједном није.
🏛️ Шампиони вештачке интелигенције именовани су да помогну граду да безбедно искористи могућности вештачке интелигенције ↗
Влада Велике Британије именовала је два „шампиона вештачке интелигенције“ како би помогла у убрзању усвајања вештачке интелигенције у финансијским услугама - уз уобичајена обећања раста, продуктивности, инвестиција, све те лепо звучеће машинерије.
Оно што је приметно јесте балансирање: енергија „брзо се крећи“, са натписом „безбедно“ на врху. Охрабрујуће... или благо комично, у зависности од расположења тог дана.
💰 Humans&, стартап за вештачку интелигенцију „усмерен на људе“ који су основали бивши студенти Anthropic-а, xAI-а и Google-а, прикупио је 480 милиона долара почетне инвестиције ↗
Људи су стигли са огромним бројем кандидата и тимом који звучи као „почетни пакет за лабораторију вештачке интелигенције“ - људи из великих продавница модела и великих технолошких компанија. Наведени циљ је мање четботова, а више „помоћи људима да координирају и сарађују“, са системима који могу да функционишу између људи и вештачких интелигенција.
То је много новца за нешто што је још увек у раној фази, што је или знак да је тржиште самоуверено... или да сви колективно купујемо ватромет јер нам се свиђа звук. Искрено, могло би бити и једно и друго.
⚖️ Легални стартап за вештачку интелигенцију Иво прикупио је 55 милиона долара у најновијој рунди финансирања ↗
Правни стартап за вештачку интелигенцију Иво привукао је нова средства за изградњу своје платформе и повећање продаје, јашући на таласу адвокатских канцеларија и интерних правних тимова који аутоматизују радне процесе са великим бројем папирологије.
Ова категорија стално побеђује јер је вредност директна и једноставна: мање сати проведених на понављајућем раду са документима, мање ствари које промакну. Није гламурозно, али је веома, веома исплативо.
🧠 Тајвански Инвентек каже да је одлука о Нвидијином Х200 чипу „изгледа да је заглављена“ на страни Кине ↗
Тајвански произвођач сервера рекао је да питање продаје Нвидијиног Х200 АИ чипа Кини делује „заглављено“ - имплицирајући да уско грло нису само спољна правила, већ и одобрења са стране Кине или интерна динамика.
Ово је несептична реалност хардвера вештачке интелигенције: сви причају о моделима и агентима, али цела будућност може зависити од неколико уских препрека, дозвола и политике ланца снабдевања. То је као да планирате лансирање ракете... а онда схватите да сте заборавили кључ за вентил за гориво.
Честа питања
Какво је OpenAI-јево предвиђање старости на ChatGPT-у и шта се мења ако сте означени као млађи од 18 година?
OpenAI је увео нископрофилни слој „предвиђања старости“ који покушава да закључи да ли налог вероватно припада малолетнику. Ако систем закључи да имате мање од 18 година, ChatGPT аутоматски примењује додатне сигурносне ограде. У пракси то обично значи строжа ограничења за садржај који се сматра осетљивијим. Циљ је смањити ризик без присиљавања сваког корисника да унапред декларише своје године.
Шта се дешава ако ChatGPT-ово предвиђање старости буде погрешно?
Ако предвиђање старости на ChatGPT-у погреши и означи одраслу особу као млађу од 18 година, наведено решење је верификација идентитета. У овом увођењу, та верификација се врши путем Persona коришћењем процеса заснованог на селфијима. Након верификације, налог се може вратити нормалном приступу уместо да остане закључан иза строжих ограничења. То је компромис: мање ризичних граничних случајева, са додатним трењем када систем погрешно погоди.
Како се верификација селфија помоћу Persona уклапа у безбедносни приступ OpenAI-ја?
Персона служи као механизам за решавање неизвесности везане за старост када се системска инференција третира као непоуздана. Ток верификације идентитета заснован на селфијима позициониран је као корективни корак након погрешне предвиђања старости. На многим платформама, ова врста корака се користи за уравнотежење безбедности и приступа без трајног блокирања легитимних корисника. Такође указује на већу примену на нивоу налога, а не само на филтрирање на нивоу упита.
Зашто OpenAI сада додаје ограничење старости и какве то везе има са „режимом за одрасле“?
Ово ажурирање долази упоредо са ширим променама платформе, укључујући експерименте са „режимом за одрасле“ и потезе монетизације поменуте у истој дискусији. Предвиђање старости на ChatGPT-у ефикасно постаје прекидач који одређује ко добија строже подразумеване вредности у односу на шири приступ. То је корисно за платформу која тестира различита искуства за различите публике. Такође може ограничити изложеност ризичнијем садржају, а истовремено омогућити ширење на другим местима.
Шта су „AI стрес тестови“ за британске финансијске услуге и зашто их законодавци желе?
Британски законодавци позивају на „стрес тестове вештачке интелигенције“ који третирају системе вештачке интелигенције више као банке: тестирају их притиском пре него што се проблеми прошире. Забринутост је да пристрасност, каскаде грешака, обрасци превара и повратне спреге могу постати видљиви тек у великим размерама. У финансијама, мали кварови могу се брзо проширити кроз чврсто повезане системе. Стрес тестове треба да открију слабости раније, пре него што буду погођени прави новац и прави купци.
Ко су британски „шампиони вештачке интелигенције“ за град и шта би требало да раде?
Влада Уједињеног Краљевства именовала је два „шампиона за вештачку интелигенцију“ како би помогли у убрзању усвајања вештачке интелигенције у финансијским услугама. Њихова улога је замишљена као помоћ граду да искористи могућности које пружа вештачка интелигенција, док то чини „безбедно“. У пракси, то се тумачи као координација и заступање: подстицање усвајања, подржавање најбољих пракси и усклађивање заинтересованих страна. То сигнализира да влада жели бржу примену, уз видљиву безбедносну фолију око тога.