Да ли је вештачка интелигенција поуздана? [Видео и квиз]

Кратак одговор: Вештачка интелигенција није поуздана као особина: зависи од задатка, петље претраживања и човека који је и даље у игри. Време непрекидног рада је да ли је крајња тачка одговорила; истинитост је да ли је одговор био такав. Користите је када је промашај јефтин или ухватљив; успорите када је промашај скуп.

Кључне закључке:

Одговорност: Наведите ко врши преглед, ко то може зауставити и ко је одговоран.

Транспарентност: Прегледајте преузети део, или сте још увек у магли.

Проверљивост: Бележи упите, преузете делове и слања тако да се промашаји могу пратити.

Отпорност на злоупотребу: Не успети у решавању финансијских питања; никада не измишљати бројеве, прозоре или политику.

Илустративни резултати: Третирајте илустративни тест од 20 питања као мапу, а не као 95% доказ.

Чланци које бисте можда желели да прочитате након овог:

🔗 Како користити вештачку интелигенцију у свакодневном животу
Откријте практичне начине на које вештачка интелигенција може поједноставити свакодневне задатке и рутине.

🔗 Како користити вештачку интелигенцију на послу
Научите практичне начине за побољшање продуктивности и ефикасности помоћу вештачке интелигенције.

🔗 Може ли вештачка интелигенција да размишља сама за себе?
Истражите да ли вештачка интелигенција заиста може самостално да размишља и расуђује.

🔗 Које су врсте вештачке интелигенције?
Разумите главне врсте вештачке интелигенције, могућности и кључне разлике.

Шта уопште значи „поуздан“ када је машина статистички папагај

Поузданост, у свакодневном говору, значи да се можете ослонити на нешто.

Са аутоматизацијом која говори, гомила различитих својстава се крије под једном речју. Чињеничност. Конзистентност. Калибрација - да ли се поузданост модела поклапа са шансом да је тачан или само... звучи сигурно. Безбедност. Време рада. Брза осетљивост. Понашање на ивичним случајевима. Понашање након промене дистрибуције, када живи свет није свет обуке. Ниједно од тога не успева заједно. То је део који људи прескачу.

Четбот може бити „активан“ целе недеље, а да и даље греши у уторак поподне. Копилот кодирања може бити у реду са шаблонским шаблоном, а затим халуцинирати API који изгледа потпуно исто као и оригинални. Метафора коју људи користе је „млађи колега“. То је несавршена метафора - млађи се стиде - али је ближа од „оракла“.

Тест уживо је поуздан за шта, за кога, са којом петљом око њега. У супротном, оцењујете блендер на основу тога да ли може да обради порезе.

Време непрекидног рада није истинитост - две различите врсте „поузданости“

Људи из оперативних снага и људи који тврде истину користе исту реч и говоре једни преко других.

Време рада је „да ли је крајња тачка одговорила“. Истинитост је „да ли је одговор био такав“. Управљање брине о оба, а ризик модела се налази у ружној празнини. Можете имати услугу која никада не трепне, а ипак у корисничку пријаву убацити течну лаж. Поуздано у смислу SRE-а. Непоуздано у смислу „молим вас, немојте измишљати политику повраћаја новца“.

Претпостављам да је ово очигледно записано. Није очигледно у 16 ​​часова када је одговор брз, а ред огроман. Брзина се осећа као компетентност. Спорост је некада значила да неко размишља. Сада је брзина знак да нико не размишља.

Безбедност је још једна оса. Модел који одбија гадан џејлбрејк је „поуздан“ у погледу безбедносне процене и даље може да поквари резиме ваших белешки.

Течно и погрешно је горе него неспретно и директно

То је проблем са самопоуздањем, и то је онај који гризе.

Тачност и течност су се раздвојиле, а течност је одржавала кућу. Магистар права ће вам дати ритам, осигуравајући се на правим местима, можда лажни, али лепи облик цитата. Ваш мозак чита „ова особа зна“. Осим што то није особа, а калибрација је често ужасна - високо самопоуздање, просечна истина, изговорено као главни говор.

Неспретно погрешан одговор вас чини сумњичавим. Течно погрешан одговор вас тера да престанете да проверавате. То није мала разлика; то је цела прича у једној помало непријатној реченици.

Пристрасност је такође присутна, не увек као увреда, више као подразумевано понашање у вези са тим ко је у просторији и који укус енглеског језика се рачуна као неутралан. Људи се преваре јер је језик наш најстарији интерфејс поверења. Ако говори као бриф, и ми га третирамо као бриф. Стално намеравам да будем циничнији по том питању. Онда прочитам бистар резиме и рамена ми се спусте. Улазећи на састанак, резиме изгледа завршен. Та реченица обавља превише посла, ипак: тако се промашај убацује у шпил.

Поузданост по ситуацији, а не по бренду

Брендови су сметња. Поређење које зарађује своје место је посао. Редови ће се свађати једни са другима. То је у реду.

У сваком случају. Ако је ваш омиљени алат вешт у писању нацрта и ухватите себе како га тражите за правну удобност у поноћ, то није надоградња. То је мапа која каже да сте га одустали.

Халуцинације, дрифт и она тиха врста погрешног понашања

Халуцинација добија насловне стране јер је зачињена: књига која не постоји, функција која никада није испоручена, клаузула о политици са бројем који делује званично.

Дрифт је мање филмски. Свет се креће. Остаци модела остају. Поставите питање које је захтевало нови контекст и добијете добро организован одговор из претходног времена. Скоро сам написао „из друге ере“, што је претеривање које ова тема позива. То није друга ера. Само није сада.

Тиха погрешност је оно што ме више занима. Резиме који изоставља изузетак. Парафраза која уздиже „можда“ у „обавезно“. Чињеничност може бити „технички у реду“, док је значење помало другачије.

Брза осетљивост погоршава ово. Промените амбалажу и „чињенице“ ће заблистати. Питајте као скептик, набавите заштиту. Питајте као шеф у журби, брзо претерујте. Ако ваша процена користи само један костим, ваша процена је помало лажна. Извините.

Бегства из затвора су на ивици, а ја не желим филм о пљачки. Ако се систем може наговорити да изгуби своје манире, поузданост није само ствар истине; већ и то да ли су заштитне ограде петља или постер.

Остаци тренинга, устајало знање и зашто уземљење није чаробни штапић

Генеративни модели се тренирају на гомили, а затим усмеравају ка вашем уторку. Преузимање је одрасли покушај да се садашњост причврсти на ту гомилу. Уземљење значи „одговор из овога, а не из магле“. Када не успе, не успева учтиво.

Класичан неуспех: претраживач дохвати документ који је замало промашио. Генератор га преписује са потпуним миром. Видите објекат у облику извора и ваш инстинкт за проверу се активира. Ја то радим. Вероватно и ви то радите. Идеја цитирања је исправна; имплементација је добра колико и погодак.

Застајало знање је други извор цурења. Неким задацима је потребно активно стање - цене, залихе, тренутна формулација политике. Некима је потребан стабилан начин рада, као што је структурирање меморандума. Помешајте то и добићете веома сигуран одговор о свету који се већ променио. Промена дистрибуције је зрело име: жива дистрибуција није дистрибуција за обуку, а гранични случајеви живе у празнини.

Још једна ствар, речена са погрешно постављеном цртицом јер тако изгледају моје белешке: уземљење је под - не ореол. Ако не можете да прегледате пронађени део, и даље сте у магли, само са бољим осветљењем.

Позориште евалуације: зашто је демо ужасан тест

Демо снимци су муња. Бенчмаркови су мало искренији, а и даље нису твој посао.

Чист задатак и модел је видео хиљаду рођака - наравно да изгледа оштро. Евалуација која мери само то мери сценску представу. Уживо токови рада имају замршено лепљење, недостајуће датотеке и корисника који ће прихватити први одговор што смањује њихову анксиозност.

Репери су важни. Они једноставно не путују тако добро као што се шпилови претварају. Резултат на ранг листи није калибрација ваших тикета. Модел ризика у компанији је „шта се дешава када је ово погрешно на великој количини“, а не „да ли је прошло сет квизова“. Тестови који су вам потребни су суви: останите унутар пронађеног пасуса; означите неизвесност уместо да блефирате; будите доследни када преформулишете; не успејте у затварању (одбијте, питајте, одложите) уместо да не успете у отварању (измислите).

Гледао сам људе како један импресиван завршетак третирају као доказ. То је као да одлучите да је ресторан „поуздан“ зато што је предјело било лепо. Можда и јесте. Можда је кухиња имала добрих десет минута.

Мала контрадикција: Још увек користим демо снимке да бих стекао осећај. Само не изнајмљујем тај осећај.

Да ли је вештачка интелигенција поуздана? Само ако је неко још увек одговоран

Човек-у-петљи је једини дизајн који одговара режимима отказа.

Ако нико није одговоран, систем ће се користити као да јесте. Управљање је неатрактиван назив за „ко прегледа, ко може да га заустави, шта се евидентира, шта се дешава након промашаја“. Агенти ово чине оштријим јер предузимају акције, а не само параграфе. Нацрт који нисте послали је јефтин. Позив алата који нисте мислили није.

Наведите ко је одговоран. Ако је одговор „модел“, немате одговор. Модели не иду на састанак након инцидента. Иде једна особа, или усисивач, па онда адвокат.

Изаберите провере које одговарају радијусу експлозије. Провера правописа за објаву на друштвеним мрежама. Провера извора за све што тврди чињеницу. Професионалца за све што је везано за медицину, право, кредите, безбедносно критичне операције. За њих, човек није „у току“. Човек је ток догађаја. Модел је завршетак. То није скептицизам као личности. То је укус.

Тренутно је мода сакрити чек иза сјајног дугмета за слање. Ових дана тако случајно аутоматизујете гласину. У последње време сам био сувљи по овом питању, а посао је постао бољи.

Како питати да бисте промашили

Можете испитати ове системе, а да не постанете професионални сумњач у сунчеву светлост.

• Намерно питајте за неизвесност. „Шта би ово учинило погрешним?“ је боље од „учините то самоувереним“.

• Одвојите преузимање од генерације када можете. Прво погледајте одломке. Затим затражите опис.

• Промените костим. Преформулишите. Замолите га да тврди супротно. Брза осетљивост је као батеријска лампа ако је тако користите.

• Присилна ограничења: „само из текста који сам налепио“, „ако недостаје, реци да недостаје“. Модели су изненађујуће послушни овоме... све док не престану. Провери у сваком случају.

• Више волим задатке са верификатором. Компилатори, линтери, провере шема, други пар очију. Поузданост воли оцењивача.

• Пазите на знак: додатна специфичност. Прецизна фигура, именовани случај, уредно нумерисана клаузула - ту се халуцинација воли дочарати.

• Нека људски корак буде видљив. Ако кориснички интерфејс сакрије проверу, људи ће је прескочити. То је намештај, а не морални недостатак.

Ништа од овога не чини модел „тачним“. Чини петљу мање лаковерном. Што је, претпостављам, производ.

Где вас мапа оставља

Дакле. Питање да/не функционише само као улаз.

Да ли је вештачка интелигенција поуздана? Не као особина. Као својство задатка, скупа података, петље претраживања, евалуације која није демо и човека који то и даље мора да мисли озбиљно. Течност ће нас наставити заваравати јер смо језичке животиње, а ови системи су језичке машине. Време рада ће се наставити мешати са истином јер се чини да је обоје „радило“. Копилоти ће наставити да зарађују за живот у замршеној средини - нацрти, резимеи које можете прелетети, код који можете компајлирати - и небезбедни када препустимо процену пасусу коме није стало.

Користите их тамо где је промашај јефтин или се може ухватити. Успорите тамо где је промашај скуп. То је директан одговор и вреди више од слогана.

Ако узмете у обзир једну ствар: престаните да питате модел да ли је сигуран. Посматрајте шта се дешава када га питате како би могао бити погрешан. Онда идите и проверите.

Пример из стварног света: Израда вештачке интелигенције за политику чланства

Сценарио

Прија води одељење за Harbour Membership, британско трговинско тело од 70 људи за независне теретане. Три особе одговарају на питања чланова. Извор истине је приручник од 180 страница, који се ажурира сваког квартала, плус стари PDF-ови на дељеном диску које нико нема срца да обрише.

Руководство је већ купило копилота за помоћ корисницима. Демо је био леп. Време рада је било у реду. У другој недељи, члан у течном нацрту каже да може да замрзне чланство на 14 дана и добије потпуни повраћај новца „стандардно“. То није политика. Агент је то схватио јер и даље отварају приручник када је у питању новац. Питање руководства, упућено као да је одговор да или не, јесте: да ли је вештачка интелигенција поуздана?

Прија одбија пресуду. Она је третира као мапу. Задатак није „дати члановима пророчанство“. То је „написати одговор из тренутног приручника, показати одломак и неуспешно завршити када одломак недостаје“. Ако копилот то не може да уради, то је играчка за цртање, а не стол за политику.

Шта је потребно асистенту

• Приручник из априла 2026. као једини дозвољени корпус, са нетакнутим бројевима одељака

• Стари ПДФ из 2023. године је намерно остављен у уређају, како би могли да виде да ли ће претраживањем бити ухваћено оно што је замало промашено

• Писано правило: нема личних података купаца у алатима за потрошаче; нема слања без човека; нема измишљања бројева, прозора или клаузула „као стандард“

• Дозвола за евидентирање упита, преузетих делова и коначног слања

• Именована власница (Прија) која ће постићи резултате у тест сету и зауставити копилота ако не успе, завршила је горе од бацања новчића на финансијским питањима

• Ако алат подржава преузимање, преузети део мора бити видљив поред нацрта. Ако не, део ће се ручно залепити. Уземљење без пролаза који се може прегледати је и даље магла.

Пример упутства

Прија ово каже обичним језиком, а не позоришном инструкцијом:

Одговарајте само на основу одломака из приручника из априла 2026. које сте добили. Наведите број одељка. Ако одговор није у тим одломцима, реците „није у тренутном приручнику“ и станите. Не измишљајте замрзавање прозора, правила повраћаја новца или накнаде. Не надограђујте „по нахођењу теретане“ на „стандардно“. Ако се два одломка сукобљавају, покажите оба и реците који је тренутни. Пишете за човека који ће отворити изворни код пре него што било шта иде члану.

Затим задржава другу инструкцију за себе, јер је поента чланка петља, а не модел:

Пре слања, отворите цитирани одељак. Питајте „шта би ово учинило погрешним?“. Ако нацрт садржи број који није у пасусу, одбијте га. Ако сам питао као шеф у журби, питајте поново као скептик и упоредите.

Добар нацрт изгледа овако: „Није у тренутном приручнику (април 2026, одељак 4.2). Замрзавања су на дискреционо право теретане. Повраћај новца није аутоматски. Ескалирајте.“ Лош нацрт изгледа овако: „Чланови могу да замрзну чланство 14 дана и да добију пуни повраћај новца као стандард. Потврђено у приручнику.“ Исти тон. Само једно од тога је политика.

Како га тестирати

Прија напише 20 питања пре него што погледа било који резултат копилота. Тај редослед је важан. Демо је муња. Ово је суви тест.

Сет није тривијалност. То је живи сто:

• Осам питања чији се одговори налазе у једном тренутном одељку (лака питања)

• Четири блиска промашаја, где је ПДФ из 2023. године ближи формулацији од априлског текста

• Три питања која „нису у приручнику“ (спорови око наплате, медицинско питање „да ли је ова обука безбедна“, правно питање о промени уговора)

• Три финансијска питања (замрзавање, повраћај новца, чланарина)

• Два уобичајена питања чланова (радно време, осигурање тренера)

Двоје од тих двадесет је такође поново постављено у другом костиму, једном као журни шеф, а једном као скептик, као провера осетљивости на промпт. Та поновна питања су евидентирана, а не укључена у резултат од 20 ставки.

Рубрика, коју је Прија оценила са отвореним приручником: за пролаз је потребно исправно тренутно правило, прави број одељка и никаква додатна измишљена клаузула. Тихи неуспех је технички лепа реченица која је изоставила изузетак или претворила „можда“ у „мора“. Отворени неуспех је измишљени број или скоро промашајни PDF третиран као тренутни. Време непрекидног рада се рачуна одвојено, јер „одговорило је“ није „било је тако“.

Прихватање за даље кораке: по питањима новца, неуспешно затварање уместо неуспешног отварања. Ако копилот измисли прозор за повраћај новца, неће правити активне тикете. Ако нико неће да отвори изворни код, неће правити ни активне тикете.

Резултат

Илустративан резултат, из измишљеног теста од 20 питања, а не објављени број чланова Харбора.

Претпоставке: један копилот службе за помоћ; приручник из априла 2026. плус преостали ПДФ из 2023.; Прија је бодовала у односу на горњу рубрику; време је било штоперица на телефону од питања налепљеног на „Послао/ла бих ово“; време прегледа је укључено у услов петље и искључено у неозначеном, намерно, тако да поређење остаје равномерно.

Неозначени копилот, упит у стилу демоа: 20 од 20 питања је добило течан одговор (време рада је изгледало савршено). 11 од 20 је испунило рубрику. Пет је било тихих неуспеха. Четири су била отворена неуспеха, укључујући 14-дневно замрзавање. Два од четири отворена неуспеха су наводила део у облику изворног кода из ПДФ-а из 2023. Средње време до нацрта који изгледа као да се може послати било је 1 минут.

Истих 20 питања, ограничена инструкција, видљив преузети део: 15 од 20 је било потпуно тачно из априлског текста. Три су тачно рекла „није у тренутном приручнику“ (медицински и правно повезане ставке, плус један спор око наплате), тако да је 18 од 20 било прихватљиво. Два су и даље била неуспешна: један је преписао скоро промашени ПДФ из 2023. године, а један је измислио износ чланарине који није био у одломку. Средње време за писање нацрта је и даље било око 1 минут.

Истих 20, плус Прија која је отворила цитирани одељак пре симулираног слања: 19 од 20 би било прихватљиво. Ухватила је промашај у PDF формату. Преостали промашај је био рецензент који је прелетео течан пасус и није приметио измишљену цифру чланарине. Средње време, укључујући рецензију, било је 3 минута.

Стари поступак, само претрага приручника, без копилота: 20 од 20 прихватљиво. Медијана 9 минута.

У овом узорку, копилот са петљом је био 6 минута бржи од потраге за приручником (9 минус 3), или 120 минута на 20 питања, са 19 од 20 прихватљивих уместо 20 од 20. Неконтролисани копилот је био 8 минута бржи (9 минус 1) и погрешио је, тихо или гласно, на 9 од 20. То није уштеда времена од 67% коју бисте уложили у управљачки пакет. То је цурење од 9 промашаја које бисте аутоматизовали.

Верзије два поновљена питања о којима је журио шеф су обе преувеличале. Скептичне верзије су се уздржале. Исти модел, исти приручник, другачији костим. Прија је то забележила као налаз, а не као личност.

Ове бројке су пример процене засноване на наведеном тесту, малом броју, картама које су биле лакше него љутити члан и једном рецензенту који је већ познавао књигу. Оне не показују да је копилот „95% поуздан“, или да би Харбор требало да отпусти особу за столом. Оне показују да време непрекидног рада није било питање, већ да је провера била у питању.

Шта може поћи по злу

• Руководство наводи време драфта од 1 минута и прескаче 9 промашаја. Брзина се и даље осећа као компетентност у 16 ​​часова.

• ПДФ из 2023. остаје у индексу. Претраживање га стално враћа. Уземљење изгледа зрело и још увек је близу промашаја.

• Кориснички интерфејс скрива преузети део иза сјајног дугмета за слање. Људи престају да отварају приручник, што је начин на који замрзнути одговор стиже до члана.

• Прија бодује само осам лаких питања јер лепше изгледају на слајду. Позориште за евалуацију, само са табелом.

• Одговор на питање „да ли је ова обука безбедна“ у медицинској смислу сме да изгледа као кратак опис. На мапи је писало „скоро никада“. Тон је говорио „само напред“.

• Записи су искључени јер „се чинило као да је додатно“. Након промашаја, нико не може да види који је одломак пронађен.

• Питају модел да ли је сигуран. Јесте. То никада није био тест.

Практична информација

Поузданост није особина копилота кога је Харбор купио. То је својство 20 питања, актуелног приручника, видљивог одломка и особе која и даље отвара изворни код када је у питању новац. Течност ће наставити да пролази тест времена рада. Петља је једина ствар која пролази тест политике.

Честа питања

Шта уопште значи поуздан за генеративну вештачку интелигенцију?

Свакодневна поузданост значи да се можете ослонити на нешто. Са аутоматизацијом која говори, читав низ својстава се крије под једном речју: чињеничност, конзистентност, калибрација, безбедност, време рада, осетљивост на брзину, гранични случајеви и понашање након промене дистрибуције. Ниједно од тога не закаже заједно. Тест уживо је поуздан за шта, за кога, са којом петљом око њега. У супротном, оцењујете блендер на основу тога да ли може да обради порезе.

Да ли је вештачка интелигенција поуздана?

Не као особина. Мастер права може бити непоколебљив у једном послу, а тихо подивљати у следећем, понекад у истој сесији, понекад зато што сте померили зарез. Поузданост је својство задатка, скупа података, петље претраживања, евалуације која није демо и човека који и даље мора да мисли озбиљно. Користите је тамо где је промашај јефтин или ухватљив. Успорите тамо где је промашај скуп.

Да ли је време рада вештачке интелигенције исто што и истинитост?

Не. Време рада је да ли је крајња тачка одговорила. Истинитост је да ли је одговор био такав. Можете имати услугу која никада не трепне, а ипак у кориснички тикет убацити течну лаж. Брзина се осећа као компетентност када је ред огроман. Безбедност је још једна оса: модел који одбија џејлбрејк и даље може да уништи резиме ваших белешки.

Зашто се течна вештачка интелигенција осећа поуздано чак и када није у праву?

Тачност и течност су се раздвојили, а течност је одржавала кућу. Магистар права ће вам дати ритам, заштиту, можда лажни, али лепи облик цитата, а ваш мозак чита „ова особа зна“. Калибрација је често ужасна: велика самопоузданост, просечна истина, изречена као главни говор. Неспретни погрешан одговор вас чини сумњичавим. Течан погрешан одговор вас тера да престанете да проверавате. Ако говори као бриф, третирамо га као бриф, и тако промашај улази у шпил.

Да ли је вештачка интелигенција поуздана за медицински, правни или рад у области корисничке подршке?

Зависи од посла, а не од бренда. Медицински и правни савети скоро никада нису довољно добри као производ: модел је кратак текст, а човек је професионалац. Корисничка подршка може да се изради у оквиру строге политике, али особа треба да буде одговорна за слање новца и да јој верује, јер су измишљена политика и љубазно погрешно „не“ уобичајени неуспех. Нацрти и резимеи су први пут да се упознате са текстом који већ знате. Проверите имена, бројеве и ред који би могао да боли.

Зашто вештачка интелигенција халуцинира, лута или тихо греши?

Халуцинација је зачињени промашај: књига која не постоји, функција која никада није испоручена, клаузула о политици са бројем који делује званично. Дрифт је мање филмски: свет се креће, остаци модела остају, а ви добијате добро организован одговор из претходног времена. Тиха погрешност је резиме који одбацује изузетак. Или парафраза која надоградњу „можда“ на „мора“. Чињеничност може изгледати технички добро, док је значење избледело. Брза осетљивост чини да чињенице заблистају када промените омотач.

Да ли уземљење или проналажење чини вештачку интелигенцију поузданом?

Уземљење значи одговор из овога, а не из магле. Проналажење причвршћује садашњост на обучену гомилу. Када не успе, не успева учтиво: документ који је замало промашио, написан чланак, и ваш инстинкт за проверу се оглашава. Уземљење је под, а не ореол. Ако не можете да прегледате пронађени део, и даље сте у магли, само са бољим осветљењем. Помешајте задатке уживо попут цена или формулације политике са стабилним вештинама и добићете веома сигуран одговор о свету који се већ померио.

Зашто је демо лош тест поузданости вештачке интелигенције?

Чист упит и задатак који је модел видео хиљаду рођака изгледаће оштро. Радни токови уживо имају замршено лепљење, недостајуће датотеке и корисника који ће прихватити први одговор који смањује његову анксиозност. Резултат на ранг листи није калибрација ваших тикета. Ризик модела је оно што се дешава када је ово погрешно на нивоу количине, а не да ли је прошло скуп квизова. Тестови који су вам потребни су суви: останите унутар пронађеног одломка, означите неизвесност уместо да блефирате, останите доследни када преформулишете и не успејте у затвореном уместо да измишљате.

Да ли је вештачка интелигенција поуздана ако нико није одговоран?

Не. Ако нико није одговоран, систем ће се користити као да јесте. Човек у петљи је једини дизајн који одговара режимима кварова: ко прегледа, ко може да га заустави, шта се евидентира, шта се дешава након промашаја. Ако је одговор „модел“, немате одговор. Модели не иду на састанак након инцидента. За медицину, право, кредите или безбедносно критичне операције, човек је петља, а модел је завршни део.

Како да подстакнем вештачку интелигенцију да бих уочио грешке?

Намерно питајте за неизвесност: „Шта би ово учинило погрешним?“ је боље од „учините то поузданим“. Одвојите преузимање од генерисања кад год можете. Прво погледајте одломке, па затим тражите опис. Промените костим: преформулишите или замолите да аргументује супротно. Наметните ограничења као што су „само из текста који сам налепио“ или „ако недостаје, реците да недостаје“ и ипак проверите. Преферирајте задатке са верификатором и пазите на додатну специфичност, јер се халуцинације ту воле облачити.

Референце

1. НИСТ - nvlpubs.nist.gov

2. НИСТ - airc.nist.gov

3. НИСТ - airc.nist.gov

4. ИКО - ico.org.uk

5. NCSC - www.ncsc.gov.uk

6. NCSC - www.ncsc.gov.uk

7. ОВАСП - genai.owasp.org

Пронађите најновију вештачку интелигенцију у званичној продавници вештачке интелигенције

О нама