Да ли сте икада седели ту и чешкали се по глави, као... одакле ово заправо долази? Мислим, вештачка интелигенција не претура по прашњавим библиотечким хрпама нити гледа кришом кратке филмове са Јутјуба. Па ипак, некако избацује одговоре на све - од трикова за лазање до физике црних рупа - као да унутра има неки бескрајни ормар за документе. Стварност је чуднија, а можда и интригантнија него што бисте претпоставили. Хајде да је мало разјаснимо (и да, можда успут разбијемо неколико митова).
Да ли је то врачање? 🌐
Није чаробњаштво, мада се понекад тако чини. Оно што се дешава „испод хаубе“ је у основи предвиђање образаца. Модели великих језика (LLM) не чувају чињенице на начин на који се ваш мозак држи рецепта за колачиће ваше баке; уместо тога, они су обучени да погоде следећу реч (токен) на основу онога што је било пре [2]. У пракси, то значи да се хватају за везе: које речи се слажу заједно, како реченице обично добијају облик, како се целе идеје граде попут скеле. Зато излаз звучи исправно, иако – потпуно искрено – то је статистичка мимикрија, а не разумевање [4].
Па шта заправо чини информације генерисане вештачком интелигенцијом корисним? Неколико ствари:
-
Разноликост података - црпљење из безброј извора, а не из једног уског тока.
-
Ажурирања - без циклуса освежавања, брзо застарева.
-
Филтрирање - идеално хватање смећа пре него што уђе (мада, будимо реални, та мрежа има рупе).
-
Унакрсна провера - ослањање на ауторитетне изворе (помислите на НАСА-у, СЗО, велике универзитете), што је неопходно у већини приручника за управљање вештачком интелигенцијом [3].
Ипак, понекад измишља - са самопоуздањем. Те такозване халуцинације? У основи, углачане глупости изговорене озбиљног лица [2][3].
Чланци које бисте можда желели да прочитате након овог:
🔗 Може ли вештачка интелигенција предвидети бројеве лутрије
Истраживање митова и чињеница о предвиђањима лутрије помоћу вештачке интелигенције.
🔗 Шта значи усвојити холистички приступ вештачкој интелигенцији
Разумевање вештачке интелигенције са уравнотеженим перспективама о етици и утицају.
🔗 Шта Библија каже о вештачкој интелигенцији
Испитивање библијских перспектива о технологији и стварању човека.
Брзо поређење: Одакле вештачка интелигенција црпи 📊
Није сваки извор једнак, али сваки игра своју улогу. Ево кратког прегледа.
| Тип извора | Ко га користи (AI) | Цена/вредност | Зашто функционише (или не...) |
|---|---|---|---|
| Књиге и чланци | Велики језички модели | Непроцењиво (отприлике) | Густо, структурирано знање - једноставно брзо стари. |
| Веб странице и блогови | Скоро све вештачке интелигенције | Слободно (са шумом) | Дивља сорта; мешавина бриљантности и апсолутног смећа. |
| Академски радови | Вештачке интелигенције са великим истраживачким напорима | Понекад је претплаћено | Ригорозност + кредибилитет, али умотано у тешки жаргон. |
| Кориснички подаци | Персонализоване вештачке интелигенције | Веома осетљиво ⚠️ | Оштро кројење, али главобоље са приватношћу у изобиљу. |
| Веб у реалном времену | Вештачке интелигенције повезане са претрагом | Бесплатно (ако је онлајн) | Одржава информације свежим; мана је ризик од ширења гласина. |
Универзум података за обуку 🌌
Ово је фаза „учења у детињству“. Замислите да детету дате милионе књига са причама, исечака из вести и Википедијиних „зечјих рупа“ одједном. Тако изгледа претходна обука. У стварном свету, провајдери спајају јавно доступне податке, лиценциране изворе и текст који генеришу тренери [2].
Слојеви на врху: курирани људски примери - добри одговори, лоши одговори, подстицаји у правом смеру - пре него што појачање уопште почне [1].
Упозорење у вези са транспарентношћу: компаније не откривају сваки детаљ. Неке заштитне ограде су тајност (интелектуална својина, безбедносни проблеми), тако да добијате само делимичан увид у стварни процес [2].
Претрага у реалном времену: Додатни прелив 🍒
Неки модели сада могу да завире изван свог „облака за обуку“. То је генерисање проширено претраживањем (RAG) -у основи извлачење делова из живог индекса или складишта докумената, а затим њихово уплитање у одговор [5]. Идеално за брзо променљиве ствари попут наслова вести или цена акција.
У чему је проблем? Интернет је подједнако генијалан и ватреан. Ако су филтери или провере порекла слаби, ризикујете да се нежељени подаци увуку назад - управо на шта упозоравају оквири за процену ризика [3].
Уобичајено решење: компаније повезују моделе са сопственим интерним базама података, тако да одговори наводе тренутну HR политику или ажурирану документацију производа уместо да се претерано користе. Размислите: мање „ух-ох“ тренутака, више поузданих одговора.
Фино подешавање: Фаза полирања вештачке интелигенције 🧪
Сирови, претходно обучени модели су неспретни. Зато се фино подешавају:
-
Учење да буду корисни, безопасни, искрени (путем учења са појачањем из људских повратних информација, RLHF) [1].
-
Брушење небезбедних или токсичних ивица (поравнање) [1].
-
Прилагођавање тону - било да је то пријатељски, формалан или разиграно саркастичан.
Није толико брушење дијаманта колико гурање статистичке лавине да би се понашао више као саговорник.
Неуспеси и неуспеси 🚧
Немојмо се претварати да је беспрекорно:
-
Халуцинације - јасни одговори који су потпуно погрешни [2][3].
-
Пристрасност - одражава обрасце уграђене у податке; може их чак и појачати ако се не контролише [3][4].
-
Без искуства из прве руке - може да прича о рецептима за супу, али никада није пробала ниједну [4].
-
Претерано самопоуздање - текст тече као да зна, чак и када не зна. Оквири ризика наглашавају претпоставке обележавања [3].
Зашто се осећа као да знаш 🧠
Нема веровања, нема сећања у људском смислу, а свакако нема ни сопство. Па ипак, пошто глатко спаја реченице, ваш мозак то чита као да разуме. Оно што се дешава је само предвиђање следећег жетона масовних размера: обрађивање трилиона вероватноћа у делићу секунде [2].
Вибрација „интелигенције“ је емергентно понашање – истраживачи га, помало шаљиво, називају „стохастичког папагаја“ [4].
Аналогија за децу 🎨
Замислите папагаја који је прочитао све књиге у библиотеци. Не разуме приче , али може да преради речи у нешто што делује мудро. Понекад је потпуно тачно; понекад је бесмислица - али са довољно талента, не можете увек видети разлику.
Закључак: Одакле долазе информације вештачке интелигенције 📌
Једноставно речено:
-
Масивни подаци о обуци (јавни + лиценцирани + генерисани од стране тренера) [2].
-
Фино подешавање помоћу људских повратних информација ради обликовања тона/понашања [1].
-
Системи за преузимање података када су повезани са токовима података уживо [5].
Вештачка интелигенција не „зна“ ствари – она предвиђа текст. То је и њена супермоћ и Ахилова пета. Закључак? Увек проверавајте важне ствари у односу на поуздан извор [3].
Референце
-
Оујанг, Л. и др. (2022). Обука језичких модела за праћење инструкција уз људске повратне информације (InstructGPT). arXiv.
-
OpenAI (2023). GPT-4 Технички извештај - мешавина лиценцираних, јавних и људски креираних података; циљ и ограничења предвиђања следећег токена. arXiv.
-
NIST (2023). Оквир за управљање ризицима вештачке интелигенције (AI RMF 1.0) - порекло, поузданост и контроле ризика. PDF.
-
Бендер, ЕМ, Гебру, Т., Макмилан-Мејџор, А., Мичел, С. (2021). О опасностима стохастичких папагаја: Да ли језички модели могу бити превелики? ПДФ.
-
Луис, П. и др. (2020). Генерисање проширено претраживањем за НЛП интензивно знање. arXiv.