Зашто вештачка интелигенција понекад измишља ствари [Видео и квиз]

Кратак одговор: Вештачка интелигенција понекад измишља ствари јер предвиђа вероватне следеће речи, а не проверене чињенице - течност није доказ. Када је тема нишна, високог ризика или захтева тачна имена и бројеве, празнине се попуњавају сигурним претпоставкама, осим ако не утемељите одговор и не проверите чврсте тврдње.

Чланци које бисте можда желели да прочитате након овог:

🔗 Престаните да третирате вештачку интелигенцију као Гугл.
Сазнајте зашто бољи резултати вештачке интелигенције захтевају другачији приступ.

🔗 Ваш први прави вештачки упитник
Направите јасан, ефикасан упитник користећи једноставну структуру.

🔗 4 дела одличног вештачког интелигентног упита
Откријте четири битна елемента која побољшавају квалитет вештачког интелигентног упита.

🔗 Шта је заправо вештачка интелигенција?
Разумите вештачку интелигенцију на једноставан, практичан, свакодневни начин.

Кључне закључке:

Предвиђање без сазнања: Третирајте течну прозу као допуњавање обрасца, никада као доказ под заклетвом.

Замка самопоуздања: Асертиван тон је стил; тачност захтева посебну проверу ван ћаскања.

Лажно паковање: Пре него што верујете уредним листама референци, сами претражите наслове цитата и цитате.

Утемељење одговора: Налепите напомене о изворима и забраните измишљене УРЛ-ове, студије или статистику.

Људска ревизија: Прво проверите најризичније тврдње, посебно у вези са здравством, правом или финансијама.

Предвиђање није исто што и знање

Ево директне верзије: већина модела ћаскања су машине за шаблоне. Постављате питање. Они генеришу одговор који одговара облику доброг одговора. Тај облик укључује чињенице, тон, структуру - целу ношњу. Понекад ношња обавија право знање. Понекад обавија самоуверену претпоставку која је попунила празнину.

Претпостављам да лабава метафора помаже, па ћу се онда мало вратити. Замислите џез пијанисту који је чуо милион песама. Замолите га да одсвира „ону о плавом коферу“ и можда ће измислити прелепу мелодију која никада није постојала - зато што је захтев звучао како треба. Чекајте - то преувеличава уметнички квалитет. Више је као аутоматско довршавање на стероидима. Модел довршава вероватан пасус, а не отвара картотеку са ознаком Истина.

Дакле, када људи питају „Зашто вештачка интелигенција понекад измишља ствари“, кратак одговор је: празнине се попуњавају оним што звучи статистички тачно. Недостатак цитата доводи до тога да модел измисли нешто што изгледа академски. Несигуран у број, нуди уредну цифру. Без средњег имена особе, измишља оно које одговара ери и култури. Мало изненађујуће на почетку. Када видите образац, не баш. 

• Течни текст је циљ генерације - не верификована истина.
• Празне празнине у знању и даље добијају речи које се сипају у њих.
• Вероватноћа да „звучи исправно“ може бити већа од „јесте исправно“ у рангирању модела.

Самопоуздање наспрам тачности - незгодна разлика

Људи се штите када нисмо сигурни. Кажемо „мислим“, „можда“, „морао бих да проверим“. Модели такође могу да се штите - ако их замолите - али подразумевани излази често изгледају као самоуверен брифинг. Тај сјај је карактеристика обуке за корисност, а не сигнал да је свака тврдња била основана.

Самопоуздање и тачност су различити показатељи. Један може бити подешен на високе вредности, док други стоји близу нуле. То сте осетили и са људима: колега који објашњава погрешан процес са потпуном сигурношћу. Вештачка интелигенција може да изведе исти плес, само брже и са лепшим форматирањем.

Практична поука: третирајте асертивно формулисање као стил, а не као доказ. Ако одговор нема изворе које можете проверити, нема признања несигурности и има гомилу конкретних имена или бројева - успорите. Конкретност без утемељења је класичан знак. 

• Асертиван тон ≠ проверен садржај.
• Замолите модел да намерно означи неизвесност.
• Више волите „ево око чега нисам сигуран“ него лажни, чврсти утисак.

Измишљени цитати и детаљи који изгледају стварно

Ово пече јер изгледа тако професионално. Лажни наслови радова. Лажна имена часописа. Лажни URL-ови који се готово чине кликабилним. Лажни цитати који се приписују познатим људима. Форматирање је често савршено - курзив, намерно избегнути резервисани текст у облику године, имена која звуче као аутори - и то паковање вара скемере.

Ово се дешава из јасног разлога. Облик цитирања је уобичајен у тексту за обуку. Када тражите „изворе“, модел може произвести облик стицања знања без преузимања правог записа. То је као да тражите од некога да нацрта рачун по сећању. Добијате нешто што изгледа као рачун. Продавница можда никада није ни постојала.

Једном сам гледао како нацрт измишља студију о продуктивности рада на даљину са беспрекорно изгледајућим списком аутора. Деловало је као да је рецензирано. Није било ништа. То је опасност: ваш мозак се опушта када паковање изгледа скупо. Не опуштајте се. 

• Захтевајте наслове које можете сами да претражите - а затим их озбиљно претражите.
• Будите сумњичави према уредним пакетима цитата и навођења ауторства које никада нисте тражили.
• Ако се „извор“ не може брзо пронаћи, третирајте тврдњу као непоткрепљену.

Када је ризик од проналаска највећи

Није сваки разговор подједнако опасан. Песма о кафи може слободно да измишља метафоре - то је поента. Доза лека, законски рок, политика цена конкурента или историјска тврдња за објављени чланак живе на другој планети.

Ризик расте када је тема нишна, скорашња или веома специфична. Такође расте када инсистирате на тачним бројевима, именованим документима, интерним подацима приватних компанија или „наведите десет рецензираних студија“. Што је захтев прецизнији, веће је искушење да модел попуни празнине вероватним референцама.

Дуги, импресивни одговори могу бити ризичнији од кратких, опрезних. Дужина изгледа као труд. Труд изгледа као брига. Брига изгледа као истина. Тај змијски ланац утисака је начин на који се лоше чињенице увлаче у слајдове. 

• Висок ризик: здравље, закон, финансије, усклађеност, безбедност, именовани људи, тачна статистика.
• Средњи ризик: процеси у нишној индустрији, подешавања алата, листе „најбољих пракси“.
• Мањи ризик: размишљање, прављење плана, преправљање сопственог нацрта, тонирање.

Поуздани наспрам нестабилних резултата - брзо поређење

Сто је бољи од другог мотивационог разговора. Укључујући и благе необичности, јер су обични разговори необични.

Држите ту менталну картицу са резултатима при руци. Почећете да примећујете дрхтаве резултате као што примећујете благо чудан осмех на фотографији - нешто је позирано.

Како уочити измишљене одговоре без параноје

Не морате да проверавате сваки придев. Потребна вам је јефтина навика провере за тврдње које су битне. Проверите најоштрију ивицу: број, име, политику, цитат. Ако та ивица не успе, остатак одговора је на условној казни.

Још један показатељ: унутрашња контрадикција. Модел каже да алат „увек“ ради X, а затим касније описује изузетак као да је стандардан. Или измишља функцију, а затим објашњава како је искључити - попут сна који стално измишља врата. Питајте за накнадна питања која боцкају у меке тачке. Измишљени светови имају тенденцију да се поколебају под притиском.

Такође, пазите на „превише савршено“ паковање. Сваки пасус је подједнако углачан. Свака препорука је подједнако самоуверена. Права стручност обично има текстуру - упозорења, компромисе, „зависи“. Равна савршеност заслужује додатну пажњу. 

• Прво проверите најризичнију тврдњу, а не цео есеј.
• Питајте „у шта сте најмање сигурни?“ и видите да ли ће маска склизнути.
• Упоредите имена, титуле и бројеве ван ћаскања.
• Више волите одговоре везане за текст који сте налепили уместо слободно плутајућих чињеница.

Брзе навике које смањују изум

Не можете елиминисати халуцинације магичном реченицом - жао ми је - али можете смањити радијус експлозије. Добре подстицаје ограничавају игру. Лоши подстицаји позивају на импровизацију.

Пробајте овакве навике. Звуче сувопарно. Делују чешће него паметни трикови.

• Обухватите знање: „Користите само белешке које налепим. Ако недостају, реците да не знате.“
• Забраните лажне изворе: „Не измишљајте цитате, наводе или URL-ове.“
• Присилно означавање неизвесности: „Означи сваки тачак: познато / претпостављено / претпоставка.“
• Тражите алтернативе: „Наведите две опције и зашто свака од њих може бити погрешна.“
• Захтевајте пропусницу за сумње: „Наведите претпоставке које сте направили.“
• Дајте предност структури у односу на атмосферу: табеле, контролне листе и колоне са тврдњама/доказима.

Изненађујуће, говорећи моделу да је у реду рећи „Не знам“ смањује се друштвени притисак да се изврши са сигурношћу. Модели одражавају задатак. Ако задатак награђује потпуност по сваку цену, добијате фикцију са форматирањем. Ако задатак награђује јасан разговор о празнинама, добијате мање блиставих лажи. 

И да - даљи одговори су важни. Први одговори су нацрти. „Тај цитат изгледа лажно - уклоните све што не можете да проверите“ је сасвим нормална друга порука. Третирајте ћаскање као уређивање, а не као аутомат који вам дугује истину на првом новчићу.

Уземљење, праћење и живот са неизвесношћу

Уземљење значи везивање одговора за нешто изван импровизације модела: ваш залепљени документ о политици, вашу табелу, ваше белешке са састанка, познату јавну страницу коју ћете сами проверити. Када одговор мора да остане унутар те ограде, изум има мање простора за кретање.

Даља питања су друга ограда. „Одакле је дошао тај број?“ „Који део је закључивање?“ „Препишите без икаквих именованих студија.“ Свако питање је мала ревизија. Претпостављам да је то начин коришћења ових алата за одрасле - не обожавање, не паника, само ревизије.

Неизвесност није грешка у вашем радном процесу. То је време. Неких дана модел савршено саже сопствени текст. Неких дана измисли пододбор који се никада није састао. Ваш посао је да одлучите којим резултатима је потребан „кишни мантил“. 

• Налепите изворни материјал када је тачност важна.
• Затражите ознаке поверљивости на нивоу тврдње.
• Обавестите човека о важним одлукама.
• Сачувајте „креативну слободу“ за креативне задатке – не за усклађеност.

Шта урадити када ухватите халуцинацију усред тока

Немој се заглављивати. Немој се заувек одричати алата као да те је лично издао - иако та жеља може бити јака. Исправите тему и наставите даље.

Једноставна петља опоравка:

• Назовите то: „Чини се да је тај извор измишљен. Уклоните непоткрепљене тврдње.“
• Поново усидри: налепите прави документ, цитат или податке.
• Реконструишите уско: тражите исправљени одељак, а не потпуно нови есеј празног полирања.
• Поново проверите оштре ивице: имена, бројеве, кораке процеса.
• Одредите ниво поверења: партнер за брејнсторминг наспрам асистента за израду нацрта наспрам „није за ову тему“.

Уочавање једне халуцинације може побољшати остатак разговора - ако пооштрите ограничења. Модел се не „осећа кривим“, али ваша јаснија упутства мењају оно за шта оптимизује. Ви управљате. Управљајте јаче када се појави инвентивност. 

Свакодневни сценарији где је ово тихо важно

Пословни имејлови: измишљени „стандардни временски оквир индустрије“ може поставити очекивања која не можете испунити. Школа и учење: лажно објашњење може вам се увући у главу пре него што то приметите. Нацрти корисничке подршке: измишљено правило за повраћај новца постаје обећање. Креативно писање: измишљајте - то је игралиште.

Последица је у суштини. Ако погрешне речи коштају новца, поверења, оцена или безбедности, провера није опциона мукотрпна обавеза. Ако погрешне речи коштају само слегања раменима, опустите се. Усклађивање опреза са последицама је овде вештина одраслих - више од памћења речи „халуцинација“

Такође: тимови би требало да нормализују „Проверио/ла сам ову тврдњу“ на начин на који нормализују „проверена провера правописа“. У супротном, један углачани пасус преко ноћи постаје племенско знање. Јао.

Кључне закључке

Дакле, питање „ Зашто вештачка интелигенција понекад измишља ствари“ своди се на следеће: ови системи предвиђају вероватан језик, попуњавају празнине упаривањем образаца и често звуче сигурно док то раде. Та комбинација ствара самоуверене погрешне одговоре, измишљене цитате и уредне детаље који се никада нису догодили.

Не морате се плашити алата. Потребне су вам навике. Проверавајте чврсте тврдње. Забраните измишљене изворе. Налепите конкретан контекст. Питајте за неизвесност. Користите праћења као ревизије. Сачувајте слободно генерисање за креативни рад са ниским улозима.

Течност није карактеристична референца. Третирајте је као талентованог приправника који куца невероватно брзо, понекад измишља састанак који се никада није догодио, а и даље може да се истакне када је надгледан. Задржите надзор. Задржите духовитост. Нека скептицизам буде благ, али утемељен. Тако ћете добити предност без представљања фикције прерушене у чињенице.

Практични пример: Хватање измишљених цитата у истраживачком задатку конкурента

Халуцинације делују апстрактно све док углачани пасус скоро не стигне у клијентски блог. Ево како је један британски маркетиншки аналитичар користио навике из овог водича да престане да шаље фикцију маскирану као истраживање - без напуштања четбота.

Сценарио

Сем има два сата да састави једнострани сажетак за конкурента за почетак продаје. Захтев је познат: предности, сигнали за цене и „неколико поузданих извора“. По старој навици, Сем је откуцао „сажми конкурента X са изворима“ и добио уредан сажетак са три цитата који делују академски и прецизним процентом тржишног удела. Звучало је сажето. Углавном је било измишљено. Један наслов није могао бити пронађен. Бројка удела се нигде није појавила на сајту конкурента.

Сему не треба модел који боље звучи. Сему је потребан утемељен ток рада: лепљење белешки о изворима, забрана лажних извора, наметање ознака несигурности, прво проверавање најоштрије тврдње, а затим обнављање само оштећеног дела.

Циљ је сажетак коме тим може веровати за теме разговора - не потврда нацртана по сећању која само изгледа као потврда.

Шта је потребно асистенту

• Изворни материјал Сем већ има: текст почетне странице, текст странице са ценама, два недавна захтева за подршку, белешке о пропалом послу
• Строго правило: користите само налепљени текст за чињеничне тврдње; реците „Не знам“ када су белешке тихе
• Забрана измишљених цитата, навода, URL-ова и статистике
• Излазни облик који раздваја познато / претпостављено / претпостављено
• Време је за једну људску проверу имена, бројева и свих „изворних“ наслова пре него што се шпил подели
• Дозвољено је постављање до три појашњавајућа питања уместо попуњавања празнина

Пример упутства

Порука 1 - утемељен бриф: Користећи само белешке које сам залепио испод, напишите једнострани бриф за конкуренте у продаји. Одељци: Шта тврде / На шта се купци жале / Сигнали за цене / Отворена питања. Не измишљајте цитате, понуде, URL-ове или статистику. Ако се чињеница не налази у белешкама, напишите „непознато“ и наведите је под Отворена питања. Означите сваку тачку: познато / претпостављено / претпоставка. Британски енглески. Без увода.

Порука 2 - сумња прошла: Наведите сваку претпоставку коју сте направили. Уклоните све означено са претпоставка, осим ако не можете да укажете на налепљену реченицу која то подржава. Ако сте претходно измислили извор, обришите га и то реците.

Порука 3 - уско поново изградити: Та линија тржишног удела није подржана. Препишите само одељак Сигнали за одређивање цена без бројева, осим ако се не појаве у мојим белешкама. Задржите остале одељке.

Како га тестирати

• Поставите слободно формулисано питање („сажмите конкурента X помоћу три рецензирана извора“) и горе наведени утемељени сажетак. Упоредите измишљене наслове и лажне статистике.
• Прво проверите најризичнију тврдњу (број или именовану студију), а не целу страницу.
• Питајте: „У шта сте најмање сигурни?“ Јак одговор наводи празнине; несигуран удвостручује снагу.
• Гранични случај: уклоните цене из налепљених белешки и потврдите да нацрт каже непознато уместо да измишљате цену плана.
• Провере прихватања пре дељења: (1) свака „позната“ ознака се поклапа са залепљеном линијом, (2) нема измишљених цитата, (3) отворена питања наводе праве празнине, (4) сами сте претражили све преостале наслове, (5) нема тачних статистика без напомене иза њих.

Резултат

Илустративан резултат (пример процене за ток рада једног аналитичара са конкурентским брифингом, а не објављеном студијом): У 8 задатака брифинга, време потребно на зидном сату од „белешке отворене“ до „нацрт спреман за људску проверу чињеница“ благо је порасло са медијане од око 12 минута (једнократна углађена фикција) на око 15 минута са утемељеним упутством - али је ризик од чишћења и срамоте опао. Људска верификација чврстих тврдњи пала је са медијане од око 18 минута (јурење за лажним насловима и преписивање) на око 6 минута када су тврдње биле унапред означене, а измишљени извори забрањени, тако да је нето време пало за око 9 минута по брифу, или око 72 минута у целом скупу. На контролној листи за прихватање (без измишљених цитата, без непоткрепљених статистика, присутне познате/претпостављене/претпостављене ознаке, отворена питања која наводе празнине), 7 од 8 утемељених нацрта је прошло први преглед у односу на 2 од 8 једнократних нацрта. Ограничења: мали узорак, један аналитичар, једна врста брифа; лаки конкуренти са јасним јавним ценама смањују разлику; „Време верификације“ је укључивало веб претраге за сумњиве наслове.

Да бисте измерили сопствену верзију: направите 5 брифинга са вашом тренутном навиком и 5 са ​​налепљеним изворима + забрањеним измишљеним цитатима + ознакама тврдњи; забележите средње време израде, средње време провере и стопу положених испита са приказаним имениоцем.

Шта може поћи по злу

• Пристрасност течности: Савршена граматика и уредни набраци вас терају да прескочите проверу насумичног говора.
• Косплеј цитирања: Тражење „извора“ без налепљеног материјала позива на облик стицања знања без одговарајућег записа.
• Прекомплетне листе: „Дај ми десет студија“ награђује попуњавање када у вашим белешкама постоје само три.
• Реконструкција целог есеја: Након једне лажне реченице, затражите уско преписивање тог одељка - не потпуно полирање.
• Теме са високим улогом: Здравље, право, финансије и усклађеност захтевају јаче људске ресурсе од кратког описа продајних тема.
• Без људске петље: Означена радна верзија и даље може погрешно прочитати налепљену реченицу. Сем и даље поседује дугме за дељење.

Практична информација

Вештачка интелигенција измишља ствари јер предвиђа вероватан језик у празнине - не зато што жели да вас превари. Третирајте течност као стил, а не као доказ. Залепите ограду, забраните лажне изворе, означите несигурност, проверите најоштрију тврдњу и исправите нит када нешто поклекне. Тако одржавате предност брзог партнера за писање, а да притом не објавите самоуверену причу која се никада није догодила.

Честа питања

Зашто вештачка интелигенција понекад измишља ствари?

Већина модела ћаскања су машине по шаблонима: генеришу одговор који одговара облику доброг одговора, а не верификоване картотеке са ознаком Истина. Празнине се попуњавају оним што звучи статистички тачно - цитатом који изгледа академски, уредним бројем или детаљем који одговара епохи. Течан текст је циљ генерисања, тако да „звучи исправно“ може победити „јесте исправно“. Зато измишљени одговори често стижу са савршеном граматиком и уредним тачкама.

Да ли је самопоуздање вештачке интелигенције исто што и тачност?

Не. Самопоуздање и тачност су различити показатељи - једно може бити високо, док је друго близу нуле. Подразумевани резултати често делују као самоуверен брифинг јер обука награђује корисно полирање, а не зато што је свака тврдња била утемељена. Третирајте асертивно формулисање као стил, а не као доказ. Ако одговор нема проверљиве изворе, нема неизвесности и има пуно конкретних имена или бројева, успорите.

Зашто четботови измишљају цитате и лажне изворе?

Облик цитирања је уобичајен у текстовима за обуку, тако да тражење „извора“ може произвести облик научне делатности без преузимања правог записа - као цртање потврде по сећању. Лажни наслови радова, имена часописа, URL-ови и приписани цитати често изгледају довољно професионално да преваре читаоце. Захтевајте наслове које можете сами претраживати; ако се извор не може брзо пронаћи, третирајте тврдњу као непоткрепљену.

Када је ризик од проналаска вештачке интелигенције највећи?

Ризик расте за нишне, скорашње или веома специфичне теме, и када инсистирате на тачним бројевима, именованим документима, приватним интерним подацима или дугим листама рецензираних студија. Подручја високог ризика укључују здравство, право, финансије, усклађеност, безбедност, именоване људе и тачну статистику. Размишљање о идејама, правно планирање, преправљање сопственог нацрта и измене тона обично носе мањи ризик. Дуги, импресивни одговори такође могу деловати сигурније него што јесу.

Како могу да уочим измишљене вештачке интелигенције одговоре без провере сваке речи?

Прво проверите најоштрију ивицу - број, име, политику или цитат. Ако то не успе, остало ставите на условну казну. Пазите на унутрашње контрадикције и „превише савршено“ паковање без упозорења или компромиса. Питајте у шта је модел најмање сигуран, унакрсно проверите имена и наслове ван ћаскања и дајте предност одговорима везаним за текст који сте залепили преко слободно плутајућих чињеница.

Које навике брзог реаговања смањују халуцинације вештачке интелигенције?

Не можете елиминисати халуцинације једном магичном реченицом, али можете смањити радијус експлозије. Ограничите знање на залепљене белешке и реците „Не знам“ када нешто недостаје. Забраните измишљене цитате, цитате и URL-ове. Наметните ознаке попут познато / претпостављено / претпоставка, питајте за претпоставке и преферирајте структуру тврдње/доказа. Говорећи моделу да је у реду рећи „Не знам“ смањује се притисак да се изведе лажна сигурност.

Шта значи уземљење када се вештачка интелигенција користи за чињенични рад?

Утемељење повезује одговор са нечим изван импровизације модела - вашим документом о политици, табелом, белешкама са састанка или јавном страницом коју ћете сами проверити. Када одговори морају да остану унутар те ограде, измишљање има мање простора. Накнадна питања делују као друга ограда: питајте одакле је број, који део је инференција или препишите без именованих студија. Држите човека у току са важним одлукама.

Шта да радим када ухватим халуцинацију усред разговора?

Изговорите то, поново се усидрите са правим документом или подацима и поново изградите само оштећени део уместо да захтевате потпуно нови, углачани есеј. Поново проверите оштре ивице - имена, бројеве, кораке процеса - а затим одлучите да ли је алат партнер за брејнсторминг, асистент за израду нацрта или „није за ову тему“. Јаснија ограничења мењају оно за шта модел оптимизује; усмерите се јаче када се појави инвентивност.

Како да зауставим измишљене цитате у истраживачком резимеу конкурента?

Налепите напомене о изворима које већ имате, забраните лажне изворе и непоткрепљене статистике и захтевајте ознаке познатих / претпостављених / претпоставки плус листу отворених питања. Прво проверите најризичније тврдње, покрените тест сумње који уклања претпоставке без поткрепе и препишите само неисправни део ако број није поткрепљен. Прихватање значи да се сваки „познати“ тачка мапира у налепљени ред, а сваки преостали наслов претражује човек.

Када је још увек у реду дозволити вештачкој интелигенцији да слободно измишља?

Креативно писање и други задаци са ниским улогом могу слободно измишљати метафоре - то је игралиште. Ускладите опрез са последицама: ако погрешне речи коштају новца, поверења, оцена или безбедности, верификација није опционална. Ако коштају само слегања раменима, опустите се. Течност није референца карактера; третирајте модел као брзог приправника коме је и даље потребан надзор над чињеничним радом.

Референце

1. OpenAI - openai.com
2. Антропски - antropic.com
3. НИСТ - nist.gov
4. IBM - ibm.com
5. Гуглова вештачка интелигенција - ai.google.dev
6. Google Cloud - Уземљење - docs.cloud.google.com