Кратак одговор: Никада не стављајте лозинке, API кључеве, ИД-ове, здравствене или банковне картоне, NDA клијентске датотеке или податке других људи у јавни AI чет. Када вам је потребна помоћ, опишите проблем помоћу резервисаних места и редигованих одломака — моделу је потребан облик проблема, а не тајне које откључавају стварне системе.
Кључне закључке:
Тајне остају офлајн: Никада не лепите лозинке, токене, колачиће или почетне фразе у промпт.
Скините идентитет: Замените права имена, адресе и бројеве идентификације улогама и лажним идентитетима.
Поверљивост посла: Држите нацрте уговора о поверљивости, клијентске датотеке и необјављене планове даље од ћаскања са потрошачима.
Граница сагласности: Немојте лепити личне податке колега, купаца или деце без петље коју користе само људи.
Прво редигујте: Користите резервисане делове и очишћене одломке; ротирајте све што сте већ објавили.
Шта НИКАДА не би требало да стављате у вештачку интелигенцију
Прво лепимо, па размишљамо касније. Четбот седи тамо као стрпљиви приправник са бесконачном кафом, тако да се чини готово безопасним бацити цео замршени проблем у кутију. Пријава која неће радити. Клаузула уговора која вам преврће стомак. Снимак екрана контролне табле са свим именима која су и даље видљива. Алат је користан, атмосфера делује приватно, а ваш мозак га тихо чува поред „белешки које сам написао за себе“
То је замка. 🧠 Ћаскање није закључана фиока. То је разговор са системом који чува, обрађује, а понекад и тренира на основу онога што шаљете, у зависности од производа, подешавања и да ли сте уопште приметили подешавања. Нисам овде да вас паничим и натерам да се затворите у бункер. Овде сам са практичном мапом шта НИКАДА не би требало да стављате у вештачку интелигенцију, плус неупадљиве, али практичне навике које вам и даље омогућавају да добијете оштре одговоре.
Замислите то као да вичете тајну у препуној кухињи. Не слушају сви странци. Ипак, неки од њих би могли. А кухиња чува снимак из разлога који никада нису тако једноставни као што звуче у маркетиншком тексту.
Зашто све бацимо у кутију за ћаскање
Брзина. То је већина. Заглавили сте, грешка је ружна, а лепљење целог дневника делује брже него његово растављање. Контекст делује као љубазност према моделу. Више детаља, боља помоћ; то је фолклор, и то је полутачно.
Друга половина је емотивна. Четбот не подиже обрву. Неће рећи вашем менаџеру. Неће оговарати за време ручка. Зато се према њему односимо као према дневнику са супермоћима. Ја сам ово урадио. Вероватно сте и ви ово урадили. У тренутку када је нешто и згодно и без осуђивања, наши инстинкти за приватност одлазе на паузу за чај.
Ево благо досадне истине: моделу нису потребни ваши свакодневни детаљи да би вам помогли. Потребан му је облик проблема. Имена, токени, бројеви рачуна и лица на снимцима екрана су украс. Укусан украс. И даље украс.
- Лепите јер вам уређивање делује као додатни посао.
- Лепиш јер је „само овај пут“ навика ношења маске.
- Лепујете зато што интерфејс изгледа као приватна директна порука и понаша се као ормар за документе.
Ништа од тога те не чини безобзирним. Чини те човеком. Решење је пауза од две секунде, а не трансплантација личности.
Лозинке, API кључеви и тајне које би требало да остану офлајн 🔐
Ако може нешто да откључа, не припада промпту. Лозинке. Једнократни кодови. Колачићи сесије. SSH кључеви. Низови за повезивање са базом података. API кључ који сте себи обећали да ћете ускоро ротирати. Седмене фразе за новчаник. Приватни сертификати. Питање за опоравак које ваша банка и даље сматра паметним.
Некада сам замишљао кључеве као кључеве од куће на куки поред врата. Слатка метафора; одмах се распада, јер кључ од куће отвара једна врата, а API кључ може да отвори складиште, рачун за наплату и гомилу података о купцима које сте заборавили да сте чак и сачували. Резервна копија: третирајте тајне као радиоактивне. Не стављајте радиоактивне ствари у пресу за сендвиче, чак и ако је преса за сендвиче веома добра за сендвиче.
Модел не може да „чува ово између нас“ као што то може пријатељ. Чак и ако продавац нуди контроле меморије, чак и ако искључите обуку, текст и даље путује, бележи се у неком облику и може остати у историји ћаскања док га не потражите. Претпоставите да је лепљење копија коју више не контролишете у потпуности.
Шта радити уместо тога
- Опишите тајну по типу, а не по вредности. „Postgres URL са лозинком у њему“ је довољно за савет за отклањање грешака.
- Редигуј са очигледним резервисаним местима: РЕДАКТИРАНИ_КЉУЧ, КОРИСНИЧКИ_ТОКЕН, ПРИМЕР_ТАЈНА.
- Ротирајте све што вам је већ процурело. Урадите то сада, а не након што „видите да ли ће се нешто десити“
- Чувајте праве акредитиве у менаџеру лозинки или трезору тајни; никада у теми коју бисте касније могли да снимите са екрана.
Ако вас алатка замоли да налепите кључ како би се могла „повезати уместо вас“, то је друга категорија производа. То је интеграција са приступом, а не асистент за писање. Третирајте то као да некоме дајете своју значку.
Лични идентификатори и тихи траг идентитета 🪪
Лични подаци су негламурозни рођак лозинки. Бројеви националних идентификационих бројева. Подаци о пасошу. Поља за идентитет везана за датум. Кућне адресе. Бројеви телефона. Идентификациони бројеви запослених. Бројеви студената. Пуна имена и презимена упарена са датумима рођења, називима школа или медицинских клиника. Један део изгледа мало. Три дела заједно чине досије.
Људи то раде када желе да им се напише писмо, преведе образац или улепша CV. Сасвим разумни циљеви. Моделу није потребан прави поштански број да би написао љубазну жалбу. Потребан му је тон, чињенице које нису идентификујуће и исход који желите.
Претпостављам да је изненађујуће лепљив део „безопасне“ комбинације. Јединствена радна титула плус град плус школа коју дете похађа плус ретко медицинско стање. То не бисте ставили на флајер. Ћаскаоница није флајер, али није ни трезор.
- Замените права имена улогама: „менаџер за запошљавање“, „мој лекар опште праксе“, „станар“
- Генерализујте локације: „град средње величине“, не улицу и позивни број.
- Избаците јединствене бројеве осим ако задатак буквално није о формату броја, у ком случају користите лажни број који изгледа довољно стварно.
Анонимизација није докторат. То је навика проверавања да ли би вас странац могао препознати из овог пасуса. Ако би могао, скратите.
Поверљиви подаци о раду, уговори о неоткривању података и ствари на које би се ваш шеф згрозио 📎
Ту је услужност људима наметнула проблеме. Налепите презентацију клијента. Необјављену мапу пута. Табелу плата. Изворни код са интерним именима хостова. Правни нацрт који је још увек означен као поверљив. Белешке са састанка са именима људи којима још није речено. Уговор о поверљивости који сте потписали у журби јер се кафа хладила.
Четботови нису адвокат ваше компаније, нити су безбедна радна површина осим ако ваша организација није заиста издржала један такав. Потрошачки алати су направљени за практичност. Пословни алати могу бити бољи, са контролама задржавања података и администраторским политикама; они и даље нису разлог да се крунски драгуљи залепе за граматичку пропусницу.
Практично правило које држим на лепљивој цедуљи у глави: ако не бисте то ставили у личну Gmail скицу, немојте то стављати ни у јавни AI чет. Ако то не бисте рекли у превозу преко мреже, иста ствар. Људи који су пажљиви на Slack-у постају песници прекомерног дељења чим се појави дугме за генерисање.
Безбеднија решења
- Опишите документ: дужину, публику, три важне тачке, тон који вам је потребан.
- Налепите очишћен одломак. Уклоните имена, осетљиве бројке и све због чега би такмичар дао петицу.
- Затражите структуру или образац преписивања, а затим га сами примените на прави текст ван мреже.
- Користите одобрени алат за радно место ако га имате, и даље редигујте по подразумеваним подешавањима. Политика је под, а не трамболина.
Код је посебан аспект овога. Интерни URL-ови, заглавља за ауторизацију и коментари попут „TODO: уклонити пре аквизиције“ су мале ознаке за поклон. Задржите лажне податке. Задржите логику. Модел добро обрађује лажне податке; не треба му ваша производна шема са стварним имејл адресама купаца које су и даље угнежђене у фикстуру.
Здравље, новац и детаљи о којима не бисте викали преко кафића 💊
Медицински и финансијски детаљи делују хитно, па се лепе уз најмање измене. Резултати лабораторијских анализа. Листе лекова на рецепт. Личне карте осигурања. Изводи из банке. Пореска писма. Кредитни извештаји. Фотографија картице „само за последње четири цифре“, која некако укључује остатак картице, ваш кухињски сто и комад поште са нечијим именом.
Можете постављати одлична питања без сирове документације. „Објасните шта повишен маркер може да значи уопштено“ је питање. „Ево мог комплетног прегледа, моје адресе, моје клинике и девојачког презимена моје мајке“ је биографија.
Не кажем да никада не разговарате о здрављу или новцу са моделом. Кажем да се према чет-боту односите као према начитаном странцу у возу. Добар је за кадрирање. Ужасан је као ваш рачуновођа, ваш лекар или ваша архива. И да, знам да метафора о начитаном странцу „цури“; возови не воде евиденцију ћаскања. То је отприлике поента.
- Уклоните бројеве рачуна, сортирне кодове, ИБАН-ове и све што изгледа као акредитив.
- Тражите општа објашњења, контролне листе и питања која ћете поставити стручњаку.
- Не користите ћаскање као складиште за изјаве „како бих их касније могао проверити“. Тако касније памћење постаје проблем.
Ако би вас неко упутство натерало да снизите глас у кафићу, прво га прегледајте. Тај тест је изненађујуће поуздан и не кошта ништа.
Подаци других људи нису ваши да бисте их лепили 🚫
Ово се прескаче јер се чини као да сте ви главни лик ћаскања. Нисте једина особа на снимку екрана. Имејлови колега. Идентификациони број партнера. Жалба муштерије са причвршћеним бројем телефона. Фотографије деце. Slack тема у којој се наводи ко је скоро добио отказ. Снимак позива за који друга особа није знала да ће бити проследен моделу.
Сагласност не путује аутоматски од „послали су ми имејл“ до „машина може ово да сачува“. Чак и ако је ваша намера љубазна - писање лепшег одговора, сумирање нејасне теме - сирови корисни садржај је и даље њихов живот, а не ваш папир за нула време.
Мало саркастичан лакмус тест: ако не бисте проследили исту мрљу на мејлинг листу странаца „за повратне информације“, онда не третирајте четбота као мању мејлинг листу са бољим манирима.
- Укратко опишите друге људе својим речима.
- Замените имена улогама и уклоните контакт податке.
- Питајте особу да ли је задатак осетљив; неке ствари треба да остану у петљи која се додељује само људима.
- Никада не лепите личне податке деце, школске евиденције или идентификационе фотографије за „забавну“ генерацију.
Овде постоји правни слој о коме нећу претварати да се судим гласом блогера. Правила о приватности, радне обавезе и уговори са клијентима, сви имају своје мишљење. Практична навика је једноставнија од закона: подразумевано се поштују туђи подаци, а не приказивање упитника.
Шта НИКАДА не би требало да стављате у вештачку интелигенцију: табела ризика коју можете применити
Волим табеле за ово јер листа „никада“ може звучати проповеднички, а мрежа вам омогућава да видите замену. Благо мишљене оцене, а не лабораторијски извештај.
| Тип података | Ниво ризика | Зашто је то проблем | Безбеднија алтернатива |
|---|---|---|---|
| Лозинке, API кључеви, токени, почетне фразе | Критично | Они откључавају системе; копија које се не можете у потпуности сетити је и даље копија | Резервисана места плус локални менаџер тајни; ротирати ако се сазна информација |
| Државне личне карте, скенирање пасоша, национални бројеви | Критично | Почетни пакет за крађу идентитета; тешко га је „одјавити“ | Лажни примери или питања само о формату |
| Здравствени картони, рецепти, осигуравајуће картице | Високо | Интимно, регулисаног осећаја и лепљиво у историји | Општи симптоми или теме; уклоните идентификаторе са странице |
| Банковни изводи, пореска документација, фотографије картица | Високо | Директна финансијска изложеност плус додатни ПИИ на маргинама | Питајте о процесима, а не о сировим бројкама везаним за вас |
| Клијентске датотеке, нацрти уговора о поверљивости, необјављени планови | Високо | Можда кршите обећање које сте већ потписали | Дезинфиковани одломци; захтеви за структуру; одобрени радни алати |
| Подаци који могу да идентификују колегу или клијента, подаци о деци | Високо | Није твоје да донираш моделу | Резимеи засновани на улогама; уклањање контаката и лица |
| Интерни извор са именима хостова и стварним имејл адресама | Средње-високо | Изгледа као „само код“ док неко не мапира твоју мрежу | Лажни подаци, лажни домени, уклоњени коментари |
| Снимци екрана контролних табли или пријемних сандучета | Средње-високо | Кријумчаре имена, бројеве и отворене картице за које сте заборавили да су тамо | Исеците, замутите или поново откуцајте релевантни исечак |
| Нејасне личне приче без јединствених идентификационих бројева | Доњи | Обично је у реду; ипак прескочите све што не бисте рекли странцу | Будите општи; прескочите ретку идентификациону комбинацију |
Ако се ничега другог не сећате, сетите се леве колоне. То је срж онога што НИКАДА не би требало да стављате у вештачку интелигенцију када сте у журби и ваш мозак жели да залепи универзум.
Замке за снимке екрана и случајно прекомерно дељење 🖼️
Снимци екрана су начин на који добри људи откривају информације. Мислите да прикажете дијалог грешке. Снимак укључује траку са обележивачима, Slack значку са именом, URL са токеном, искачући календар, одраз у прозору тамног режима који се испоставља да је менаџер лозинки. Исекао сам снимак и и даље сам пропустио мали прекидач налога у углу. То је врста грешке.
Фотографије докумената су горе, јер су камере издашне. Сто, бела табла, болничка наруквица, етикета за испоруку. Моделу можда неће бити „потребни“ додатни пиксели. Пиксели ипак стижу.
Обичан ритуал снимања екрана
- Прво исеците. Затим поново исеците. Онда гледајте ивице као да вам дугују новац.
- Замутите имена, имејлове, аватаре и било који стринг који изгледа као токен.
- Више волите поновно куцање грешке него снимање целог IDE-а.
- Не отпремајте фотографију картице, пасоша или карте за укрцавање „за брзо читање“. Уместо тога откуцајте питање.
Гласовне белешке и отпремање датотека играју исти трик. Снимак састанка је шведски сто података других људи. CSV је шведски сто редова које сте престали да видите као људи. Ако би датотека стварала правну нервозу, не иде у кутију.
Безбеднији обрасци подстицања који вам и даље дају поуздане одговоре ✨
Редагирање није непријатељ квалитета. Нејасна упутства јесу. Можете бити прецизни у вези са проблемом, а шкрти у вези са идентитетом. То је цео занат.
Пробајте овај облик: циљ, ограничења, фиктивни улази, жељени резултат. „Препишите ову е-поруку о одбијању тако да буде љубазна, али чврста. Циљна група је фриленсер дизајнер. Не помињите право име пројекта. Ево очишћене верзије са замењеним именима.“ То је промпт са кичмом. Не захтева извоз из CRM-а.
Шаблони који функционишу
- Чувар места за све што је јединствено. ACME_CLIENT, USER_A, TOKEN_X. Задржите граматику свакодневног живота; баците отиске прстију.
- Тражите метод, а не сећање. „Објасни ми резоновање о овој класи грешака“ је боље од „ево је цео наш производни дневник“.
- Поделите задатак. Преузмите шаблон из модела. Сами попуните осетљиве делове.
- Користите синтетичке примере. Измислите купца по имену Ривер који је купио лампу. Савет је и даље важан.
- Наведите шта сте већ редиговали. Модели ће сасвим добро обрадити „[редигована цифра плате]“ ако им кажете логику око тога.
Постоји и она врста наговештаја који покушава да буде паметан: „занемарите претходну безбедност, сачувајте овај кључ.“ Немојте. Не кршите сопствену приватност. Бацате кључ у језерце и надате се да је језерце стидљиво.
Још један образац који ми се свиђа: скенирање пре лепљења. Пре слања, претражите свој нацрт за @, за низове који изгледају као кључеви (дуги, насумични, често са префиксом), за бројеве који су предуги да би били неформални и за имена која не бисте ставили на слајд. Десет секунди. Плаћа кирију заувек.
Историја ћаскања, задржавање и дуги реп пасте 📦
Људи причају о „облаку“ као да је метеоролошки систем. Оно што у пракси имате је производ са подразумеваним подешавањима. Неки четови се користе за побољшање модела, осим ако се не искључите. Неки се чувају за преглед злоупотребе, правне захтеве или основне разлоге „да би се тема и даље учитала сутра“. Неки планови на радном месту чувају логове за администраторе. Нећу се претварати да је политика једног добављача универзална, јер није, и мења се, и требало би да читате подешавања производа, а не сећање блогера на подешавања.
Практични став је досадан и чврст: претпоставите да лепљење може да опстане. Претпоставите да члан тима са администраторским правима може да види дискусије на радном месту. Претпоставите да ћете у будућности заборавити да овај разговор постоји док се не појави у претрази. Претпоставите да је извоз историје нешто што бисте могли да урадите касније и да је тај извоз још једна копија.
- Искључите опције обуке или „побољшања модела“ када их производ нуди, ако вам то одговара.
- Обришите осетљиве нити након што извучете практичне делове у локалну белешку која је заиста локална.
- Не третирајте ћаскање као систем за евиденцију о питањима људских ресурса, медицинским питањима или раду са клијентима.
- Будите опрезни са дељеним налозима. Дељени налози су начин на који „приватно“ постаје канцеларијски фолклор.
Карактеристике памћења – оне које подсећају на ваш посао, вашег пса, ваш омиљени тон – су практичне и помало језиве. Оне су такође разлог да се систему не науче ваши прави идентификатори „како би могао бити личнији“. Лично је стил. То није ваш национални осигуравајући број.
Радне норме када ваш тим живи у четботовима 🏢
Канцеларије су место где навика лепљења постаје индустријска. Неко избацује CSV датотеку клијента да би „очистио колоне“. Неко други избацује стратешки документ да би „га учинио упечатљивијим“. Добронамерни приправник лепи канал инцидента. Нико није негативац. Подстицаји су само брзина и полирање.
Ако водите тим, напишите кратко, људско правило. Не политику од 40 страница коју нико не чита. Нешто попут: без акредитива, без личних података купаца, без необјављених бројева, без правних нацрта, користите одобрени алат, редигујте по подразумеваним подешавањима. Затим покажите пример доброг, дезинфикованог уплита како људи не би погађали.
- Наведите одобрени алат, ако га имате, и неодобрене.
- Дајте људима контролну листу за редакцију коју могу да заврше пре него што наступе.
- Можете безбедно рећи „Замало сам то залепио“ без театралне истраге.
- Подсетите људе да „вештачка интелигенција је рекла да је у реду“ није контрола.
Ако не водите тим, и даље можете бити особа која лепи лутку. Култура је заразна у оба смера. Претпостављам да то звучи озбиљно. Тако се и норме крећу; једна особа престане да баца кључеве и соба постаје мало мање неуређена.
Позориште набавке је споредни задатак који ћу прескочити. Куповина „пословне“ амбалаже неће магично учинити сваки промпт паметним. Може помоћи у задржавању и приступу. Ваше навике и даље обављају тешки посао.
Већ си залепио нешто незгодно - шта сад 🧯
Дешава се. Притиснеш дугме за слање и твоја душа напушта твоје тело. Немој се спирално кретати. Направи кратку, помало негламурозну секвенцу.
- Престани да користиш ту тајну. Ротирај лозинку, опозови кључ, поништи сесију. Ово је једини корак који заувек затвара врата.
- Обришите ћаскање ако вам производ то дозвољава и испразните све „недавно обрисане“ џепове ако их има.
- Проверите повезане апликације и меморију. Неки алати чувају фрагменте у меморијама или пројектним датотекама које сте заборавили да сте омогућили.
- Реците правој особи ако су у питању пословни подаци. Обезбеђење, менаџер, клијент; ко год да је власник радијуса експлозије. Рано је мање болно него касније откривање.
- Пазите на необичне пријаве на повезаним налозима. Ротација без праћења је пола посла.
Ако су то били туђи подаци, дугујете им и чишћење и, у зависности од нереда, упозорење. Незгодно. Ипак је боље него надати се да је универзум љубазан.
Не покушавајте да „пребришете“ цурење информација додавањем додатних објашњења. Додатни контекст је додатни текст. Изађите из теме.
Склапање
Кратка верзија књиге „Шта НИКАДА не би требало да стављате у вештачку интелигенцију“ није листа за критиковање. То је став. Ако откључава систем, идентификује особу или би вас натерало да се згрчите у кафићу, остаје ван оквира. И даље можете добити одличну помоћ. Само моделу дајете скицу, а не кључеве од куће, медицински картон и комшијину пошту.
Кратак резиме:
- Без лозинки, кључева, токена или почетних фраза. Ротирајте ако сте погрешили.
- Без правих идентификационих докумената, комплетних финансијских података, необрађених здравствених картона или материјала о тајности.
- Без туђих приватних података, посебно деце.
- Снимци екрана лажу по укључивању; исецкајте како желите.
- Редигујте, направите лажну евиденцију и затражите методе. Конкретан проблем, лажне етикете.
- Претпоставите да историја остаје. Обришите, не архивирајте тајне у чет-боту.
- Радним местима је потребно кратко правило и добар пример, а не расположење лежерне приватности.
Користите алате. Одлични су за цртање, отклањање грешака у облицима и одвраћање од збуњујућих грешака. Само престаните да третирате текстуално поље као трезор са смислом за хумор. То је веома паметан блендер. Ипак не би требало да стављате пасош у блендер. 🫡
Практични пример: Израда брифа за дебаговање са редакцијом прво за мали инжењерски тим
Правила о приватности важе када спасавају обичан уторак, а не када звуче строго. Ево како је петочлани SaaS тим из Велике Британије користио навике из овог водича како би зауставио уношење акредитива и личних података купаца у четботове за потрошаче - без одустајања од помоћи при отклањању грешака.
Сценарио
Програмери и подршка деле једну болну навику: када грешка при аутентификацији изгледа ружно, неко налепи цео лог, стринг за повезивање за припрему и снимак екрана администраторске контролне табле „како би модел имао контекст“. У прошлом кварталу то је укључивало API кључ који изгледа уживо у трагу стека и имејл адресу клијента која је и даље видљива у URL траци снимка екрана. Нико није намеравао ништа лоше. Брзина је победила. Кухиња је сачувала снимак.
Не треба им предавање. Потребан им је понављајући сажетак: опишите тајну по типу, редигујте са резервисаним местима, исеците снимке екрана, затражите методу, а не сећање, а затим примените решење на активним системима ван мреже. Ћаскање са корисницима и даље зарађује своје место. Кључеви од куће остају ван блендера.
Циљ је исти квалитет савета са двосекундним скенирањем пре лепљења - и кратким тимским правилом ког ће се људи придржавати.
Шта је потребно асистенту
- Санитиран облик проблема: класа грешке, отприлике када је почела, окружење (припрема наспрам продукције) без имена хостова која мапирају мрежу
- Само лажни уноси: REDACTED_KEY, USER_TOKEN, customer@example.com, лажни ИД-ови захтева
- Шта је већ уклоњено (наведено у промпту како модел не би тражио праве вредности)
- Жељени резултат: вероватни узроци, провере које треба покренути, план закрпе - не „повежи се са мојим кључем“
- Човек који чува акредитиве у менаџеру лозинки или трезору тајни
- Правило тима од једне странице: без акредитива, без личних података купаца, без необјављених података, редиговање по подразумеваним подешавањима
Пример упутства
Циљ: Помозите ми да отклоним повремену грешку 401 на нашем API-ју за припрему након освежавања токена. Не тражите од мене да налепим тајне.
Ограничења: Већ сам редиговао лозинке, API кључеве, токене, колачиће, интерна имена хостова и имејлове купаца. Привремени резервисани подаци у дневнику значе да праве вредности постоје само на мојој машини. Британски енглески. Без увода.
Извод из теста: Захтев за https://api.example-staging.invalid/v1/session вратио је грешку 401. Ауторизација заглавља: Носилац REDACTED_KEY. Тело помиње да је USER_TOKEN истекао. Опис екрана (није приложен): само обавештење о грешци; трака са обележивачима и прекидач налога су исечени.
Задатак: Наведите три највероватнија узрока за ову класу грешке, провере које би требало да покренем локално и минимални план закрпе. Ако вам је потребно више детаља, затражите врсту информација (нпр. „подешавање TTL токена“) - никада за сирови тајни код.
Излаз: Нумерисани узроци, затим контролна листа, па „шта не треба лепити следећи пут“ у три тачке.
Како га тестирати
- Упоредите стари примерак (пун дневник + снимак екрана) са редигованим извештајем изнад о истом типу инцидента. Упоредите квалитет савета и да ли модел захтева тајне податке.
- Скенирање пре лепљења: пре слања претражите нацрт за @, дугачке насумичне стрингове и бројеве који су предуги да би били случајни.
- Гранични случај: укључите лажни кључ који изгледа оригинално и потврдите да одговор и даље ради без потребе за правом вредношћу.
- Гранични случај: одбијте отпремање снимка екрана; поново унесите само ред за грешку; потврдите да контролна листа и даље помаже.
- Провере прихватања: (1) нула акредитива у нити, (2) нула контакт података купаца, (3) декларисана резервисана места, (4) излаз је метода/листу за проверу, а не ток „налепите свој кључ“, (5) ако је нешто раније процурело, ротација се догодила истог дана.
Резултат
Илустративан резултат (пример процене за један мали инжењерски/тим за подршку, није објављена студија): Током 12 ћаскања о отклањању грешака за четири недеље, средње време до употребљиве контролне листе је благо порасло са око 4 минута (потпуно лепљење) на око 6 минута са редиговањем - два додатна минута за скенирање пре лепљења и резервисане ставке. Нити које садрже критичне типове података (кључеве, имејлове купаца, сирове низове повезивања) пале су са 9 од 12 ћаскања на 1 од 12 (тај је забележен у прегледу и ротиран истог дана). На једноставној контролној листи за хигијену (без тајни, без личних података купаца, декларисаних резервисаних места, исечених или без снимка екрана), 11 од 12 редигованих извештаја је прошло у односу на 3 од 12 према старој пракси. Ограничења: мали узорак, један тим, време самопријављено; блажи инциденти захтевају мање редиговања; „прошло“ је био преглед текста упита од стране колега, а не лабораторијска ревизија дневника добављача.
Да бисте измерили сопствену верзију: узоркујте 10 недавних нити за отклањање грешака вештачком интелигенцијом за забрањене типове података, затим узоркујте 10 након правила редиговања и шаблона; пријавите бројеве са имениоцима, плус средњи број минута од „заглављеног“ до „контролне листе у руци“
Шта може поћи по злу
- Кријумчарење снимка екрана: Грешка је у реду; URL трака и даље садржи токен. Исеците два пута, а затим проверите ивице.
- Кључеви „Само овај пут“: Један процурели API кључ може отворити евиденцију о наплати и купцима. Ротирајте одмах; не чекајте да „видите да ли ће се нешто десити“.
- Подаци других људи: Жалба купца са бројем телефона није ваша да бисте је донирали моделу. Укратко, објасните својим речима.
- Ћаскање као трезор: Остављање тајни у историји креира још једну копију. Обришите нит након што преместите делове који су вам потребни у локалну белешку.
- Позориште предузећа: Одобрени алат на радном месту помаже у задржавању знања; не чини лепљење крунских драгуља мудрим.
- Прескакање ротације након слипа: Брисање ћаскања без опозива кључа оставља врата отворена.
Практична информација
Оно што никада не би требало да стављате у вештачку интелигенцију је мање листа поруга, а више став: ако откључава систем, идентификује особу или би вас натерало да се згрчите у кафићу, остаје ван кутије. Дајте моделу скицу са резервисаним местима, чувајте акредитиве у трезору и питајте за методе које примењујете офлајн. Та пауза од две секунде је начин на који услужни приправник са бесконачном кафом престаје да постаје ормар за документе за ваше кључеве од куће.
Честа питања
Шта никада не би требало да стављате у AI четботове?
Ако откључава систем, идентификује особу или би вас натерало да се згрчите у кафићу, држите га ван кутије. То укључује лозинке, API кључеве, токене, семенске фразе, владине личне карте, сирове здравствене и финансијске записе, материјал о тајности и приватне податке других људи - посебно деце. Ћаскање није закључана фиока; текст се може чувати, обрађивати, а понекад и користити за обуку у зависности од производа и подешавања. Унесите скицу модела са резервисаним местима, а не кључеве од куће.
Зашто људи убацују тајне у вештачку интелигенцију чак и када знају боље?
Брзина обавља највећи део посла: ружна грешка чини да се цео лог чини бржим него његово рашчишћавање. Четботови такође делују неосуђујуће, па инстинкти за приватност праве паузу за чај. Моделу је обично потребан облик проблема, а не имена, токени, бројеви рачуна или лица на снимцима екрана - то су украси. Пауза од две секунде је боља од трансплантације личности.
Да ли је безбедно лепити лозинке или API кључеве у алате у стилу ChatGPT-а?
Не. Ако може нешто да откључа, не припада промпту - лозинке, једнократни кодови, колачићи сесије, SSH кључеви, низови за повезивање, почетни подаци новчаника или приватни сертификати. Модел не може да чува тајну као пријатељ; текст и даље путује, бележи се и може да се чува у историји. Опишите тајну по типу, користите резервисана места попут REDACTED_KEY, ротирајте све што је већ процурело и чувајте праве акредитиве у менаџеру лозинки или трезору.
Које личне податке треба да редигујем пре него што прикажем захтев?
Лични подаци се брзо акумулирају: национални лични документи, подаци из пасоша, адресе, бројеви телефона, запосленичке или студентске легитимације и пуна имена упарена са датумима рођења или клиникама. Моделу није потребан прави поштански број за писање писма - потребан му је тон, чињенице које не идентификују и жељени исход. Замените имена улогама, генерализујте локације и изоставите јединствене бројеве, осим ако не тестирате формат са лажним примером.
Могу ли да налепим клијентске датотеке, уговоре о поверљивости или интерни код у алат за вештачку интелигенцију за потрошаче?
Третирајте ћаскање са потрошачима као производ за практичност, а не као саветник компаније. Ако нешто не бисте ставили у личну Gmail скицу или рекли у превозу, немојте то стављати ни у јавни AI ћаскање - презентације клијената, необјављене планове рада, платне листе, поверљиве правне нацрте или изворе са интерним именима хостова. Опишите документ, налепите дезинфиковани одломак, затражите структуру коју примењујете офлајн и користите одобрени алат за радно место ако га имате, док га и даље режирате по подразумеваним подешавањима.
Како треба да поступам са здравственим или финансијским детаљима у вештачкој интелигенцији (AI) упитима?
Постављајте одлична питања без сирове евиденције. Општа објашњења су боља од лепљења лабораторијских панела, листа рецепата, осигуравајућих картица, банковних извода или фотографија картица које такође приказују кухињски сто. Уклоните бројеве рачуна и све што изгледа као акредитив. Користите чет за уоквиривање и контролне листе које ћете однети професионалцу - не као свој лекар, рачуновођа или ормар за документе за изводе.
Зашто су туђи подаци и снимци екрана посебно ризични?
Нисте једина особа у лепљивом садржају: имејлови колега, бројеви телефона купаца, фотографије деце или транскрипти позива могу завршити у систему без њиховог пристанка. Укратко напишите својим речима, замените имена улогама и никада не лепите идентификационе податке деце ради „забавног“ генерисања. Снимци екрана кријумче траке са обележивачима, URL токене, Slack имена и отворене картице – исецкајте два пута, замагљујте идентификаторе или поново откуцајте грешку уместо да отпремате пасоше или картице.
Који безбеднији обрасци подстицања и даље добијају поуздане одговоре вештачке интелигенције?
Будите прецизни у вези са проблемом и шкрти у вези са идентитетом: циљ, ограничења, фиктивни улази, жељени резултат. Чувајте јединствене ознаке, тражите метод уместо комплетног дневника производње, поделите задатак тако да сами попуњавате осетљиве делове и користите синтетичке примере. Покрените скенирање пре лепљења за знакове @, дугачке насумичне низове сличне кључевима, превелике бројеве и имена која не бисте ставили на слајд. Десет секунди плаћа кирију заувек.
Шта ако сам већ налепио нешто незгодно у AI чет?
Прво престаните да користите ту тајну - ротирајте лозинку, опозовите кључ, поништите сесију. Обришите ћаскање ако производ дозвољава, проверите меморије или пројектне датотеке, реците правој особи да ли су то били пословни подаци и пазите на необичне пријаве. Ако су то били туђи подаци, очистите их и упозорите када је потребно. Немојте „пребрисати“ цурење информација додатним објашњењима; додатни контекст је додатна копија.
Како мали тим може да престане да уноси акредитиве у вештачку интелигенцију ради отклањања грешака?
Користите сажетак првог редиговања: опишите тајне по типу, лажне логове са REDACTED_KEY и примере имејлова, наведите шта је уклоњено и питајте за вероватне узроке плус контролну листу - не „повежи се са мојим кључем“. Додајте кратко људско правило - без акредитива, без личних података купаца, без необјављених бројки, редиговање по подразумеваним подешавањима - и покажите један добар, очишћен пример. Чувајте праве акредитиве у трезору и примењујте исправке офлајн након што модел предложи метод.
Референце
- НЦСЦ — ncsc.gov.uk
- OpenAI — help.openai.com
- OpenAI — openai.com
- Клод — privacy.claude.com
- Гугл радни простор — knowledge.workspace.google.com
Чланци које бисте можда желели да прочитате након овог:
🔗 Најбољи алати за безбедност засновани на вештачкој интелигенцији
Откријте моћне платформе за безбедност засноване на вештачкој интелигенцији које откривају и ублажавају сајбер претње.
🔗 Зашто вештачка интелигенција понекад измишља ствари
Разумите зашто вештачка интелигенција халуцинира и научите како да смањите ризике.
🔗 Како аутоматизовати задатке помоћу вештачке интелигенције
Имплементирајте безбедне аутоматизоване радне процесе додавањем људског надзора и строгих правила.
🔗 Шта је вештачка интелигенција (AI) технологија?
Истражите основе вештачке интелигенције и њене уобичајене изазове у имплементацији.