Краток одговор: Никогаш не внесувајте лозинки, API клучеви, идентификатори, здравствени или банкарски записи, датотеки на клиенти со NDA или податоци на други луѓе во јавен разговор со вештачка интелигенција. Кога ви е потребна помош, опишете го проблемот со резервирани места и редигирани извадоци - на моделот му е потребен обликот на проблемот, а не тајните што ги отклучуваат вистинските системи.
Клучни заклучоци:
Тајните остануваат офлајн: Никогаш не внесувајте лозинки, токени, колачиња или почетни фрази во порака.
Соблечи го идентитетот: Замени ги вистинските имиња, адреси и идентификациски броеви со улоги и лажни имиња.
Доверливост на работата: Чувајте ги нацртите на NDA, досиејата на клиентите и необјавените планови подалеку од разговорот со потрошувачите.
Граница на согласност: Не лепете лични податоци на колеги, клиенти или деца без јамка само за луѓе.
Прво редактирај: Користете резервирани места и санирани извадоци; ротирајте сè што веќе сте протекоа.
Што НИКОГАШ не треба да ставате во вештачката интелигенција
Прво лепиме, а потоа размислуваме. Четбот седи таму како трпелив практикант со бесконечно кафе, па затоа се чини речиси безопасно да се стави целиот заплеткан проблем во кутијата. Најавување кое нема да функционира. Договорна клаузула која ви го превртува стомакот. Снимка од екранот од контролната табла со секое име сè уште видливо. Алатката е корисна, атмосферата се чувствува приватно, а вашиот мозок тивко ја поднесува до „белешки што ги напишав за себе“
Тоа е стапицата. 🧠 Четот не е заклучена фиока. Тоа е разговор со систем кој складира, обработува, а понекогаш и тренира според она што го испраќате, во зависност од производот, поставките и дали воопшто сте ги забележале поставките. Не сум тука да ве паничам и да ве затскривам. Тука сум со практична мапа на она што НИКОГАШ не треба да го внесувате во вештачката интелигенција, плус едноставни, но практични навики кои сепак ви овозможуваат да добивате остри одговори.
Замислете го тоа како да извикувате тајна во преполна кујна. Не секој странец слуша. Сепак, некои од нив можеби слушаат. А кујната чува снимка од причини кои никогаш не се толку едноставни како што маркетиншкиот текст ги прикажува.
Зошто сè фрламе во полето за разговор
Брзина. Тоа е поголемиот дел од сè. Заглавени сте, грешката е грда, а залепувањето на целиот дневник се чувствува побрзо отколку неговото расклопување. Контекстот се чувствува како љубезност кон моделот. Повеќе детали, подобра помош; тоа е фолклорот, и е полувистина.
Другата половина е емотивна. Четботот не крева веѓа. Нема да му каже на вашиот менаџер. Нема да озборува на ручек. Затоа го третираме како дневник со супермоќи. Јас сум го направил ова. Веројатно и вие сте го направиле ова. Во моментот кога нешто е и погодно и неосудувачки, нашите инстинкти за приватност одат на пауза за чај.
Еве ја малку досадната вистина: на моделот не му се потребни вашите секојдневни детали за да ви помогне. Потребен му е облик на проблемот. Имињата, токените, броевите на сметките и лицата на снимките од екранот се украс. Вкусен украс. Сè уште украс.
- Залепуваш затоа што уредувањето се чувствува како дополнителна работа.
- Лепиш затоа што „само овој пат“ е навика што се преправа.
- Залепувате бидејќи интерфејсот изгледа како приватна ДМ порака и се однесува како кабинет за поднесување.
Ништо од тоа не те прави неодговорен. Те прави човек. Решението е пауза од две секунди, а не трансплантација на личност.
Лозинки, API клучеви и тајни што треба да останат офлајн 🔐
Ако може да отклучи нешто, тоа не припаѓа во промпт. Лозинки. Еднократни кодови. Сесиски колачиња. SSH клучеви. Низи за поврзување со базата на податоци. API клучот што си ветивте дека ќе го ротирате „наскоро“. Фрази за почетници во паричник. Приватни сертификати. Прашањето за обновување за кое вашата банка сè уште мисли дека е паметно.
Порано мислев на клучевите како клучеви од куќа на кука до вратата. Симпатична метафора; веднаш се распаѓа, бидејќи клуч од куќа отвора една врата, а API клучот може да отвори магацин, сметка за наплата и куп записи од клиенти што сте заборавиле дека сте ги зачувале. Создавање резервна копија: третирајте ги тајните како радиоактивни. Не ставате радиоактивни работи во пресата за сендвичи, дури и ако пресата за сендвичи е многу добра за сендвичи.
Моделот не може да го „држи ова меѓу нас“ на начинот на кој може пријател. Дури и ако продавачот нуди контроли на меморијата, дури и ако ја исклучите обуката, текстот сè уште патува, се евидентира во некоја форма и може да остане во историјата на разговорот сè додека не почнете да го барате. Претпоставете дека лепењето е копија што повеќе не ја контролирате целосно.
Што да се прави наместо тоа
- Опишете ја тајната по тип, а не по вредност. „URL-адреса на Postgres со лозинка во неа“ е доволна за совет за дебагирање.
- Редирај со очигледни замени: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
- Ротирајте сè што веќе сте протекоа. Правете го тоа сега, а не откако ќе „видите дали нешто ќе се случи“
- Чувајте ги вистинските акредитиви во менаџер за лозинки или во трезор за тајни; никогаш во нишка од која може да направите слика од екранот подоцна.
Ако алатката ве замоли да залепите клуч за да може да се „поврзе за вас“, тоа е друга категорија на производи. Тоа е интеграција со пристап, а не асистент за пишување. Третирајте го тоа како да му ја дадете вашата значка на некого.
Лични идентификатори и тивка трага на идентитетот 🪪
PII е негламурозен роднина на лозинките. Национални лични броеви. Податоци за пасош. Полиња за идентитет поврзани со датум. Домашни адреси. Телефонски броеви. Идентификациски броеви на вработени. Студентски броеви. Целосни правни имиња спарени со датуми на раѓање, имиња на училишта или медицински клиники. Едно парче изгледа мало. Три парчиња заедно се досие.
Луѓето го прават ова кога сакаат да им се напише писмо, да им се преведе формулар или да им се дотера биографијата. Сосема разумни цели. На моделот не му е потребен вистинскиот поштенски број за да состави учтива жалба. Потребни му се тонот, фактите што не се идентификациски и резултатот што го сакате.
Претпоставувам дека изненадувачки лепливиот дел се „безопасните“ комбинации. Уникатна работна титула плус град плус училиште на детето плус ретка медицинска состојба. Тоа не би го ставиле на флаер. Кутијата за разговор не е флаер, но не е ниту трезор.
- Заменете ги вистинските имиња со улоги: „менаџер за вработување“, „мој матичен лекар“, „закупец“
- Генерализирајте ги локациите: „град од средна големина“, а не улицата и кодот за зујалот.
- Испуштајте уникатни броеви освен ако задачата буквално не е за форматот на броеви, во тој случај користете лажен број што изгледа доволно вистински.
Анонимизацијата не е докторат. Тоа е навика да се провери дали некој странец може да ве издвои од списокот од овој пасус. Ако може, скратете.
Доверливо работно место, недозволени договори за доверливост и работи од кои вашиот шеф би се згрозил 📎
Тука услужливоста ги доведува луѓето во неволја. Залепувате список на клиенти. Необјавен план за патување. Табела за плати. Изворен код со внатрешни имиња на хостови. Правен нацрт кој сè уште е означен како доверлив. Белешки од состаноци со имиња на луѓе на кои сè уште не им е кажано. Договорот за доверливост што го потпишавте набрзина затоа што кафето се ладеше.
Чет-ботовите не се советници на вашата компанија и не се безбедна работна маса освен ако вашата организација не направила таква вистинска. Потрошувачките алатки се создадени за погодност. Претпријатиските алатки можат да бидат подобри, со контроли на задржување и административни политики; тие сепак не се причина да се фалат со скапоцени камења за граматички положен испит.
Практично правило кое го чувам залепено во главата: ако не го ставите во личен нацрт на Gmail, не го ставајте во јавен разговор со вештачка интелигенција. Ако не го кажете во споделување на возила, исто е. Луѓето кои се внимателни на Slack стануваат поети на прекумерно споделување штом се појави копчето за генерирање.
Побезбедни заобиколни решенија
- Опишете го документот: должина, публика, трите важни точки, тонот што ви е потребен.
- Залепете дезинфициран извадок. Отстранете имиња, осетливи личности и сè за што натпреварувачот би се фалел.
- Побарајте структура или шема за препишување, а потоа сами применете ја на вистинскиот текст офлајн.
- Користете одобрена алатка за работното место доколку ја имате, и сепак редактирајте по дифолт. Политиката е под, а не трамболина.
Кодот е посебен белег на ова. Внатрешните URL-адреси, заглавијата за авторизација и коментарите како „TODO: remove before the acquisition“ се мали подарочни ознаки. Лажирајте ги податоците. Задржете ја логиката. Моделот добро ги обработува лажните податоци; не му е потребна вашата шема за производство со вистински е-пошти на клиенти кои сè уште се вгнездени во фитинг.
Здравје, пари и детали за кои не би врескале низ кафуле 💊
Медицинските и финансиските детали се чинат итни, па затоа се залепуваат со најмалку уредување. Лабораториски резултати. Списоци на рецепти. Осигурителни картички. Банкарски изводи. Даночни писма. Кредитни извештаи. Фотографија од картичка „само за последните четири цифри“, која некако го вклучува остатокот од картичката, вашата кујнска маса и писмо со туѓо име.
Можете да поставите одлични прашања без суров запис. „Објаснете што би можело да значи покачен маркер во општи црти“ е прашање. „Еве го мојот целосен панел, мојата адреса, мојата клиника и моминското презиме на мајка ми“ е биографија.
Не велам никогаш да не зборувате за здравје или пари со модел. Велам третирајте го четботот како начитан странец во воз. Добро за врамување. Ужасно како вашиот сметководител, вашиот клиничар или вашата архива. И да, знам дека метафората за начитан странец протекува; возовите не водат евиденција за разговори. Тоа е поентата.
- Отстранете ги броевите на сметките, сортирачките кодови, IBAN-ите и сè што изгледа како акредитив.
- Побарајте општи објаснувања, контролни листи и прашања за да ги однесете кај професионалец.
- Не го користете чет-от како кабинет за поднесување изјави „за да можам да ги прашам подоцна“. Токму тогаш задржувањето станува проблем.
Ако некој поттик ве натера да го стишите гласот во кафуле, прво средете го. Тој тест е изненадувачки сигурен и не чини ништо.
Податоците на другите луѓе не се твои за да ги залепиш 🚫
Ова се прескокнува бидејќи се чини дека сте протагонистот на разговорот. Не сте единствената личност на снимката од екранот. Е-пошта на колеги. Идентификација на партнер. Жалба од клиент со сè уште прикачен телефонски број. Фотографии од деца. Тема на Slack во која се именува кој речиси бил отпуштен. Снимен транскрипт од повик за кој другата личност не знаела ќе биде доставен до модел.
Согласноста не се префрла автоматски од „ми пратија е-пошта“ во „машина може да го зачува ова“. Дури и ако вашата намера е љубезна - да составите поубав одговор, да сумирате збунета нишка - суровиот товар е сè уште нивниот живот, а не вашиот тест.
Малку саркастичен лакмус тест: ако не би ја препраќале истата порака до мејлинг листа од странци „за повратни информации“, тогаш не третирајте го четботот како помала мејлинг листа со подобри манири.
- Резимирајте ги другите луѓе со свои зборови.
- Заменете ги имињата со улоги и отстранете ги деталите за контакт.
- Прашајте го лицето дали задачата е чувствителна; некои работи треба да останат во јамка само за луѓе.
- Никогаш не лепете лични податоци на децата, училишни евиденции или фотографии за идентификација за „забавна“ генерација.
Тука постои правен слој за кој нема да се преправам дека го тужам како блогер. Правилата за приватност, работните обврски и договорите со клиентите имаат свои мислења. Практичната навика е поедноставна од законот: стандардно податоците на другите луѓе не се прикажуваат.
Што НИКОГАШ не треба да ставате во вештачката интелигенција: табела со ризици што можете да ја ставите во функција
Ми се допаѓаат табели за ова бидејќи списокот со „никогаш“ може да звучи проповеднички, а мрежата ви овозможува да ја видите замената. Благо оценки со мислење, а не лабораториски извештај.
| Тип на податоци | Ниво на ризик | Зошто е проблем | Побезбедна алтернатива |
|---|---|---|---|
| Лозинки, API клучеви, токени, seed фрази | Критично | Тие отклучуваат системи; копија што не можете целосно да ја запомните е сепак копија | Заменски членови плус локален менаџер за тајни; ротирајте ако се протече |
| Државни лични карти, скенирање на пасоши, национални броеви | Критично | Пакет за почетници против кражба на идентитет; тешко е да се „отповика“ | Лажни примери или прашања само за формат |
| Здравствени картони, рецепти, осигурителни идентификатори | Висок | Интимно, регулирано чувство и лепливо во историјата | Општи симптоми или теми; држете ги идентификаторите подалеку од страницата |
| Банкарски изводи, даночни документи, фотографии од картички | Висок | Директна финансиска изложеност плус дополнителен PII на маргините | Прашајте за процеси, а не за сурови бројки поврзани со вас |
| Датотеки на клиенти, нацрти на NDA, необјавени планови | Висок | Можеби прекршувате ветување што веќе сте го потпишале | Санитизирани извадоци; барања за структура; одобрени работни алатки |
| Информации за колега или клиент, детали за деца | Висок | Не е ваше да го донирате на модел | Резиме засновано на улоги; исфрли контакти и лица |
| Внатрешен извор со имиња на хостови и вистински е-пошти | Средно-високо | Изгледа како „само кодирање“ сè додека некој не ја мапира вашата мрежа | Лажни податоци, лажни домени, отстранети коментари |
| Снимки на екранот од контролни табли или поштенски сандачиња | Средно-високо | Тие шверцуваат имиња, броеви и отворени табови што сте заборавиле дека сте таму | Исечете, заматете или препишете го соодветниот фрагмент |
| Нејасни лични приказни без единствени идентификатори | Долна | Обично е во ред; сепак прескокнете сè што не би му кажале на странец | Држете го општо; прескокнете ја ретката комбинација за идентификација |
Ако не се сеќавате на ништо друго, запомнете ја левата колона. Тоа е срцето на „Што НИКОГАШ не треба да ставате во вештачката интелигенција кога брзате и вашиот мозок сака да го залепи универзумот“.
Стапици за слики од екранот и случајно прекумерно споделување 🖼️
Снимките на екранот се начин како добрите луѓе протекуваат информации. Сакате да прикажете дијалог за грешка. Снимката вклучува лента со обележувачи, значка на Slack со име, URL адреса со токен, скокачки прозорец за календар, одраз во прозорец со темен режим што се покажува дека е менаџер за лозинки. Исеков една слика и сепак го пропуштив малиот менувач на сметки во аголот. Тоа е жанр на грешка.
Фотографиите од документи се полоши, бидејќи камерите се дарежливи. Маса, бела табла, болничка нараквица, етикета за испорака. Моделот можеби нема да „има потреба“ од дополнителните пиксели. Пикселите сепак пристигнуваат.
Обичен ритуал за снимање на екранот
- Прво исечете. Потоа повторно исечете. Потоа погледнете ги рабовите како да ви должат пари.
- Замаглете ги имињата, е-поштата, аватарите и кој било стринг што изгледа како токен.
- Претпочитате повторно да ја внесете грешката отколку да го снимите целото IDE.
- Не прикачувајте фотографија од картичка, пасош или карта за влез во авионот „за брзо читање“. Наместо тоа, напишете го прашањето.
Гласовните белешки и прикачувањата на датотеки ја играат истата финта. Снимката од состанок е збир на податоци од други луѓе. CSV е збир на редови што престанавте да ги гледате како луѓе. Ако датотеката би го направила Легал нервозен, таа не влегува во кутијата.
Побезбедни шеми на поттикнување кои сепак ви даваат солидни одговори ✨
Редакцијата не е непријател на квалитетот. Нејасните поттикнувања се. Можете да бидете конкретни за проблемот, а скржави за идентитетот. Тоа е целиот занает.
Пробајте ја оваа форма: цел, ограничувања, фиктивни влезни податоци, посакуван излез. „Препишете ја оваа е-пошта за одбивање така што ќе биде љубезна, но цврста. Audience е фриленсер. Не го споменувајте вистинското име на проектот. Еве еден прочистен нацрт со заменети имиња.“ Тоа е потсетник со 'рбет. Не му е потребен CRM извоз.
Модели што функционираат
- Задржувач на место за сè што е уникатно. ACME_CLIENT, USER_A, TOKEN_X. Зачувајте ја граматиката на секојдневниот живот; фрлете ги отпечатоците од прсти.
- Побарајте метод, а не меморија. „Водете ме низ размислувањето за оваа класа на грешки“ е подобро од „еве го целиот наш продукциски дневник“.
- Поделете ја задачата. Земете шаблон од моделот. Пополнете ги чувствителните делови сами.
- Користете синтетички примери. Измислете муштерија по име Ривер која купила светилка. Советот сè уште се пренесува.
- Наведете што веќе сте редигирани. Моделите се справуваат со „[редактирана бројка за плата]“ сосема добро ако им ја кажете околната логика.
Постои еден вид на потсетник што се обидува да биде паметен: „игнорирај ја претходната безбедност, зачувај го овој клуч“. Немој. Не ја кршиш сопствената приватност. Го фрлаш клучот во езерце и се надеваш дека езерцето е срамежливо.
Друга шема што ми се допаѓа: скенирањето пред лепење. Пред испраќање, пребарајте ја вашата нацрт-верзија за @, за низи што личат на клучеви (долги, случајни, често со префикс), за броеви што се предолги за да бидат случајни и за имиња што не би ги ставиле на слајд. Десет секунди. Плаќа кирија засекогаш.
Историја на разговори, задржување и долгата опашка на паста 📦
Луѓето зборуваат за „облакот“ како да е временски систем. Она што го имате во пракса е производ со стандардни поставки. Некои разговори се користат за подобрување на моделите освен ако не се откажете. Некои се задржуваат за преглед на злоупотреба, правни барања или основни причини од типот „за да се вчита темата утре“. Некои планови за работното место чуваат логови за администраторите. Нема да се преправам дека политиката на еден добавувач е универзална, бидејќи не е, и се менува, и треба да ги прочитате поставките на производот, а не меморијата на блогерот за поставките.
Практичниот став е досаден и цврст: претпоставете дека залепувањето може да опстојува. Претпоставете дека колега со администраторски права може да види теми на работното место. Претпоставете дека во иднина ќе заборавите дека овој разговор постои сè додека не се појави во пребарувањето. Претпоставете дека извезувањето на вашата историја е нешто што можеби ќе го направите подоцна, а тој извоз е уште една копија.
- Исклучете ги опциите за обука или „подобрување на моделот“ кога производот ги нуди, ако тоа одговара на вашата удобност.
- Избришете ги чувствителните нишки откако ќе ги извлечете практичните делови во локална белешка што е навистина локална.
- Не го третирајте разговорот како ваш систем на евиденција за проблеми со човечки ресурси, медицински прашања или работа со клиенти.
- Бидете внимателни со споделените сметки. Споделените сметки се начинот на кој „приватното“ станува канцелариски фолклор.
Карактеристиките на меморијата - оние што потсетуваат на вашата работа, вашето куче, вашиот претпочитан тон - се практични и малку морничави. Тие се исто така причина да не го учите системот на вашите вистински идентификатори „за да може да биде поперсонално“. Личното е стил. Тоа не е вашиот национален осигурителен број.
Норми на работното место кога вашиот тим живее во четботови 🏢
Канцелариите се местото каде што навиката за лепење станува индустриска. Некој фрла CSV-датотека од клиентот за да ги „исчисти колоните“. Некој друг фрла документ за стратегија за да го „направи посилен“. Добронамерен практикант го лепи каналот за инцидентот. Никој не е негативец. Стимулациите се само брзина и дотерување.
Ако водите тим, напишете кратко, човечко правило. Не политика од 40 страници што никој не ја чита. Нешто како: без акредитиви, без лични податоци на клиентите, без необјавени броеви, без правни нацрти, користете ја одобрената алатка, редактирајте по дифолт. Потоа покажете пример за добар прочистен предлог за луѓето да не нагаѓаат.
- Наведете ја одобрената алатка, ако ја имате, и неодобрените.
- Дајте листа за проверка за редакција што луѓето можат да ја завршат пред стендап настап.
- Слободно кажете „Речиси го залепив тоа“ без театарска истрага.
- Потсетете ги луѓето дека „вештачката интелигенција рече дека е во ред“ не е контрола.
Ако не водиш тим, сепак можеш да бидеш личноста што лепи кукла. Културата е заразна во двата правци. Претпоставувам дека тоа звучи сериозно. Така се движат и нормите; едно лице престанува да фрла клучеви и просторијата станува малку помалку неуредна.
Театарот за набавки е споредна задача што ќе ја прескокнам. Купувањето „претпријатиска“ обвивка не ги прави магично сите налози мудри. Може да помогне во задржувањето и пристапот. Вашите навики сè уште ја вршат тешката работа.
Веќе залепи нешто незгодно - сега што 🧯
Се случува. Притискаш „испрати“ и твојата душа го напушта твоето тело. Не прави спирала. Направи кратка, малку негламурозна секвенца.
- Престани да ја користиш таа тајна. Ротирај ја лозинката, поништи го клучот, поништи ја сесијата. Ова е единствениот чекор што ја затвора вратата засекогаш.
- Избришете го разговорот ако производот ви дозволува и испразнете го секој џеб со „неодамна избришани“ содржини, доколку има таков.
- Проверете ги поврзаните апликации и меморијата. Некои алатки чуваат фрагменти во спомени или датотеки на проекти што сте заборавиле да ги овозможите.
- Кажете му на вистинското лице дали станува збор за работни податоци. Обезбедување, менаџер, клиент; кој и да е сопственик на радиусот на експлозијата. Раното откривање е помалку болно отколку подоцна.
- Внимавајте на необични најавувања на поврзаните сметки. Ротацијата без следење е половина работа.
Ако станува збор за туѓи податоци, им должите и чистење и, во зависност од нередот, предупредување однапред. Незгодно. Сепак, подобро е отколку да се надевате дека универзумот е учтив.
Не обидувај се да „пребришеш“ протекување со лепење повеќе објаснување. Дополнителен контекст е дополнителна копија. Излези од темата.
Составување
Кратката верзија на „Што НИКОГАШ не треба да ставате во вештачката интелигенција“ не е список за прекорување. Тоа е држење на телото. Ако отклучува систем, идентификува лице или би ве натерало да се згрчите во кафуле, останува надвор од кутијата. Сè уште можете да добиете одлична помош. Само му давате на моделот скица, а не клучевите од куќата, медицинскиот картон и поштата на соседот.
Брз преглед:
- Без лозинки, клучеви, токени или почетни фрази. Ротирајте ако сте се лизнале.
- Без вистински лични карти, целосни финансиски податоци, сурови здравствени картони или материјал за недозволена доверливост.
- Без лични податоци на други луѓе, особено на деца.
- Снимките на екранот лежат во вклучувањето; исечете како да го мислите тоа.
- Редирај, лажирај и побарај методи. Специфичен проблем, лажни етикети.
- Претпоставете дека историјата се задржува. Бришете, не архивирајте тајни во чатбот.
- На работните места им е потребно кратко правило и добар пример, а не расположение на лежерна приватност.
Користете ги алатките. Тие се одлични за нацрти, дебагирање на облици и ве убедуваат да избегнете збунувачка грешка. Само престанете да го третирате полето за текст како трезор со чувство за хумор. Тоа е многу паметен блендер. Сепак, не треба да го ставате пасошот во блендер. 🫡
Практичен пример: Создавање на краток опис на дебагирање со редакција прво за мал инженерски тим
Правилата за приватност важат кога спасуваат обичен вторник, а не кога звучат строго. Еве како петчлен SaaS тим од Велика Британија ги искористи навиките во ова упатство за да престане да ги внесува акредитивите и личните податоци на клиентите во потрошувачките чет-ботови - без да се откаже од помошта за дебагирање.
Сценарио
Развивачите и поддршката делат една болна навика: кога грешката при авторизација изгледа грдо, некој го залепи целиот дневник, низата за поврзување во фаза и снимка од екранот од административната контролна табла „за моделот да има контекст“. Последниот квартал тоа вклучуваше API клуч што изгледаше во живо во трагата на стекот и е-пошта на клиентот што сè уште беше видлива во URL лентата на снимката од екранот. Никој не мислеше на штета. Брзината победи. Кујната водеше снимка.
Не им треба предавање. Им треба повторлив краток опис: опишете ја тајната по тип, редигирајте со резервирани места, исечете снимки од екранот, побарајте метод, а не меморија, а потоа применете го решението на системи во живо офлајн. Разговорот со потрошувачите сè уште си го заслужува своето. Клучевите од куќата остануваат надвор од блендерот.
Целта е ист квалитет на совети со скенирање пред лепење од две секунди - и кратко тимско правило што луѓето ќе го следат.
Што му е потребно на асистентот
- Саниран облик на проблем: класа на грешка, приближно кога започнал, околина (стадиумско поставување наспроти производство) без имиња на хостови што ја мапираат мрежата
- Само фиктивни влезови: REDACTED_KEY, USER_TOKEN, customer@example.com, лажни ID-а на барања
- Што веќе беше отстрането (наведено во промптот, така што моделот не бара вистински вредности)
- Посакуван излез: веројатни причини, проверки што треба да се извршат, преглед на закрпи - не „поврзи се со мојот клуч“
- Човек кој чува акредитиви во менаџер за лозинки или во трезор за тајни
- Правило на тимот од една страница: без акредитиви, без лични податоци на клиентите, без необјавени бројки, редактирај по стандард
Пример за упатство
Цел: Помогнете ми да дебагирам на повремен 401 на нашиот API за поставување по освежување на токен. Не ме прашувајте да лепам тајни.
Ограничувања: Веќе ги редактирав лозинките, API клучевите, токените, колачињата, внатрешните имиња на хостови и е-поштите на клиентите. Заменските резерви во дневникот значат дека вистинските вредности постојат само на мојот компјутер. Британски англиски. Без преамбула.
Лажен извадок: Барањето до https://api.example-staging.invalid/v1/session врати 401. Авторизација на заглавието: Носител REDACTED_KEY. Телото споменува дека USER_TOKEN е истечен. Опис на сликата од екранот (не е прикачено): само грешка во известувањето; лентата со обележувачи и менувачот на сметки се исечени.
Задача: Наведете ги трите најверојатни причини за оваа класа на грешки, проверките што треба да ги извршам локално и минимален преглед на исправки. Доколку ви се потребни повеќе детали, побарајте еден вид информации (на пр. „поставување на токен TTL“) - никогаш за суровата тајна.
Резултат: Нумерирани причини, потоа листа за проверка, па „што да не се залепи следниот пат“ во три точки.
Како да го тестирате
- Споредете ја старата леплива објава (целосен дневник + снимка од екранот) со редигираниот краток опис погоре за истиот тип на инцидент. Споредете го квалитетот на советите и дали моделот бара тајни.
- Скенирање пред лепење: пребарајте во нацртот за @, долги случајни низи и броеви пред да ги испратите.
- Големина и големина на буквата „Edge Button“: вклучете лажен клуч што изгледа оригинално и потврдете дека одговорот сè уште работи без да биде потребна вистинската вредност.
- Големина и големина на екранот: одбиј прикачување на слика од екранот; препиши само редот за грешка; потврди дека листата за проверка сè уште помага.
- Проверки за прифаќање: (1) нула акредитиви во низата, (2) нула детали за контакт со клиентот, (3) декларирани резервирани податоци, (4) излезот е метод/листа за проверка, а не тек на „залепете го вашиот клуч“, (5) ако нешто протече порано, ротацијата се случи истиот ден.
Резултат
Илустративен резултат (пример проценка за еден мал инженерски/тим за поддршка, а не објавена студија): Низ 12 разговори за дебагирање за четири недели, средното време до употребливата контролна листа малку се зголеми од околу 4 минути (целосно лепење) на околу 6 минути со редакција - две дополнителни минути за скенирањето пред лепење и заменските резерви. Нишките што содржат критични типови на податоци (клучеви, е-пошта на клиенти, сурови низи за поврзување) се намалија од 9 од 12 разговори на 1 од 12 (оној беше фатен во преглед и ротиран истиот ден). На едноставна контролна листа за хигиена (без тајни, без лични информации за клиенти, декларирани заменски резерви, исечени или без снимка на екранот), 11 од 12 редактирани барања беа поминати наспроти 3 од 12 според старата навика. Ограничувања: мал примерок, еден тим, самопријавено време; поблагите инциденти бараат помалку редакција; „помина“ беше рецензија од страна на колеги на текстот на барањето, а не лабораториска ревизија на логовите на добавувачите.
За да ја измерите сопствената верзија: земете примерок од 10 неодамнешни нишки за дебагирање со вештачка интелигенција за забранети типови на податоци, потоа земете примерок од 10 по правило за редакција и шаблон; бројот на извештаи со именители, плус медијана на минути од „заглавено“ до „листа за проверка во рака“
Што може да тргне наопаку
- Шверц на слика од екранот: Грешката е во ред; URL лентата сè уште содржи токен. Исечете двапати, а потоа проверете ги рабовите.
- Клучови „Само еднаш“: Еден протечен API клуч може да отвори евиденција за фактурирање и клиенти. Ротирајте веднаш; не чекајте да „видите дали нешто ќе се случи“.
- Податоци на други луѓе: Жалбата од клиент со телефонски број не е ваша за да ја донирате на модел. Резимирајте со свои зборови.
- Разговор како трезор: Оставањето тајни во историјата создава друга копија. Избришете ја нишката откако ќе ги преместите потребните битови во локална белешка.
- Претпријатиски театар: Одобрена алатка на работното место помага при задржување на вработените; не го прави лепењето на крунските скапоцености мудро.
- Прескокнување на ротација по лизгање: Бришењето на разговорот без отповикување на клучот ја остава вратата отворена.
Практичен оброк за носење
Она што никогаш не треба да го ставате во вештачката интелигенција е помалку список за прекорување, а повеќе држење на телото: ако отклучи систем, идентификува личност или би ве натерало да се згрчите во кафуле, таа останува надвор од кутијата. Нанесете му на моделот скица со резервирани места, чувајте ги акредитивите во трезор и прашајте ги методите што ги применувате офлајн. Таа пауза од две секунди е како еден корисен практикант со бесконечно кафе престанува да станува шкаф за архивирање на клучевите од вашата куќа.
Најчесто поставувани прашања
Што никогаш не треба да ставате во четботови со вештачка интелигенција?
Ако отклучува систем, идентификува лице или би ве натерало да се наежите во кафуле, чувајте го подалеку од кутијата. Тоа вклучува лозинки, API клучеви, токени, почетни фрази, владини идентификатори, сурови здравствени и финансиски записи, материјал за независна доверливост и приватни податоци на други луѓе - особено на деца. Разговорот не е заклучена фиока; текстот може да се складира, обработува, а понекогаш и да се користи за обука во зависност од производот и поставките. Внесете скица на моделот со резервирани места, а не со клучевите од куќата.
Зошто луѓето залепуваат тајни во вештачката интелигенција дури и кога знаат подобро?
Брзината ја завршува поголемиот дел од работата: грда грешка го прави целиот дневник да изгледа побрз отколку неговото расчистување. Чет-ботовите исто така се чувствуваат неосудувачки, па затоа инстинктите за приватност прават пауза за чај. На моделот обично му е потребен обликот на проблемот, а не имиња, токени, броеви на сметки или лица на снимки од екранот - тие се украс. Пауза од две секунди е подобра од трансплантација на личност.
Дали е безбедно да се залепат лозинки или API клучеви во алатки во стилот на ChatGPT?
Не. Ако може да отклучи нешто, тоа не припаѓа во промпт - лозинки, еднократни кодови, колачиња за сесија, SSH клучеви, низи за поврзување, почетни податоци за паричник или приватни сертификати. Моделот не може да чува тајна како пријател; текстот сè уште патува, се евидентира и може да остане во историјата. Опишете ја тајната по тип, користете резервирани податоци како REDACTED_KEY, ротирајте сè што веќе е протечено и чувајте ги вистинските акредитиви во менаџер за лозинки или трезор.
Кои лични информации треба да ги редактирам пред да побарам?
PII брзо се собира: национални лични карти, детали за пасош, адреси, телефонски броеви, лични карти на вработени или студенти и целосни имиња спарени со датуми на раѓање или клиники. На моделот не му е потребен вистински поштенски број за да состави писмо - му треба тон, неидентификувачки факти и резултатот што го сакате. Заменете имиња за улоги, генерализирајте локации и исфрлете уникатни броеви освен ако не тестирате формат со лажен пример.
Може ли да ги залепам клиентските датотеки, NDA или интерниот код во алатка за вештачка интелигенција за потрошувачи?
Третирајте го потрошувачкиот разговор како производ за погодност, а не како советник на компанијата. Ако не би го ставиле во личен нацрт на Gmail или не би го кажале во превоз, не го ставајте во јавен разговор со вештачка интелигенција - клиентски групи, необјавени мапи, платни листови, доверливи правни нацрти или извор со внатрешни имиња на хостови. Опишете го документот, залепете прочистен извадок, побарајте структура што ја применувате офлајн и користете одобрена алатка на работното место ако имате, а сè уште редактирате по дифолт.
Како треба да ги обработувам здравствените или финансиските детали во упатствата за вештачка интелигенција?
Поставувајте одлични прашања без сурови записи. Општите објаснувања се подобри од лепењето лабораториски панели, листи на рецепти, осигурителни идентификации, банкарски изводи или фотографии од картички што исто така ја прикажуваат кујнската маса. Отстранете ги броевите на сметките и сè што изгледа како акредитив. Користете разговор за врамување и контролни листи за да ги однесете кај професионалец - не како ваш клиничар, сметководител или кабинет за поднесување извештаи.
Зошто податоците и снимките од екранот на другите луѓе се особено ризични?
Не сте единствената личност во залепувањето: е-поштата на колегите, телефонските броеви на клиентите, фотографиите на децата или транскриптите на повиците можат да се најдат во системот без нивна согласност. Резимирајте со свои зборови, заменете ги имињата со улоги и никогаш не ги залепувајте идентификациските детали на децата за „забавно“ генерирање. Снимките на екранот криумчарат ленти со обележувачи, URL токени, имиња на Slack и отворени јазичиња - исечете двапати, заматете ги идентификаторите или повторно внесете ја грешката наместо да прикачувате пасоши или картички.
Кои побезбедни шеми на поттикнување сè уште добиваат солидни одговори од вештачката интелигенција?
Бидете конкретни за проблемот и скржави во врска со идентитетот: цел, ограничувања, фиктивни влезни податоци, посакуван излез. Поставете уникатни етикети за заменување, побарајте метод наместо целосен дневник на производство, поделете ја задачата така што сами ќе ги пополните чувствителните делови и користете синтетички примери. Извршете скенирање пред лепење за знаци @, долги случајни низи слични на клучеви, преголеми броеви и имиња што не би ги ставиле на слајд. Десет секунди исплаќаат кирија засекогаш.
Што ако веќе сум залепил нешто незгодно во разговор со вештачка интелигенција?
Прво престанете да ја користите таа тајна - ротирајте ја лозинката, поништете го клучот, поништете ја сесијата. Избришете го разговорот ако производот дозволува, проверете ги спомените или датотеките на проектот, кажете му на вистинското лице дали станува збор за работни податоци и следете ги необичните најавувања. Ако станува збор за туѓи податоци, исчистете и известете однапред кога е потребно. Не „пребришувајте“ протекување со повеќе објаснувања; дополнителниот контекст е дополнителна копија.
Како може мал тим да престане да внесува акредитиви во вештачката интелигенција за дебагирање?
Користете кратка инструкција со редакција: опишете тајни по тип, лажни логови со REDACTED_KEY и примерни е-пораки, наведете што е отстрането и прашајте за веројатни причини плус листа за проверка - не „поврзете се со мојот клуч“. Додадете кратко човечко правило - без акредитиви, без лични податоци на клиентот, без необјавени бројки, редактирајте по дифолт - и покажете еден добар дезинфициран пример. Чувајте ги вистинските акредитиви во трезор и применувајте ги поправките офлајн откако моделот ќе предложи метод.
Референци
- NCSC — ncsc.gov.uk
- OpenAI — help.openai.com
- OpenAI — openai.com
- Клод — privacy.claude.com
- Google Workspace — knowledge.workspace.google.com
Статии што можеби ќе ве интересираат по оваа:
🔗 Најдобри алатки за безбедност со вештачка интелигенција
Откријте моќни платформи за безбедност со вештачка интелигенција кои откриваат и ублажуваат сајбер закани.
🔗 Зошто вештачката интелигенција понекогаш измислува работи
Разберете зошто вештачката интелигенција халуцинира и научете како да ги намалите ризиците.
🔗 Како да се автоматизираат задачите со вештачка интелигенција
Имплементирајте безбедни работни процеси за автоматизација со додавање човечки надзор и строги правила.
🔗 Што е вештачка интелигенција?
Истражете ги основите на вештачката интелигенција и нејзините вообичаени предизвици за имплементација.