Вештачка интелигенција понекад делује готово као магични трик. Укуцате насумично питање и бам - елегантан, углачан одговор се појављује за неколико секунди. Али ево у чему је ствар: иза сваке „генијалне“ машине, постоје стварни људи који је подстичу, исправљају и обликују успут. Ти људи се зову тренери вештачке интелигенције , а посао који обављају је чуднији, смешнији и искрено људскији него што већина људи претпоставља.
Хајде да прођемо кроз то зашто су ови тренери важни, како заправо изгледа њихова свакодневица и зашто ова улога расте брже него што је ико предвидео.
Чланци које бисте можда желели да прочитате након овог:
🔗 Шта је вештачка интелигенција (AI) арбитража: Истина која стоји иза популарне речи
Објашњава вештачку интелигенцију (AI) арбитражу, њене ризике, користи и уобичајене заблуде.
🔗 Захтеви за складиштење података за вештачку интелигенцију: Шта заиста треба да знате
Покрива потребе за складиштењем, скалабилност и ефикасност система вештачке интелигенције.
🔗 Ко је отац вештачке интелигенције?
Истражује пионире вештачке интелигенције и порекло вештачке интелигенције.
Шта чини једног доброг вештачког тренера? 🏆
То није посао са мучењем. Најбољи тренери се ослањају на прилично чудну мешавину талената:
-
Стрпљење (пуно стрпљења) - Модели не уче одједном. Тренери стално понављају исте корекције док се не учврсте.
-
Уочавање нијанси - Препознавање сарказма, културног контекста или пристрасности је оно што људским повратним информацијама даје предност [1].
-
Једноставна комуникација - Пола посла је писање јасних упутстава које вештачка интелигенција не може погрешно да прочита.
-
Радозналост + етика - Добар тренер поставља питање да ли је одговор „чињенично тачан“, али друштвено глув - главна тема у надзору вештачке интелигенције [2].
Једноставно речено: тренер је делом наставник, делом уредник и мало етичар.
Улоге AI тренера на први поглед (са неким особеностима 😉)
| Тип улоге | Ко најбоље одговара | Типична плата | Зашто функционише (или не) |
|---|---|---|---|
| Означивач података | Људи који воле фине детаље | Ниско–средње $$ | Апсолутно кључно; ако су ознаке неуредне, цео модел пати [3] 📊 |
| Специјалиста за РЛХФ | Писци, уредници, аналитичари | Средње–Високо $$ | Рангира и преписује одговоре како би ускладио тон и јасноћу са људским очекивањима [1] |
| Тренер домена | Адвокати, лекари, стручњаци | Свуда по мапи 💼 | Бави се нишним жаргоном и граничним случајевима за системе специфичне за индустрију |
| Рецензент безбедности | Људи који воле етику | Средње $$ | Примењује смернице како би вештачка интелигенција избегла штетан садржај [2][5] |
| Креативни тренер | Уметници, приповедачи | Непредвидиво 💡 | Помаже вештачкој интелигенцији да одражава машту, а да притом остане у оквирима безбедних граница [5] |
(Да, форматирање је мало неуредно - као и сам посао.)
Дан у животу тренера вештачке интелигенције
Па како изгледа сам посао? Замислите мање гламурозно кодирање, а више:
-
Рангирање одговора написаних помоћу вештачке интелигенције од најгорег до најбољег (класични RLHF корак) [1].
-
Исправљање забуна (као када модел заборави да Венера није Марс).
-
Преписивање одговора четбота како би звучали природније.
-
Означавање планина текста, слика или аудио записа - где је тачност заиста важна [3].
-
Расправа о томе да ли је „технички исправно“ довољно добро или би безбедносне смернице требало да буду превазиђене [2].
Делом је мучење, делом слагалица. Искрено, замислите да учите папагаја не само да прича, већ и да престане да користи речи мало погрешно - то је та атмосфера. 🦜
Зашто су тренери много важнији него што мислите
Без људског управљања, вештачка интелигенција би:
-
Звучи укочено и роботски.
-
Ширити пристрасност неконтролисано (застрашујућа помисао).
-
Потпуно недостаје хумор или емпатија.
-
Будите мање безбедни у осетљивим контекстима.
Тренери су ти који уносе „неуредне људске ствари“ - сленг, топлину, повремену неспретну метафору - док истовремено постављају заштитне ограде како би ствари биле безбедне [2][5].
Вештине које се заиста рачунају
Заборавите мит да вам је потребан докторат. Оно што највише помаже је:
-
Писање + уређивање - Углађен, али природно звучећи текст [1].
-
Аналитичко размишљање - Уочавање понављајућих грешака у моделу и њихово подешавање.
-
Културна свест - Знање када фразирање може бити погрешно [2].
-
Стрпљење - Зато што вештачка интелигенција не схвата одмах.
Бонус поени за вишејезичне вештине или стручност у одређеној ниши.
Где се тренери појављују 🌍
Овај посао није само о четботовима - он се увлачи у сваки сектор:
-
Здравство - Правила писања анотација за граничне случајеве (понављају се у смерницама за здравствену вештачку интелигенцију) [2].
-
Финансије - Обука система за откривање превара без утапања људи у лажним узбунама [2].
-
Малопродаја - Подучавање асистената како да савладају сленг куповног жаргона, а да се притом држе тона бренда [5].
-
Образовање - Обликовање ботова за подучавање да буду охрабрујући уместо покровитељски [5].
У основи: ако вештачка интелигенција седи за столом, у позадини се крије тренер.
Етички део (ово се не може прескочити)
Овде постаје битно. Ако се не контролише, вештачка интелигенција понавља стереотипе, дезинформације или још горе. Тренери то заустављају коришћењем метода попут RLHF-а или уставних правила која усмеравају моделе ка корисним, безопасним одговорима [1][5].
Пример: ако бот промовише пристрасне препоруке за посао, тренер то обележава, преписује правилник и осигурава да се то више не понови. То је надзор у акцији [2].
Не баш забавна страна
Није све тако сјајно. Тренери се баве:
-
Монотонија - Бесконачно етикетирање досади.
-
Емоционални замор - Прегледавање штетног или узнемирујућег садржаја може узети свој данак; системи подршке су кључни [4].
-
Недостатак препознавања - Корисници ретко схватају да тренери постоје.
-
Сталне промене - Алати се непрестано развијају, што значи да тренери морају да прате.
Ипак, многе узбуђење обликовања „мозгова“ технологије држи прикованима.
Скривени MVP-ови вештачке интелигенције
Дакле, ко су тренери за вештачку интелигенцију? Они су мост између сирових алгоритама и система који заправо раде за људе. Без њих, вештачка интелигенција би била као библиотека без библиотекара - тоне информација, али готово немогуће за коришћење.
Следећи пут када вас четбот насмеје или вам се чини да сте изненађујуће „усклађени“, захвалите тренеру. Они су тихе фигуре које терају машине не само да рачунају, већ и да се повезују [1][2][5].
Референце
[1] Оујанг, Л. и др. (2022). Обука језичких модела за праћење инструкција уз људске повратне информације (InstructGPT). NeurIPS. Линк
[2] NIST (2023). Оквир за управљање ризицима вештачке интелигенције (AI RMF 1.0). Линк
[3] Норткат, К. и др. (2021). Свеприсутне грешке у означавању у тестним скуповима дестабилизују бенчмаркове машинског учења. NeurIPS скупови података и бенчмаркови. Линк
[4] СЗО/МОР (2022). Смернице о менталном здрављу на раду. Линк
[5] Баи, Ј. и др. (2022). Уставна вештачка интелигенција: Нешкодљивост од повратних информација вештачке интелигенције. arXiv. Линк