Когато чатботът стане колега

Чатботът може да бъде полезен инструмент, без да се превръща в мениджър в приятелски интерфейс. Линията се преминава, когато разговорната система започне да...

Когато чатботът стане колега

Един колега е повече от глас в стаята

Има един особен вид изречение, което кара една промяна да звучи по-малка, отколкото е: „Даваме на всички чатбот.“ То идва с познатия реквизит на внедряването на софтуер. Ще има лиценз, кратка демонстрация, може би страница с предложения за подкани и нечие леко прекалено весело напомняне да се използва отговорно. Инструментът изглежда сякаш стои до работата. Може да чертае, да търси, да обобщава, да превежда, да обяснява политика или да превърне груба бележка в нещо, което изглежда написано след пълноценен нощен сън. Това са обикновени и понякога полезни възможности. Но изречението престава да бъде безобидно, когато чатботът започне да оформя кой получава работа, какво се счита за добър отговор, кой разказ за дадено събитие се приема или как се оценява човек, когато не е съгласен с него.

В този момент въпросът вече не е дали интерфейсът е разговорен. Въпросът е дали системата е станала колега на работното място в по-съществения смисъл: участник в разделението на труда, източник на авторитет, свидетел, чийто разказ тежи, тихо влияние върху условията, при които на някого се вярва. Един колега може да препоръчва, да оспорва, да обяснява и понякога да улеснява деня. Но колегата също принадлежи към структура на отговорност. От него може да се поиска обяснение. Той може да бъде поправен. Ролята му може да бъде описана. Система, която говори с лекотата на колега, но се управлява с мъглявостта на комунална услуга, е много по-трудно предложение.

Европа има полезен инстинкт тук. Той не изисква от нас да се преструваме, че всеки автоматизиран инструмент е мениджър, нито че всеки служител трябва да стане специалист по архитектурата на моделите, преди да отвори прозорец за чат. Той задава по-практични въпроси за условията на труда. Кой е засегнат? Какви данни се използват? Каква е целта? Какво се случва, когато предложението е грешно? Кой може да се намеси? Какви права на информация и консултация се прилагат? Кои решения остават човешки и дали тази човешка роля е реална или просто декоративна?

Заглавието е умишлено неудобно. Чатботът не е колега в човешкия смисъл. Той няма трудов договор, професионална преценка, правна отговорност или опит да закъснее за влак в дъжда. Той не се нуждае от почивки, фиш за заплата или начин да обжалва оценка на представянето. Опасността започва, когато неспособността му да носи тези неща се третира като предимство. Ако една система може да влияе на работата, но не носи никакви социални, правни или практически задължения, които идват с авторитета на работното място, организацията трябва сама да постави границите. В противен случай най-евтиният колега в сградата става най-малко отговорният.

Малката покана, която променя стаята

Помислете за един съвсем хипотетичен пример. Средно голяма организация въвежда чат асистент за вътрешни въпроси относно политиките. Казано му е да помага на хората да намират процедури, да изготвят рутинни съобщения и да определят следващата стъпка по даден случай. Никой не казва, че то ще взема решения. Организацията е достатъчно внимателна, за да заяви, че служителите остават отговорни за работата си. Това е разумно начало, но не решава въпроса.

В първите седмици хората откриват, че асистентът е по-бърз от търсенето в претъпканата интранет мрежа. Ръководител започва да иска от екипите да го използват, преди да отправят въпрос нагоре по йерархията. Чернова, създадена от асистента, става стандартният тон за кореспонденцията. Записите, които асистентът извлича, стават записите, които хората цитират. По-късно същият инструмент се свързва с опашка, за да може да предлага приоритет. Мениджър вижда табло, показващо колко често служителите приемат предложенията и колко време им отнема да отговорят. Всяко допълнение има правдоподобно обяснение. Заедно те променят практическото определение на организацията за добър служител.

Нито един момент не трябва да е драматичен. Не е нужна измислена катастрофа, нито служител с удобно запомнящо се име, нито злополучен вторник в 09:17. Смисълът на хипотезата е точно в това, че промяната може да дойде без театралност. Едно работно място може да предаде властта на дадена система чрез поредица от скромни удобства. Асистентът не е нужно да издава заповед. Той може да създаде стандарта, спрямо който се измерва човешкият отговор. Той може да стане първият източник, който се справя, пътят, през който се рамкира несигурността, тихата отправна точка, от която отклонението трябва да бъде обяснено.

Въпросът, който трябва да се зададе, не е дали чатботът е заменил мениджър. Той е по-точен: какво сега се случва по различен начин, защото чатботът е там? Променя ли времето, разрешено за дадена задача? Стандартизира ли език, който някога е зависел от професионалната преценка? Решава ли каква информация се вижда първа? Появява ли се препоръка в работен процес, където отхвърлянето ѝ изисква допълнително обяснение? Използва ли мениджърът процентите на приемане като доказателство за старание? Създава ли инструментът запис, който надживява разговора, и може ли засегнатият човек да го види или коригира?

Тези въпроси не са враждебни към полезните инструменти. Те са начинът, по който една организация разграничава помощно средство за писане от скрита система за управление. Разликата не е в характера на интерфейса. Едно студено табло за управление може да ръководи работата така пълноценно, както и приятелски прозорец за чат. Обратно, един разговорен инструмент може да остане инструмент, ако ролята му е ясна, входните му данни и ограниченията са разбрани и човекът запазва както времето, така и властта да упражнява преценка.

Разговорът може да скрие верига от решения

Чатът прави сложните системи да изглеждат близо до нас. Човек въвежда въпрос на обикновен език и получава отговор на обикновен език. Това е част от привлекателността. Той също така скрива верига от решения, които имат значение на работното място: кои източници са налични, чиито политики се третират като актуални, как се тълкува въпросът, каква информация се премълчава, дали отговорът се записва, кой може да прегледа записа, как се променя моделът и дали даден отговор е просто полезен или оперативно значим.

Хората са свикнали да третират резултата от търсенето като покана за проверка. Изречението на чатбота идва с повече социална увереност. То вече е извършило форма на синтез. Може да цитира източници, може и да не го прави. Може да опише заключение в плавен регистър, който прави несъгласието да изглежда неудобно. Ако този отговор се отнася до заявка за отпуск, процедура за безопасност, политика за заетост, оплакване от клиент или правилното следващо действие в публична услуга, плавността не е второстепенна естетическа характеристика. Тя оформя разпределението на вниманието и съмнението.

Ето защо произходът е работно условие, а не декоративна техническа характеристика. Човек трябва да знае дали отговорът идва от одобрена политика, актуална местна процедура, общ отговор на модела или смесица от източници. Той трябва да види къде дадено твърдение е опростено. Той се нуждае от път, по който да каже, че отговорът не отговаря на случая пред него. Без този път увереността на системата се превръща в неформално указание, а работникът поема риска или да го следва, или да му се противопостави без доказателства.

Подобен проблем има и с думата „асистиране“. Помощта може да е истинска. Инструмент, който събира материал, който човек иначе би трябвало да намира ръчно, може да спести време за преценка. Но помощта може също така да премести тежестта. Ако асистентът създава правдоподобен първи проект, от работника може да се очаква да обработва повече случаи. Ако дава препоръка, работникът може да трябва да документира всеки отказ. Ако намалява времето, което ръководителят прекарва в обясняване на процес, организацията може тихо да премахне времето, в което човешкото обяснение би могло да разкрие, че самият процес е грешен.

Следователно границата не е между автоматизация и липса на автоматизация. Тя е между инструмент, който разширява способността на човека да върши внимателна работа, и инструмент, който стеснява допустимия начин за вършенето ѝ. Двете могат да изглеждат еднакво по време на демонстрация на продукта. Разминават се в опашката, в разговора за представянето, в пътя за обжалване и в момента, в който някой трябва да каже: този отговор не е достатъчно добър за този случай.

Една система може да прави пътя през работата по-ясен. Тя не трябва да замъглява момента, в който отговорното лице трябва да прецени и реши. Изберете етап, за да разгледате ролята му.

Когато препоръката се превръща в указание

Авторитетът на работното място рядко пристига като една-единствена заповед. Той преминава през разпределението на задачи, целите, настройките по подразбиране, предложените отговори, обработката на изключения и малкото триене, прикрепено към несъгласието. Една система не се нуждае от властта да уволни някого, за да повлияе на професионалния му живот. Тя може да влияе върху това кои задачи вижда, кога ги получава, как е описана работата му, кой показател за представяне достига до ръководителя или дали дадена заявка се третира като обикновена или подозрителна.

Европейските изследвания за безопасността и здравето при работа използват термина управление на работниците чрез изкуствен интелект за системи, които събират и анализират информация за работните места, работниците и задачите, за да вземат автоматизирани или полуавтоматизирани решения по въпроси като планиране, разпределение на задачи или оценка на представянето. Това определение е полезно, защото гледа към функцията, а не към маркетинга. Система, обозначена като „асистент“, „copilot“ или „познавателен спътник“, може да е извън това описание в една среда и близо до него в друга. Етикетът не е доказателство. Ефектът върху работата е.

Работата на EU-OSHA също изяснява защо това не е само въпрос на защита на данните. Системите, които увеличават наблюдението, натиска върху представянето или интензивността на труда, могат да имат последици за безопасността, здравето и благосъстоянието. Намалената автономия не е абстрактно възражение срещу иновациите. Тя може да промени дали някой има достатъчно пространство, за да върши задачата безопасно, да поиска помощ, да упражнява професионална преценка или да се възстанови от период на високо натоварване. Организацията трябва да може да обясни как ще забележи тези ефекти, а не само как ще измерва модела.

Един чатбот може да стане част от този пейзаж по по-малко очевидни начини от оптимизатора на маршрути или двигателя за планиране. Представете си, че той създава „следващото най-добро действие“ в екрана за управление на случай. Представете си, че изготвя обобщение на представянето от данни за дейността. Представете си, че дава на ръководителите кратък отчет за разговори, които те самите не са чели. Представете си, че казва на работника защо смяната му е променена, докато основните критерии остават скрити. Разговорната повърхност не премахва управленската функция. Тя може да направи функцията по-лесна за приемане, защото решението пристига с глас, който звучи полезно.

Няма нищо детинско в това да се отнасяме сериозно към това. Възрастните знаят, че едно учтиво изречение може да носи указание. На работното място учтивостта може да направи указанието по-трудно за оспорване, защото превръща въпроса за авторитета във въпрос за тон. Правилният отговор не е да направим всеки интерфейс мрачен. Той е да гарантираме, че важните препоръки посочват своята основа, своите граници и човешката роля, която остава отговорна за резултата.

Човешкият надзор не е церемониално кликване

„Човек остава в процеса“ е едно от най-изтърканите уверения в технологиите. То може да описва истинска защитна мярка. Може също да описва човек, от когото се очаква да потвърди резултат за по-малко време, отколкото е нужно, за да го разбере, без достъп до информацията, която го е произвела, и с цел, която възнаграждава съгласието. Разликата има значение, защото името на човека може по-късно да бъде свързано с решението, дори когато правомощията му са били илюзорни.

Актът за изкуствения интелект придава практическа форма на по-добрата версия. За съответните системи с висок риск човешкият надзор не означава просто присъствие на човек. Той включва подходяща компетентност, обучение и правомощия. Хората, определени за надзор, трябва да могат да разбират съответните възможности и ограничения, да осъзнават пристрастието към автоматизацията, да тълкуват правилно резултатите и да могат да решат да не използват, да отменят или да прекъснат системата, когато е необходимо. Точните правни задължения зависят от системата и контекста. Организационният урок важи по-широко: смисленият надзор изисква знания, време, информация и разрешение.

Това разрешение често липсва. Работникът може технически да отхвърли препоръка, но на практика да бъде обезкуражен да го направи. Може би отхвърлянето изисква по-дълъг формуляр. Може би понижава показател за приемане. Може би ръководителят третира отклонението като знак, че работникът не е приел новия процес. Може би никой не е обяснил какво ще се случи след отмяна, така че по-безопасният път изглежда да е приемането. Нищо от това не изисква лоши намерения. То може да произтече от работен процес, изграден от хора, които са гледали на приемането като на ефективност и не са се запитали от какво се нуждае отказът, за да бъде реален.

Надеждният дизайн прави пътя на отказа толкова ясен, колкото и пътя на приемането. Той посочва кога системата не трябва да се използва. Дава на човека възможност да запише причина на обикновен език. Изпраща несъгласието там, където то може да доведе до корекция, а не в електронна таблица, където се превръща в дребно неудобство. Той защитава проверяващия от третиране като неефективен само защото внимателната работа отнема повече време. И записва решението по начин, който позволява по-късна проверка да различи резултата от модела от личното заключение на човека.

Насоките на Европейския комитет по защита на данните относно автоматизираното вземане на индивидуални решения са особено полезни като предупреждение срещу номиналното човешко участие. Човешката намеса трябва да бъде смислена, а не символичен жест. Въпреки че правният тест в член 22 от GDPR има свои собствени условия и не трябва да бъде разтяган върху всяко решение на работното място, основният въпрос е ценен: дали човек действително е претеглил наличната информация и е имал правомощието да се отклони от автоматизирания резултат? Ако отговорът е не, организацията не трябва да използва човешки подпис, за да направи автоматизираното устройство да изглежда по-отговорно, отколкото е.

Консултирайте се, преди полезният навик да стане политика

Много системи на работното място се обсъждат твърде късно. Доставчикът е избран, договорът е подписан, връзката с данните е обхваната, на ръководителите е показан обещаващ пилотен проект и останалият разговор е описан като внедряване. На този етап от работниците все още може да се иска обратна връзка, но обратната връзка е тесен канал, когато основният въпрос вече е решен. Правилното време за информация и консултация е по-рано, когато организацията все още решава какъв проблем всъщност възнамерява да реши.

Директива 2002/14/ЕО установява обща европейска рамка за информиране и консултиране на работниците и служителите. Нейният обхват и националното ѝ прилагане имат значение, а тя не е наръчник, специфичен за изкуствения интелект. Въпреки това езикът ѝ остава пряко приложим към промяна, която може съществено да измени организацията на труда. Информация трябва да се предоставя по време, по начин и със съдържание, които позволяват на представителите да я разгледат надлежно. Консултирането включва обмен на мнения и установяване на диалог с оглед постигане на споразумение по решения в рамките на правомощията на работодателя. Това е значително по-сериозно от това да се разкрие готова система и въпросите да се нарекат участие.

При чатбот ранното консултиране трябва да започне с работата, а не с модела. Коя част от задачата е трудна? Причината за трудността дали е лоша информация, неравномерно разпределение на персонала, неясна политика, повтаряща се администрация, недостъпни системи, недостатъчно обучение или реална нужда от разговорен асистент? Един инструмент може много ефективно да прикрие стар организационен провал. Ако хората не могат да намерят дадена политика, защото тя е противоречива, чатботът може да произведе по-гладко объркване. Ако даден екип е претоварен, защото допусканията за персонала са грешни, инструмент за изготвяне на текстове може да превърне претоварването в по-лъскав резултат.

Работниците и представителите могат също така да посочат къде един на пръв поглед безобиден асистент променя риска. Те може да знаят, че даден стандартен израз е опасен в определен вид дело, че местна процедура има изключения, че езиков модел ще сгреши със специализиран термин или че дневник с въпроси ще разкрие информация, която хората трябва да могат да повдигат поверително. Това не е знание, което се появява в електронна таблица за обществени поръчки. То е част от оперативната реалност, която определя дали една система помага или вреди.

Консултирането не е вето върху всяко внедряване. То е начин решението да стане по-честно. То принуждава организацията да назове какво ще се промени, кой може да бъде засегнат, какви доказателства има, какво не знае и какви гаранции е готова да приеме. То създава запис на несъгласието, към който може да се върне, когато системата се промени. Един дизайн, който не може да издържи на ясно обяснение пред хората, които вършат работата, не е непременно незаконосъобразен. Той обаче иска доверие при необичайно слаби условия.

Гласът на работниците е доказателство, а не атмосфера

Съществува навик гласът на работниците да се третира като въпрос на култура: желателен, топъл, трудно измерим. Това е твърде меко. При променящ се работен процес хората, които се сблъскват с изключенията, са източник на доказателства. Те виждат случаите, които не се вписват в набора от данни, клиентите, които не могат да използват стандартния път, оборудването, което се поврежда на студено, записа, който не съответства на човека срещу тях, мястото, където формулировката на политиката и човешката нужда се разминават. Едно работно място, което отнема способността им да говорят, изхвърля част от своята сензорна система.

Но слушането не е същото като събирането на коментари. Един формуляр за обратна връзка може да се превърне в още един инструмент за наблюдение, ако никой не знае кой го чете, как се съхранява или дали може да засегне човека, който е повдигнал притеснение. Полезният път има гаранции. Той позволява на хората да съобщят за проблем, без да се налага да го превеждат на технически език. Той разграничава отделния случай от модел. Той дава на представителите достатъчно обобщена информация, за да забележат повтарящ се проблем. Той изяснява кой отговаря за реакцията и кога организацията ще реши дали да промени системата.

Този път трябва да преживее актуализациите. Еднократната консултация за първата версия не управлява система, която по-късно получава нови източници, различен модел, нова аудитория, допълнителни подкани, табло за ефективността или интеграция с друг работен процес. Чатботът се променя, когато контекстът му се промени. Технически може да е същата услуга, докато изпълнява различна социална роля. Управлението трябва да следва тази роля, а не първоначалната поръчка.

Тук има поука от Нидерландия: полето за обратна връзка не е пolder модел. Диалогът изисква маса, протокол и възможността нещо на картата да се премести. Въпросът не е всяка корекция на подканите да се превръща в конституционно събрание. Въпросът е да се разпознаят праговете, които заслужават ново внимание. Използва ли системата вече данни за служителите? Класира ли, разпределя ли, оценява ли или препоръчва ли действие със сериозни последици? Разширил ли се е кръгът от засегнати хора? Станал ли е пътят за отказ по-труден? Старите защити станали ли са недостатъчни, защото инструментът вече е част от по-бърз и по-натоварен работен процес?

Когато отговорът е да, гласът трябва да има път към управлението. В противен случай организацията иска от хората да идентифицират рисковете, като си запазва правото да игнорира доказателствата, които ги разкриват. Това не е участие. Това е неплатено тестване с по-хубави канцеларски материали.

Обратната връзка се превръща в управление, когато достигне до посочен отговорник, получи документиран отговор и може да промени системата. Изберете точка от веригата, за да разгледате предназначението ѝ.

Надзорът не става по-мек заради чат балонче

Разговорните системи създават особено примамлива форма на данни от работното място. Въпросите могат да разкрият несигурност, натовареност, здравословни проблеми, грижи за близки, синдикална дейност, финансов стрес, защитени характеристики или просто факта, че някой се опитва да разбере трудна ситуация. Дневникът може да изглежда оперативно полезен, защото показва какво питат хората. Той може също да се превърне в карта на уязвимостите. Фактът, че данните се появяват в работен инструмент, не решава дали трябва да се събират, съхраняват, анализират или използват повторно за оценка.

Ограничението на целта е следователно човешки въпрос, преди да е фраза за съответствие. Ако асистентът е предоставен, за да помогне на някого да разбере процедура, ще бъдат ли въпросите му по-късно използвани, за да се оцени компетентността му? Ако мениджърът може да види какви подкани е въвел човек, ще избягват ли хората да търсят помощ? Ако организацията анализира повтарящите се въпроси, може ли да го прави по начин, който подобрява документацията, без да изгражда профил на хората, които са имали нужда от нея? Една система може да направи работното място да изглежда по-информирано, докато прави индивидуалното учене по-малко безопасно.

Директивата за платформената заетост предлага полезен, конкретен европейски пример. Нейните правила са насочени към платформената заетост, а не към всяко трудово правоотношение, и трябва да се четат в този обхват. Въпреки това те показват сериозна обществена преценка относно алгоритмичното управление: когато автоматизираното наблюдение или вземането на решения засяга работата, трябва да има прозрачност, човешко наблюдение и преглед, пътища за обяснение и оспорване, както и особено внимание към определени категории лични данни. Директивата не кара обикновените трудови проблеми да изчезнат. Тя прави по-трудно твърдението, че софтуерът е извън социалните задължения на работата само защото е пристигнал чрез приложение.

За обикновеното работно място практическият принцип е по-тесен и по-полезен от голямото обещание за поверителност. Събирайте по-малко. Назовете целта. Отделяйте подобряването на услугата от оценката на представянето, освен ако няма ясна и защитима причина да ги свържете. Не превръщайте въпросите на човек в необявена оценка на компетентността. Не третирайте липсата на въпрос като доказателство за увереност. Не позволявайте на ръководител да преглежда следите от разговори само защото платформата го прави технически лесно. Техническата наличност не е легитимна цел.

Има и въпрос за достойнството, който не може да се сведе до поле с данни. Работникът трябва да може да попита как да се справи с непознат проблем, без да създаде трайно подозрение, че е по-малко способен от някой, който вече знае отговора. Ученето винаги е включвало несигурност. Работно място, което твърде ревностно записва и класира несигурността, може да доведе до по-малко видими въпроси и по-лоши решения. Мълчанието е много подреден показател. Не е задължително да е добър знак.

Обучението трябва да включва правото на съмнение

Грамотността за ИИ често се описва като способността да се използва даден инструмент добре. Това е само половината от изискването. На работното място грамотността трябва да включва и способността да се разпознае кога на даден инструмент не трябва да се вярва с въпрос, когато даден отговор няма подкрепа, когато дадена препоръка има последици отвъд екрана и кога да се ескалира. Човек, който може да състави умела заявка, но не може да разпознае подвеждащ резултат, не е напълно подготвен. Той е научил интерфейса, а не отговорността около него.

Член 4 от Закона за ИИ изисква от доставчиците и внедряващите да предприемат мерки, за да осигурят достатъчно ниво на грамотност за ИИ сред персонала и другите хора, които работят със системи с ИИ от тяхно име, като вземат предвид техническите им знания, опит, образование, обучение и контекста, в който се използва системата. Това е разумно съобразено с контекста. Рецепционист, клиницист, социален работник, инженер, ръководител и служител по защита на данните може да се нуждаят от различни знания. Една обща презентация, последвана от тест за речник, едва ли ще изпълни практическата цел.

Доброто обучение започва с реалната работа. Какви са одобрените източници на асистента? Какъв вид отговор трябва да предизвика проверка? Какво никога не трябва да се въвежда? Кои резултати могат да се използват като чернова и кои изискват втори източник? Какво трябва да направи човек, когато асистентът е недостъпен, греши или е необичайно уверен? Как се коригира записът? Кой може да отговаря на въпроси за инструмента, без да третира всяко притеснение като ИТ билет? Това са ежедневни въпроси, което е окуражаващо. В ежедневните въпроси живеят безопасните навици.

Обучението трябва да достигне и до ръководителите. Ако мениджърът тълкува обема на заявките, степента на приемане или времето за отговор като показател за ангажираност, работниците ще възприемат инструмента по различен начин от описанието в презентацията за внедряването. Ръководителите трябва да разберат ограниченията на тези сигнали и рисковете от пристрастие към автоматизацията. Те трябва да знаят, че даден резултат не е факт за представянето само защото е генериран от данни на работното място. Те се нуждаят от ясна инструкция да не създават неформални практики за оценяване около система, въведена за помощ.

Най-силната форма на грамотност включва правото да се каже „Не знам дали този отговор е безопасен за използване.“ Това не е признание за провал. Това е професионална преценка при несигурност. Организациите често казват, че искат отговорна употреба, а след това изграждат култура, в която несигурността изглежда неефективна. Двете позиции не могат да съществуват дълго заедно. Ако внимателното съмнение се наказва, инструментът ще се използва уверено точно до момента, в който увереността стане скъпа.

Как изглежда една честна оценка

Една система не бива да се оценява само по това дали хората я използват. Приемането е двусмислен сигнал. Хората може да използват чатбот, защото наистина им спестява време, защото ръководителят го очаква, защото алтернативите са станали по-труднодостъпни, защото е вграден в задължителен екран или защото отказът да го използват изглежда като липса на ентусиазъм. Нито една от тези причини не доказва, че договореността е справедлива или полезна.

По-добрата оценка пита какво се е променило в работата. Хората отделяха ли по-малко време за търсене на проверени материали или просто повече време за проверка на плавно формулирани отговори? Инструментът намали ли дублиращата се администрация или увеличи очаквания обем на свършената работа? Улесни ли разбирането на трудна процедура или стандартизира отговор, който е трябвало да остане чувствителен към контекста? Повече проблеми ли излизат наяве, защото служителите имат лесен начин да задават въпроси, или по-малко проблеми са видими, защото хората са разбрали, че задаването на въпроси оставя следа? Това са различни резултати, дори ако таблото показва сходна употреба.

Оценката трябва да включва хората, които са най-засегнати, и трябва да запази разликата между измерено наблюдение и aspiration. „Очакваме асистентът да намали рутинните усилия“ е предложение. „Работниците съобщиха, че асистентът е намалил дублиращото се търсене по време на определен пилотен период“ е наблюдение, ако действително е записано. „Асистентът е подобрил качеството“ изисква определение за качество, контекст и доказателства. Думи като подобрение, приемане и ефективност могат да прикрият значително количество непроучена политика.

Също така трябва да има предварително договорен момент, в който организацията ще преразгледа системата. Чатбот, който се разширява отвъд първоначалното си предназначение, започне да получава различни данни или стане част от работен процес по оценяване, не бива да бъде защитен от факта, че някога е бил одобрен за нещо по-малко. Прегледът не е знак, че първоначалният екип е нямал увереност. Той е признание, че системите придобиват нови последици, когато хората изградят навици около тях.

Работата на МОТ върху генеративния ИИ и работните места е полезна тук, защото разделя потенциалното излагане от действителните резултати. Технологията може да допълва, измества или променя задачите в зависимост от това как организациите изберат да я въведат. Същата сдържаност е полезна и в рамките на едно работно място. Една възможност не носи сама по себе си своя социален резултат. Чатботът може да намали тежката работа, да интензифицира труда, да преразпредели експертизата, да отслаби професионалната преценка или да създаде по-добър път към доказателствата. Техническата възможност не решава кое ще се случи. Дизайнът, управленските решения и балансът на гласовете решават.

Границата трябва да бъде записана

Всяко сериозно внедряване се нуждае от кратко и ясно изложение на неговата граница. Не лозунг за отговорен ИИ и не юридически документ, толкова плътен, че само екипът по доставките може да открие същността. Работна граница описва целта, засегнатите хора, информацията, която системата може да използва, информацията, която не трябва да използва, решенията, които може да подпомага, решенията, които не може да взема, лицето, което отговаря за работния процес, пътя за оспорване, обстоятелствата, при които инструментът трябва да бъде спрян, и датата, на която договореността ще бъде преразгледана.

Това изявление ще бъде несъвършено. Работата се променя. Политиките се променят. Моделите се променят. Но самият акт на записването му променя качеството на разговора. То дава на работника нещо конкретно, с което да сравни своя опит. То дава на представителя път да попита дали инструментът се е разширил отвъд заявената си роля. То напомня на ръководителя, че полезният асистент не е общо разрешение за събиране на повече данни или за вземане на повече решения по-бързо. То дава на одитора, регулатора или бъдещия екип запис, който не зависи от институционалната памет.

Границата трябва да разделя и препоръката от решението. Чатботът може да предложи обобщение, следваща стъпка или чернова. Системата трябва да посочва кога предложението се основава на непълна информация. Човекът, който взема решението, трябва да е видим в записа. Ако дадено действие по-късно бъде оспорено, организацията трябва да може да установи кой модел или правило е участвал, съответната версия, материалите, върху които се е основавал резултатът, лицето, което го е прегледало, и причината за крайния избор. Това не е искане всеки ежедневен въпрос да се превръща в досие. Тук действа пропорционалността: колкото повече даден резултат засяга даден човек, толкова по-дълго трябва да се запази възможността за обяснение на пътя до него.

Има един полезен тест. Може ли организацията да обясни тази граница на нов колега през първата му седмица, без да използва думите „магия“, „безпроблемно“ или „системата знае“? Може ли да обясни същата граница на синдикален представител, без да смени темата? Може ли да я обясни на човек, получил неблагоприятен резултат? Ако отговорът е не, проблемът не е, че аудиторията не е достатъчно подготвена. Границата вероятно е твърде неясна.

Яснотата има едно тихо предимство. Тя затруднява твърдението, че дадена система само подпомага, когато тя очевидно насочва. Затруднява твърдението пред работника, че той остава отговорен, докато в същото време няма право да не се съгласи. Затруднява използването на разговорен тон като заместител на отговорно решение. В управлението този вид неудобство често е предимство.

Една дребна бележка от наша страна и един по-голям човешки въпрос

В Dweve дизайнерският инстинкт тук е скромен: важните отговори трябва да запазват път обратно към доказателствата, ограниченията и човека, отговорен за действията по тях. Това е позиция за това как една система трябва да подпомага преценката, а не твърдение, че софтуерът може да разреши властовите отношения на работното място или да замени институциите, които защитават хората на труда. Един добре структуриран отговор може да направи разговора по-полезен. Той не може да реши дали някой е имал достатъчно време, правомощия или безопасност, за да го оспори.

По-големият въпрос принадлежи на работодателите, работниците, представителите, екипите по безопасност, специалистите по защита на данните, регулаторите и обществеността. Те решават дали чатботът ще се превърне в инструмент за по-добра работа или в приятен интерфейс за един по-стар навик: извличане на повече преценка от хората, като същевременно им се дава по-малко дума за условията, при които се упражнява тази преценка. Никоя настройка на модела няма да реши това сама.

Не бъркайте приятелския тон с честността

Чатботът може да бъде полезен на работното място. Може да помогне на нов колега да открие процедура, да даде на специалист първа чернова, да направи дадена политика по-разбираема или да спести на екипа ненужно търсене. Това са полезни неща. Грешката е да се мисли, че приятелският интерфейс прави и организационните последици приятелски. Колкото повече системата влияе върху разпределението, оценката, достъпа, дисциплината или описанието на случилото се, толкова по-внимателно трябва да бъдат ограничени правомощията ѝ.

Това изисква няколко непривлекателни ангажимента: консултация, преди договореността да се е втвърдила; обучение, което включва съмнението; практики за данни, които зачитат ученето и поверителността; човешки надзор с реални правомощия; път за индивидуално и колективно оспорване; записи, които разграничават предложението от решението; и периодичен преглед, когато ролята на системата се промени. Нито един от тях не е отхвърляне на технологията. Те са условията, при които технологията може да навлезе на работното място, без да изисква от хората първо да се откажат от преценката си.

Чатботът не трябва да става колега. Той може да си остане инструмент, което често е по-добра и по-честна амбиция. Инструментите могат да бъдат отлични. Те не се нуждаят от митология. Те се нуждаят от цел, граница, собственик и някой, който има право да ги остави, когато вече не помагат.

Източници