Когато автоматизацията промени работата, кой получава новата длъжност?

Автоматизацията рядко премахва цяла професия с едно чисто движение. Тя пренарежда задачите, свободата на преценка, обучението, наблюдението и отговорността....

Когато автоматизацията промени работата, кой получава новата длъжност?

Работата не е просто списъкът със задачи

Един от най-подвеждащите въпроси в дебата за автоматизацията е дали машината ще отнеме работата на някого. Една работа рядко е едно-единствено нещо, което може да бъде извадено от човека и поставено в сървър. Тя е съвкупност от задачи, преценки, рутини, взаимоотношения, права на достъп и частици местно знание. Някои от тези части могат да бъдат подпомагани. Някои могат да бъдат стандартизирани. Някои могат да бъдат премахнати. Други стават по-важни именно защото рутинната работа е преместена другаде.

Промяната следователно пристига преди длъжността. Една система за планиране може да промени кой бива поканен да работи, дори ако графикът все още съдържа същите имена. Един асистент за документи може да промени какво се счита за разумно натоварване, дори ако договорът все още казва „социален работник“. Едно табло за ефективност може да превърне неформалната преценка в цел, дори ако никой не нарича таблото мениджър. Работата се е променила. Организацията просто може да е забравила да промени своя речник.

Ето защо сериозният въпрос не е дали автоматизацията унищожава работни места в абстрактен смисъл. Въпросът е кой решава кои задачи се преместват, кои нови задачи се появяват, кои рискове се приемат, кои хора се обучават и кой има правото да оспори даден резултат. Отговорът определя дали една техническа промяна се превръща в честен преход, в интензификация на труда или в тихо прехвърляне на власт от хората, които вършат работата, към системата, която я измерва.

Представете си един съставен работен ден, сглобен от познати елементи, а не от доклад за конкретен работодател. Екип получава инструмент, който изготвя резюмета, предлага приоритети и измерва времето, прекарано по всеки случай. Инструментът е описан като помощ. На екипа е казано, че нито една роля не се премахва. В рамките на седмици лесните случаи се обработват по-бързо, трудните случаи остават, целта се преизчислява въз основа на по-бързото средно време, а хората, които поставят под въпрос дадено предложение, прекарват повече време в документиране на причините за това. Нищо в тази последователност не изисква машина да отнеме работа. Въпреки това работата е препроектирана около машината.

Това разграничение има значение, защото променя това, на което трябва да отговори едно отговорно въвеждане. Ако работата се пренарежда, работниците трябва да имат думата по отношение на картата, а не мотивационен плакат, след като картата е окончателна. Ако преценката се премества в система за оценяване, засегнатите хора се нуждаят от начин да проверят и оспорят оценката. Ако обучението е необходимо, за да направи новата договореност работеща, то обучението е част от самата промяна, а не привилегия, която се предлага, когато бюджетът е щедър.

Започнете с това, което хората реално правят

Добрата работа по прехода започва с наблюдение. Преди екипът да избере модел, той трябва да опише работата така, както се изпълнява, включително неудобните части, които никога не се появяват в диаграмата на процеса. Кои решения са рутинни? Кои зависят от контекста? Кои изискват разговор, професионална връзка или физическа проверка? Къде хората забелязват, че даден запис е непълен? Къде компенсират за система, която не прави разлика между необичаен случай и лош такъв?

Това не е аргумент за романтизиране на човешкия труд. Някои рутини са досадни, повтарящи се и напълно неподходящи за човек, който има други неща за вършене. Премахването на ненужното копиране, търсене или преформатиране може да бъде истинско подобрение. Смисълът е да се назове задачата, която трябва да се промени, а не да се третира професията като единен блок. Система, която премахва дублираното въвеждане, може да върне време. Система, която премахва времето, необходимо за проверка на несигурен отговор, може да създаде по-бърз начин да сгрешиш.

Една полезна карта на задачите има поне четири слоя. Първият е видимото действие: класифициране, изготвяне на проект, планиране, проверка, отговаряне или одобряване. Вторият е преценката, скрита в него: какво се счита за завършено, спешно, безопасно, справедливо или уместно. Третият е отговорността, свързана с преценката: кой трябва да обясни решението, да го коригира и да понесе последиците. Четвъртият е цикълът на учене: кой забелязва нов модел, актуализира практиката и казва на системата, че старият ѝ пряк път вече не работи.

Тези слоеве често са разпределени в рамките на екип. Рецепционист може да забележи детайл, който анализатор на политики формализира. Техник може да разпознае повреда, която инженер по-късно кодифицира като правило. Социален работник може да знае, че дадена фраза във формуляр е признак на дистрес, а не липсващо поле. Системата може да подкрепя всеки човек по различен начин, но не бива да заличава пътя, по който знанието влиза в организацията. Ако хората, които виждат изключението, са изключени от дизайна, системата ще бъде много последователна в пропускането му.

Работата на Международната организация на труда върху генеративния ИИ е полезна тук, защото разделя излагането на задачи от съдбата на цели професии. Нейният анализ установява, че много работни места са само частично изложени и е по-вероятно да бъдат допълнени, отколкото напълно заменени. Това не означава, че преходът е безвреден. МОТ посочва промени в качеството на работата, интензивността на труда и автономията и заявява, че резултатът зависи от това как технологията бъде въведена. Една задача може да остане формално човешка, докато условията около нея стават по-малко хуманни.

Същият анализ предупреждава и срещу третирането на показателите за изложеност като прогнози за загуба на работни места. Резултатът за изложеност може да посочи къде технологията би могла да засегне работата. Той не може да ни каже дали работодателят ще използва възможността, за да намали тежката работа, да увеличи производителността, да премахне свободата на преценка или да създаде по-добра услуга. Това е въпрос на управление и на обществото. Едно число може да посочи вратата. То не може да ни каже на кого е позволено да мине през нея.

Автоматизацията променя мрежа от работа, а не едно-единствено квадратче в организационната схема. Картата поддържа преценката и отговорността видими.

Допълването може също да интензифицира работата

Думата „допълване“ звучи успокояващо, защото предполага, че човекът остава в картината. Само по себе си то не е гаранция за по-добра работа. Една система може да допълни работника, като му даде полезен инструмент, или като му даде по-голяма купчина случаи и по-малък прозорец, в който да се справи с всеки от тях. Тя може да подобри качеството на решението или може да накара решението да изглежда достатъчно обективно, така че никой да не се чувства оправомощен да го постави под въпрос.

Интензивността на работата не е само броят на изпълнените задачи. Тя включва очакваната скорост, понасяните прекъсвания, емоционалното усилие при справянето с изключения и количеството внимание, което остава за внимателно решение. Инструмент за изготвяне на документи може да спести време при рутинно писмо, но същевременно да увеличи броя на писмата, които се очаква човек да напише. Оптимизатор на маршрути може да съкрати пътуването, но да запълни всяко спестено минута с ново посещение. Таблото може да разкрие тясно място, а после тихо да превърне това тясно място в проблем с индивидуалното представяне.

Констатациите на МОТ поставят качеството на работното място до количеството работа по причина. Една длъжност може да оцелее, докато автономията се свива. Човек може да запази титлата си, но да загуби свободата на преценка, която е правела длъжността квалифицирана. Преходът може също да бъде неравномерен. Работници, които вече имат достъп до надеждни системи и обучение, могат да получат предимство, докато работници в същата професия остават да се справят с трудните случаи с по-малко време и по-малко ресурси. Общата картина може да изглежда като производителност, докато ежедневното преживяване се превръща в опашка, която никога съвсем не се изпразва.

Ето защо едно отговорно предложение трябва да опише предвиденото подобрение по начин, който работникът може да провери. Ще премахне ли системата дублираща се стъпка? Ще направи ли съответната информация по-лесна за намиране? Ще остави ли време за разговор, който не може да бъде автоматизиран? Ще намали ли излагането на опасна задача? Какво се случва със спестеното време? Ако отговорът е просто, че екипът ще обработва повече, организацията не обсъжда разширяване на възможностите. Тя обсъжда нова цел за резултат с учтив интерфейс.

Има и проблем с качеството. Когато системата се справя с обичайния случай, хората виждат по-голям дял от необичайни случаи. Оставащата работа става по-неясна, по-значима или по-зависима от опита. Това може да е добра причина да се инвестира в експертиза. Може също да се използва, за да се заключи, че работата вече е твърде нередовна, за да заслужава подходящ процес. Първият път третира преценката като способност. Вторият я третира като разходен център, който все още не е бил успешно свит.

Планът за преход трябва следователно да включва контрафактическа хипотеза, която рядко се записва: как ще изглежда работата, ако системата е достатъчно точна, за да бъде полезна, но не достатъчно точна, за да ѝ се вярва без проверка? Това е нормалното състояние за много системи за подпомагане на решения. Отговорът трябва да посочи къде се извършва проверката, колко време отнема, какви доказателства изисква и как човек може да откаже препоръката, без да бъде отбелязан като неефективен.

Скритият мениджър в софтуера

Автоматизацията се превръща в управление на работното място, когато софтуерът започне да разпределя, насочва, оценява или контролира работата. Не е необходимо да се нарича изкуствен интелект. Фиксирано правило, което възлага задача въз основа на наличност, може да оформи деня. Система за оценяване може да повлияе на достъпа до бъдеща работа. Модел, който предвижда вероятно закъснение, може да промени кой получава трудната смяна. Техническото разграничение между правило и обучен модел е от значение за прозрачността, но работникът преживява и двете чрез решението, което идва.

Проучването на Европейската комисия за алгоритмично управление описва тази област като набор от практики, които могат да автоматизират или подпомагат традиционните управленски функции. Тези функции включват набиране на персонал, разпределение на задачи, наблюдение, оценяване и решения относно напредък или прекратяване. Проучването също отбелязва, че политическият и правен отговор е разпределен в няколко инструмента, а не се съдържа в един единствен кодекс за работното място. Тази фрагментация е административен факт, а не разрешение да се преструваме, че софтуерът няма ефекти, подобни на мениджърските.

Алгоритмичното управление често се въвежда с малко оперативно обещание. По-бързо свързване на хората със задачите. Забелязване на капацитета, преди графикът да се счупи. По-ясна картина за ръководителя. Откриване на проблем със сигурността. Всяко обещание може да е разумно. Рискът се появява, когато мярката се превърне в заместител на самата работа. Времето за отговор застава на мястото на грижата. Оценката застава на мястото на надеждността. Активността на екрана застава на мястото на усилията. Заместителят е по-лесен за отчитане, затова организацията започва да го приема за по-реален от нещото, което е трябвало да описва.

Щом заместителят започне да определя достъпа до работа, тежестта на доказване се променя. Ръководителят обикновено може да обясни дадено решение в контекста му, дори обяснението да е слабо. Една система може да изведе резултат, който изглежда неутрален, защото входните данни са скрити. Тогава работникът трябва да оспори както самия резултат, така и идеята, че този резултат е правилният вид доказателство. Ето защо достъпът до информация, човешкият преглед и смислената възможност за оспорване са от значение. Отговорът, че системата е сложна, не е обяснение. Той е покана да спреш да задаваш въпроси.

Наблюдението заслужава особено внимание. Данните, събрани за координация, могат да бъдат използвани повторно за оценяване. Данните, събрани за безопасност, могат да бъдат пренасочени за дисциплинарни мерки. Данните, събрани, докато човек работи, могат да разкрият интимна информация за здравето, грижите за близки или за принадлежността. Фактът, че една система може да събира даден сигнал, не означава, че е честно да се използва. Работното място не е лаборатория, в която може да се предполага съгласие, защото служителят е кликнал през екрана, преди да започне смяната.

Европейската конфедерация на профсъюзите е заявила, че натрапчивите приложения на работното място се нуждаят от по-строги ограничения, че работниците и техните представители трябва да получават информация на разбираем език и че консултациите трябва да се провеждат преди внедряването и преди съществените промени. Нейната позиция също така свързва алгоритмичните системи с колективното договаряне, обучението на работниците и правото да се проверяват и преразглеждат решенията. Това не са технически допълнения. Те признават, че работното място е социална институция и че прехвърлянето на власт в софтуера променя баланса вътре в тази институция.

Консултацията е част от дизайна

Информирането и консултирането понякога се третират като церемониални етапи, които следват истинското решение. Европейската рамка не ни дава основание да ги третираме по този начин. Рамката на Комисията около Директива 2002/14/ЕО представя навременното информиране и консултиране като част от начина, по който организациите се справят със значителни промени и нови форми на организация на труда. Директивата установява обща рамка с национални избори относно обхвата и прилагането. Тя не е наръчник за изкуствен интелект. Тя е напомняне, че съществената промяна в работата има процедурен живот, преди да се превърне в техническо внедряване.

Времето е от значение. Срещата след като доставчикът е избран и работният процес е конфигуриран, не е същото като разговор, докато организацията все още решава какъв проблем иска да реши. Ранното включване позволява на работниците да попитат кои данни са необходими, кои задачи наистина се променят, как ще се обработват грешките и как изглежда резервният вариант. То също така разкрива знания, които трудно се купуват отвън. Хората, които вършат работата, знаят къде процесът е крехък, защото с години са го поддържали прав.

Консултацията не изисква всяко решение да е единодушно. Тя изисква засегнатите хора да бъдат третирани като участници в промяната, а не като сензори, които ще докладват за съпротива след стартирането. Сериозният процес трябва да записва какво е било предложено, какво са оспорили работниците, какво се е променило в резултат на това и кои разногласия остават. Ако дадено предложение все пак бъде прието, организацията трябва да може да обясни защо. Това е по-зряло, отколкото да се преструва, че липсата на съгласие означава, че никой няма мнение.

Има практическа причина този запис да бъде изричен. Системите се променят след пускането си. Моделът се актуализира, източникът на данни се сменя, добавя се нов отдел, коригира се показател за оценка или доставчик пренаписва механизъм на политика. Еднократната консултация не може да обхване променяща се система. Представителите на работниците се нуждаят от постоянен канал, за да забелязват последиците и да искат преразглеждане. В противен случай организацията се е консултирала за версия едно и е управлявала различна машина към версия три.

Предложението на ЕКП за директива относно алгоритмичните системи на работното място изисква оценка на въздействието преди внедряването и на редовни интервали след това, с участието на работниците и техните представители. Това е полезен принцип на проектиране, дори когато предложението не е закон. Оценката на въздействието не трябва да бъде документ, който доказва, че решението вече е взето. Тя трябва да бъде място, където организацията посочва кой може да бъде засегнат, какво може да се обърка, какви доказателства ще бъдат наблюдавани и кой има правомощието да промени курса.

Същият принцип важи и за малките организации. По-малкият работодател може да няма заводски съвет или специален отдел за данни, но все пак трябва да разбере какво променя една система за хората, които я използват. Документацията може да е по-лека. Въпросите не могат да изчезнат. В противен случай скромното внедряване може да се превърне в голям проблем на управлението, за който никой не е определен да следи.

Обучението е работна сила

Обучението често е първото обещание, което се дава, и първото нещо, което се орязва. Планът за пускане казва, че служителите ще получат сесия. Сесията се превръща в презентация. Презентацията се превръща в запис. Записът се превръща в линк в учебен портал, който се очаква всички да са гледали, преди новата система тихо да промени правилата на работата.

Това не е това, от което хората се нуждаят. Те се нуждаят от достатъчно разбиране, за да разпознаят какво прави системата, какво не прави, какви данни използва, как трябва да се проверява нейният резултат, кога трябва да се игнорира, как да съобщят за грешка и какво ще се случи, ако откажат препоръка. Те се нуждаят от време, за да практикуват с реалните случаи и граничните условия на своята работа. Те трябва да знаят кой може да отговори на въпрос, без той да се превърне в билет, който изчезва в опашката на доставчика.

Законът за ИИ изразява този практически момент на юридически език. Доставчиците и внедряващите трябва да предприемат мерки, за да осигурят адекватно ниво на ИИ грамотност за хората, които използват системи от тяхно име, като вземат предвид техните технически познания, опит, образование, обучение и контекста, в който системата ще се използва. За определени високорискови системи хората, определени за човешки надзор, се нуждаят от компетентност, обучение и правомощия. Законът също така запазва съществуващите права на информация и консултация за работниците и техните представители. Грамотността следователно е свързана с правомощията, а не само с познаването на екрана на продукта.

Позицията на ЕКП относно развитието на уменията на работниците отива по-далеч в посока, която има значение за справедливостта. Тя третира ИИ грамотността като способността да се разбира критично как ИИ засяга работата и професиите, а не само способността да се работи с инструмент за работодателя. Това разграничение е лесно да се пропусне. Ако обучението учи човек как да приеме предложение, но не и как да постави под въпрос системата, която го е създала, организацията е обучила съответствие, а не способност.

Полезният план за обучение има поне три аудитории. Първата е човекът, който използва системата в ежедневната си работа. Той се нуждае от оперативна грамотност: входни данни, резултати, несигурност, ескалация и безопасна употреба. Втората е човекът, който преглежда или наблюдава работата. Той се нуждае от грамотност за вземане на решения: доказателства, пристрастия, несъгласие, отмяна и последици. Третата е групата, която представлява работниците или проверява организацията. Тя се нуждае от грамотност за управление: цел, потоци от данни, въздействие, промени, достъп до експертиза и пътища за защита.

Обучението също има проблем с разпределението. Хората с най-малко време и най-слаба преговорна позиция често са именно тези, които получават кратък общ курс. Хората, които проектират системата, получават подробни брифинги и пряка връзка с доставчика. Резултатът е йерархия на знанието, която следва властта. Ако една нова система ще промени работата на много хора, организацията трябва да вложи повече усилия в хората, които ще живеят със системата, отколкото в тези, които ще изнесат презентацията за стартирането ѝ.

Обучението трябва да се третира като доказателство за готовност, а не като церемониален процент на завършване. Може ли служител да разпознае случай, който изисква човешка проверка? Може ли да обясни защо дадена препоръка е била отхвърлена? Може ли ръководител да постави на пауза работния процес? Може ли служител да поиска информацията, необходима за оценка на дадена промяна? Може ли организацията да покаже какво се е случило, когато някой е повдигнал притеснение? Ако отговорът е не, проблемът не е в това, че служителите не са достатъчно ентусиазирани. Системата не е въведена отговорно.

Уменията стават значими, когато вървят заедно с правото да се поставя под въпрос, да се отменя и да се променя системата.

Кой получава новата работа?

Когато дадена рутинна дейност премине в софтуер, работата не изчезва в облака. Тя се появява някъде другаде. Някой пише правилата, поддържа данните, проверява изключенията, обработва жалбите, поддържа интеграцията, следи за безопасността и обяснява резултата. Тези задачи може да са нови длъжности, нови отговорности в рамките на съществуващи длъжности или невидима работа, добавена към хората, които вече имат най-малко свободно време.

Въпросът за разпределението следователно е конкретен. Кой получава техническата работа? Кой получава интерпретативната работа? Кой е изложен на риск, когато системата се провали? Кой получава времето, спестено от автоматизацията? От кого се очаква да научи нов процес без промяна в заплащането, натоварването или статуса? Преход, който отговаря само на първия въпрос, може да създаде малка група от специалисти и много по-голяма група от хора, чиято работа се измерва по-отблизо.

Няма универсално правило, че всяко спестяване трябва да се превърне в свободно време или всяка нова задача трябва да стане нова длъжност. Организациите имат различни цели и колективни договори. Но разпределението трябва да бъде обмислено и обсъдимо. Ако автоматизацията премахне повтарящата се административна работа, ползата може да бъде повече време за грижа, изследвания, поддръжка или контакт с обществеността. Ако създава задължения за наблюдение, тези задължения се нуждаят от капацитет и признание. Ако увеличава стойността на контекстуалната експертиза, хората с тази експертиза не трябва да бъдат третирани като временни пречки пред по-чист набор от данни.

Политиката за уменията е важна, защото преходът може да задълбочи съществуващите неравенства. МОТ отбелязва, че според нейния анализ излагането на женската заетост на генеративния ИИ е по-високо, отчасти защото жените са свръхпредставени в административната работа. Това е твърдение за потенциално излагане, а не прогноза кой ще загуби работа. То обаче показва защо едно неутрално звучащо внедряване може да има неравностойни последици. Ако ролите, които са най-засегнати, са също и ролите с по-малко възможности за платено обучение или израстване, ползите няма да се разпределят от само себе си. Магията си остава ненадеждна стратегия за управление на човешките ресурси.

Възрастта, увреждането, грижите за близки, езикът и трудовият статус също могат да определят кой печели от новата система. Инструмент, който предполага непрекъсната наличност, може да ощети хората с грижи за близки. Показател за ефективност, който пренебрегва достъпните начини на работа, може да превърне разумното приспособяване в отклонение. Система, която използва тесен езиков модел, може да създаде допълнителна проверка за хората, които общуват на друг език. Това не са крайни случаи, които да бъдат заметени в по-късен доклад за равенството. Те са част от това какво означава системата да организира труда.

Платформената икономика дава на Европа ясно място за изучаване на тези динамики. Директивата за платформената работа, приета като Директива (ЕС) 2024/2831, урежда трудовия статус и алгоритмичното управление в платформената работа. Тя включва правила за прозрачност, защита на данните, човешки мониторинг и преглед на значими решения, както и права на обяснение и оспорване. Директивата е фокусирана върху платформената работа, но нейната логика е по-широка: когато софтуерът ръководи и оценява труда, работникът се нуждае от нещо повече от линк към общите условия и весело известие.

Директивата е и полезно напомняне, че техническият контрол може да има правно значение. Тя изисква от организациите да осигурят място за човешки мониторинг и преглед, да обясняват значимите решения и да се отнасят внимателно към определени категории данни за работниците. Това не създава един съвършен модел за всяко работно място. То дава основа, от която може да започне по-широкият разговор: ако софтуерът организира труда, хората се нуждаят от права, които оцеляват независимо от интерфейса на софтуера.

Оспоримостта е условие за работа

Работникът не може смислено да оспори решение, което не може да бъде локализирано. Организацията трябва да знае коя система го е произвела, коя версия е била в сила, кои данни са използвани, кое правило или резултат от модела е имал значение и кой е упълномощен да го прегледа. Работникът се нуждае от път, който не зависи от отгатването на вътрешното име на дадена функция на доставчика. Преглеждащият се нуждае от достатъчно време и информация, за да направи нещо повече от това да одобри резултата с човешки подпис.

Директивата за платформената работа придава на този принцип правна форма за хората, които обхваща. Тя изисква човешки надзор върху автоматизираните системи за мониторинг и вземане на решения, предвижда обяснения за решения, взети или подкрепени от такива системи, и създава пътища за оспорване на значими решения. Тя също така поставя ограничения около категориите лични данни, които платформите могат да обработват за алгоритмично управление. Тези детайли имат значение, защото право без оперативен път често е предложение, облечено като защитна мярка.

За други работни места архитектурата на оспоримостта все още предлага полезен тест. Попитайте дали човек може да спре действието, преди вредата да се разпространи. Попитайте дали може да види причината по начин, който се отнася до работата. Попитайте дали преглеждащият има правомощието да пренебрегне резултата. Попитайте дали многократните оспорвания могат да доведат до промяна в системата, вместо до колекция от индивидуални изключения, които никой не анализира. Попитайте дали работникът може да направи оспорване, без да рискува скрито наказание при следващото разпределение.

Оспорването е и колективен процес. Един оспорен резултат може да изглежда като лично несъгласие. Модел от оспорени резултати обаче може да разкрие лош входен сигнал, несправедлив прокси показател или натоварване, което системата никога не е била проектирана да представя. Представителите на работниците и инспекторите се нуждаят от достъп до модела, а не само до отделни екрани. Организацията трябва да може да обобщава възраженията, без да превръща хората, които ги повдигат, в нова рискова категория.

Съществува изкушението да се третира човешката проверка като окончателно одобрение. Това е опасно и несправедливо. Проверяващ, който се оценява по скорост, няма достъп до основната информация и му е казано, че системата е по-точна от него, не упражнява надзор. Той придава човешко лице на автоматизирано решение. Позоваванията в Закона за ИИ на компетентност, обучение, правомощия и способността да се пренебрегне или прекъсне високорискова система са полезни, защото правят разликата изрична. Човек в работния процес не е автоматично човек, който контролира.

Правният минимум и организационният таван

Европейското законодателство поставя минимуми. То не описва всеки добър работен процес за дадена организация. Законът за ИИ съдържа изисквания относно ИИ грамотността, информацията за работниците и техните представители при съответните високорискови внедрявания, човешкия надзор и оценките на въздействието върху основните права за определени случаи на употреба. Рамката за информация и консултации добавя по-широк контекст на трудовото право. Правилата за защита на данните ограничават какво може да се събира и как могат да се вземат решения. Директивата за работата през платформи добавя конкретни защити, когато цифровите платформи организират труда.

Правният минимум е ценен, защото спира най-лошия аргумент в стаята: че нищо не трябва да се прави, докато регулаторът не посочи точно тази функция. Той не е таван. Една система може да отговаря на тясно изискване и пак да прави работата по-изтощителна, по-малко разбираема или по-трудна за оспорване. Организациите, които искат траен преход, трябва да напишат по-висок вътрешен стандарт, особено когато законът е умишлено общ или когато внедряването попада извън конкретно секторно правило.

Този стандарт може да бъде изразен като верига от въпроси. Каква е целта на системата и какво е извън нейната цел? Кои задачи се променят и кои преценки трябва да останат видими? Кои данни са необходими и кои данни са просто налични? Кой е засегнат пряко и косвено? Какви доказателства показват, че системата е полезна в този контекст? Кой може да я отмени, с какво обучение и защита? Как работникът ще оспори резултат? Какво се случва, когато моделът, доставчикът или политиката се променят? Кой притежава решението за спиране или извеждане от употреба на системата?

На тези въпроси трябва да се отговори, преди доставката да приключи, а не да бъдат скрити в приложение след първия инцидент. Доставчикът може да предостави документация и поддръжка. Той не може да знае пълното значение на работния процес в организация, която не управлява. Внедряващият познава контекста, засегнатите хора и последиците от лошо съкращение. Ето защо Законът за ИИ третира внедряващите като важни участници за високорисковите системи. Отговорността не изчезва на границата на договора.

Също така е полезно да се уточни какво не е успех. Успешното внедряване не е висок процент на приемане, ако работниците приемат системата, защото отказът би навредил на перспективите им. То не е по-ниско средно време за обработка, ако трудните случаи се отлагат. То не е табло със зелени индикатори, ако хората, които са най-близо до работата, са спрели да съобщават за грешки. То не е брой завършили обучение, ако никой не може да обясни как да се спре работният процес. Показателите са инструменти за преценка, а не неин заместител.

Преход, който оставя следа

Отговорната промяна има нужда от памет. Организацията трябва да записва предвидената цел, картата на задачите, източниците на данни, консултациите, обучението, тестовете, ограниченията и решенията, взети при несигурни доказателства. Трябва да записва коя версия е използвана и кога са се променили условията на работа. Един служител не бива да трябва да възстановява историята на дадено решение от съобщения, екранни снимки и паметта на колега. Това е лош начин да се отнасяме както към работата, така и към доказателствата.

Записът трябва да включва и несъгласието. Един лъскав файл за внедряване, който съдържа само одобрения, не е отчет за консултации. Той е сертификат за оптимизъм. Въпросите от служители, представители, специалисти по безопасност и експерти по равенство са част от доказателствата за дизайна. Те показват къде системата може да се провали и какви предположения не са били споделени. Запазването им видими също улеснява преразглеждането на дадено решение, без да се преструваме, че притеснението се е появило за първи път след внедряването.

Наблюдението трябва да следва работата, а не само модела. Следете за промени в състава на задачите, времето за преглед, моделите на грешки, достъпа до обучение, жалбите, отсъствията, извънредния труд и това кой получава трудните случаи. Това не са само AI показатели. Те са сигнали за условията на труд. Един модел може да запази същата точност, докато околната работа става по-малко устойчива. Ако организацията наблюдава само модела, тя може да пропусне работата, която е била пренаредена около него.

Трябва да има история за изтичане на срока. Система, въведена за една цел, не бива да става постоянна по инерция. Задайте дата за преглед, праг за промяна и ясен отговорник. Ако данните се променят, задачата се променя, правното основание се променя или засегнатите хора се променят, организацията трябва да знае дали са необходими нова оценка и консултация. Поддръжката не е признание, че първото решение е било слабо. Тя е признание, че и работата, и софтуерът се движат.

Това може да звучи тежко за малка намеса. Отговорът е пропорционалност, а не изчезване. Асистент за изготвяне на текстове без достъп до лични записи може да изисква по-лек процес от система, която определя достъпа до смени, обезщетения, грижи или заетост. Но дори и малък инструмент заслужава изявление за това какво може и какво не може да прави. Яснотата се мащабира надолу по-добре от бюрокрацията, защото казва на хората къде да спрат.

Как изглежда справедливият дял

Изразът справедлив преход често се използва, сякаш справедливостта ще дойде, след като технологията бъде инсталирана правилно. Няма да дойде. Справедливостта е набор от избори относно времето, гласа, способностите, риска и възнаграждението. Тя пита дали работниците могат да оформят промяната, дали могат да я разберат, дали могат да я оспорят и дали печалбите се споделят, вместо тихо да се превръщат в по-високи очаквания.

Споделянето на печалбата не винаги означава директно плащане. То може да означава по-къса опашка, повече време с хора, по-малко опасна работа, по-добро оборудване, възможност да се научи ценно умение, път към нова роля или професионална преценка, която се приема по-сериозно, защото рутинната работа вече не я измества. Изборът трябва да се направи с хората, чиято работа се променя. В противен случай организацията може да оптимизира резултат, който изглежда ефективен от заседателната зала и се усеща като постоянно ускорение на работния под.

Има и гражданско измерение. Работните места обучават хората за институциите около тях. Ако всяка цифрова система учи, че резултатът е по-достоверен от човек, този навик преминава в обществените услуги и ежедневието. Ако работните места учат, че доказателствата могат да бъдат оспорвани, решенията могат да бъдат обяснявани и авторитетът може да бъде прекъсван, тези навици също преминават. Дизайнът на автоматизиран работен процес следователно не е само вътрешен въпрос. Той е практика в това как едно общество се отнася към преценката.

Настояването на Европа за информация, консултации, социален диалог, защита на данните и човешки надзор понякога е представяно като спирачка за иновациите. По-правилното разчитане е, че това са начини да се реши кой поема последиците от едно ново умение. Скоростта не е неутрална, когато хората, които не могат да забавят системата, са именно тези, изложени на нейните грешки. Преходът, който може да бъде обсъждан, проверяван и коригиран, може да отнеме повече време, за да стартира. Но е и по-вероятно да остане полезен, след като новостта изчезне.

В Dweve това е малката част от въпроса, към която постоянно се връщаме в Ground truth и в работата си по AI грамотност. Една система печели доверие, когато хората около нея могат да назоват нейните източници, граници, несигурност и авторитет. Това не е твърдение, че библиотека или продукт може да уреди трудовите отношения. Това е позиция на дизайна: доказателствата трябва да останат близо до решението, а хората, отговорни за решението, трябва да имат достатъчно структура, за да го оспорят. По-голямата работа принадлежи на работодателите, работниците, представителите, регулаторите и обществеността.

Новата работа е колективно решение

Автоматизацията променя работата, преди да промени организационната схема. Тя премества вниманието, свободата на преценка и риска. Тя създава работа по поддръжка, работа по преглед, работа по обучение и работата по обясняване на системата на хора, които не са я избрали. Може да направи работата по-добра или може да я превърне в по-бърз път през по-тесен коридор. Разликата не е скрита само в модела. Тя се създава в решенията около модела.

Хората, които получават новата работа, не трябва да бъдат избирани едва след като старите задачи са премахнати. Те трябва да участват в решението каква е новата работа. Те трябва да имат време да учат, право да задават въпроси, защита, когато го правят, и дял в способността, която промяната създава. Хората, представени от показателите, трябва да могат да проверят какво означават показателите. Хората, които носят последиците, трябва да могат да спрат система, която вече не е безопасна или справедлива.

Добрият преход оставя след себе си повече от работещ инструмент. Той оставя по-ясна карта на задачите, по-силни умения, път за несъгласие, запис на това какво се е променило и институция, която знае кой е отговорен. Това са скромни постижения в сравнение с обещанията, направени в продуктова демонстрация. Но те са и нещата, които предпазват работното място от превръщането му в място, където софтуерът взема решения, а всички останали доставят алибитата.

Затова задайте практическия въпрос рано. Когато тази задача се премести, каква работа се появява? Кой ще я върши? Каква власт ще имат тези хора? Какво обучение ще направи тази власт реална? Кой може да оспори договореността? Къде отива спестеното време? Ако организацията не може да отговори, тя не е готова да автоматизира задачата. Тя е готова да се надява, че работата някак ще се погрижи сама за себе си. Работите рядко са толкова внимателни.

Източници