Ба

Ба

Електронната таблица не извика

Електронната таблица не изглеждаше опасна. Почти винаги така започва. Стоеше в споделена папка с разумно име, три скрити колони, два формата за дати, поле за коментари, което се беше превърнало в малък роман, и раздел, наречен final, който лъжеше по традиционния начин. Екип я използваше, за да сверява клиентските записи, преди да захранва нов работен процес. Никой не беше безразсъден. Проверяваха сумите. Премахваха очевидните дубликати. Питаха човека, който беше наследил файла от човека, който беше наследил файла. Отговорите бяха достатъчно правдоподобни, за да продължат.

Три месеца по-късно вредата се появи, но не като едно събитие. От клиент бяха поискани документи, които вече беше предоставил. Друг беше насочен към грешната опашка за обслужване. Появи се флаг за риск по даден случай, защото затворена сметка все още изглеждаше активна. Сътрудник в поддръжката прекара двадесет минути в извинения за система, която настояваше на стар адрес. Ръководител видя леко по-добра производителност и леко по-слабо доверие. Нито един от тези инциденти не изглеждаше достатъчно голям, за да спре програмата. Заедно те бяха програмата.

Лошите данни често се описват като техническо неудобство. Липсващи полета, непоследователни кодове, дублирани редове, остарели записи, слаби етикети. Този език е точен и твърде малък. Лошите данни се превръщат в бавно насилие, когато малки грешки тихо прехвърлят разходите върху хора, които не са ги създали. Те карат гражданите да доказват това, което институцията е забравила. Те карат служителите да поправят това, което тръбопроводът е изкривил. Те карат клиентите да се повтарят. Те карат одиторите да възстановяват смисъла, след като смисълът е бил изхвърлен. Те карат моделите да изглеждат несигурни, пристрастни или глупави, когато те отчасти отразяват провал в воденето на записи.

Насилието е бавно, защото вредата е разпределена. Нито един ред не поема отговорност. Нито едно табло не признава дълга. Системата продължава да работи и затова изглежда успешна от достатъчно разстояние. Вредата живее в допълнителни обаждания, отхвърлени заявления, грешни писма, отказан достъп, разочаровани служители, увредена репутация и решения, които стават по-трудни за оспорване, защото записът се е научил да звучи официално. Лошите данни не се нуждаят от драма. Те имат търпение.

Качеството не е чистота

Качеството на данните често се свежда до чистота, като че ли целта е таблица без видими трохи. Чистотата помага. Стандартните формати, валидните стойности, попълнените полета, премахнатите дублирани редове и разумните диапазони са необходими. Но един чист набор от данни може да бъде грешен за задачата. Едно поле може да е перфектно форматирано и семантично счупено. Една дата може да е валидна и остаряла. Един етикет може да е последователен и несправедлив. Един запис може да е пълен, защото някой е попълнил „неизвестно“ с „не“, което е начинът, по който много малки бедствия обличат вратовръзка.

Качеството е пригодност за цел с доказателства. Един и същи запис може да е достатъчно добър за изпращане на бюлетин, недостатъчен за кредитно решение, опасен за модел за медицинско сортиране и без значение за оценка на публична политика. Контекстът решава. Кой е създал записа. По какво правило. За коя задача. С какъв метод на измерване. Колко често се актуализира. Кои пропуски се очакват. Кои стойности са изведени. Кои стойности са предоставени от потребителя. Какви трансформации са извършени по пътя. Без този контекст качеството се превръща в настроение, а таблото за управление става интериорен дизайн.

AI прави това разграничение по-трудно, защото моделите са гладни за мащаб. Мащабът има съблазнителен ефект върху организациите. Голям набор от данни може да накара хората да спрат да питат дали редовете все още означават това, което смятат, че означават. Повече данни могат да покрият шума статистически, но могат и да разпространят грешно предположение по-далеч. Ако етикетът е създаден от претоварен екип, милион етикета може да ви дадат много голямо измерване на претоварването. Ако липсващо поле означава „отказано“ в една система и „неизвестно“ в друга, обединяването им създава категория, която трябва да носи предупредителна жилетка.

Старата фраза „боклук влиза, боклук излиза“ все още е полезна, но е твърде весела. Съвременните системи могат да превърнат боклука в уверен резултат, приоритизирани опашки, автоматизирани писма, рейтинги на риска, управленски отчети и обратна връзка за обучение, която захранва следващия модел. Боклукът вече не излиза учтиво. Той циркулира, опознава организационната схема и получава покани за управителни съвети.

Стандартът, който стана политика

Много неуспехи с данните започват със стандарт. Празното става „невярно“. Липсващото става нула. Неизвестното става нисък риск. Липсата на отговор става съгласие. Последният известен адрес става текущ адрес. Най-скорошният запис става най-добрият запис. Бележка в свободен текст става етикет, защото някой трябваше да пусне таблото. Стандартите не са зли. Системите имат нужда от стандарти. Проблемът е, когато стандартите станат политика, без да бъдат наречени политика.

Стандартът е решение относно несигурността. Той казва какво ще направи организацията, когато не знае. Това решение може да е безвредно в работен процес с ниско въздействие и неприемливо в процес със значителни последици. Ако маркетинговата предпочитание е празно, предпазливият стандарт може просто да избегне изпращането на съобщение. Ако поле за допустимост за обезщетение е празно, третирането му като „не“ може да откаже подкрепа. Ако поле за клинична алергия е празно, третирането му като „няма“ не е избор на данни. Това е много лош ден, който пристига рано.

Доброто управление на данните принуждава стандартите да излязат на светло. То разграничава „неизвестно“, „не е приложимо“, „не е събрано“, „отказано“, „в очакване“, „оценено“, „наследено“, „изведено“ и „проверено“. Тези категории изглеждат досадни, докато алтернативата не превърне празната клетка във власт. Система, която не може да представи несигурността, често ще накара несигурността да изчезне, като се престори, че я разрешава. Това е ефективно по същия начин, по който е ефективно да се помете стъкло под килима. Подът е чист. Кракът възразява по-късно.

Практическият тест е прост: може ли проверяващият да види къде е действал стандартът. Ако препоръка на модел, маршрут на работен процес или показател в отчет зависи от стандарт, записът трябва да го показва. Ако стандартът се промени, предишните резултати трябва да останат тълкуваеми. Ако хората не са съгласни със стандарта, трябва да има отговорник. В противен случай организацията не е автоматизирала правило. Тя е автоматизирала предположение, което избягва зрителен контакт.

Лошите етикети създават тиха политика

Етикетите заслужават особено подозрение, защото често изглеждат по-обективни, отколкото са. Измама, висок риск, отговаря на условията, съответстващ, спешен, лошо качество, удовлетворен, опасен, разрешен. Тези думи свиват човешката преценка, политиката, навиците, стимулите, времевия натиск, а понякога и институционалните предразсъдъци в поле, достатъчно кратко за модел. Етикетът после пътува, сякаш е факт. Докато стигне до обучението, аргументът, който го е създал, обикновено отдавна си е отишъл.

Етикетът може да е грешен, защото човекът е допуснал грешка. Може да е грешен и защото инструкцията е била неясна, политиката се е променила, проверяващият е нямал контекст, категорията е била твърде широка, инструментът е насърчавал бързината или организацията е възнаграждавала определен резултат. Етикетът може да е последователен и пак да кодира лоша практика. Последователността не е добродетел. Тя е просто повторимост, а повторимостта може да повтаря глупостта с възхитителна дисциплина.

За ИИ слабите етикети стават повече от шум в отчетите. Те стават целта, която моделът учи. Ако предишните решения са били повлияни от неравен достъп, исторически пристрастия, лоши стимули или непълни записи, моделът може да научи белезите на институцията и да ги нарече прогноза. Това не прави модела злонамерен. То прави целта на обучението недостатъчно изследвана. Да обвиняваме само алгоритъма е примамливо, защото алгоритмите не ходят на оценки на представянето.

По-добрата практика за етикетиране не е бляскава. Пишете насоки. Записвайте самоличността или ролята на проверяващия, където е уместно. Улавяйте разногласията. Правете извадки за качество. Запазвайте примери за крайни случаи. Преглеждайте етикетите след промени в политиката. Отделяйте етикетите, създадени за операции, от етикетите, създадени за обучение. Назовавайте несигурността. Позволявайте на проверяващите да кажат не мога да определя. Последното е изненадващо радикално в организации, които предпочитат подредени колони пред честното съмнение.

Дублирането не е просто загуба на място за съхранение

Дублираните записи звучат като проблем със съхранението, докато не срещнат човек. Тогава се превръщат в пропуснати прегледи, грешна допустимост, разпокъсана история, повтарящо се записване, множество сметки, противоречиви рискови оценки и писма, които се обръщат към един човек като към трима клиенти. Базата данни може да смята, че има повече записи. Човекът преживява институцията, която не успява да го разпознае. Това е различен вид дефект.

Идентичността е особено трудна тема, защото реалният свят е разхвърлян. Хората сменят имена, адреси, работодатели, лекари, училища и семейни структури. Компании се сливат. Активи се местят. Устройства се заменят. Отдели преименуват програми, защото явно в света е имало излишно объркване. Правилата за съвпадение изискват смирение. Ако са твърде строги, един и същи човек се разцепва в няколко записа. Ако са твърде свободни, различни хора се сливат в една институционална измислица. И двете грешки причиняват вреда.

AI системите усилват проблемите с идентичността, защото разчитат на събран контекст. Резюме на случай може да пропусне съответната история, защото записите са били разделени. Оценка на риска може да надцени експозицията, защото дубликати са били преброени два пъти. Препоръка може да цитира запис, принадлежащ на друг човек, след прекалено агресивно сливане. Извличането може да извади грешния файл, защото идентификатори са били използвани повторно. Моделът става видимото лице на слой за идентичност, който тихо е бил в лошо състояние.

Доброто управление на идентичността дава на дубликатите процес, а не просто кампания за почистване. То определя увереността в съвпадението, праговете за човешки преглед, авторитета на източника, правата за сливане и разделяне, одитни пътеки, задължения за уведомяване и пътища за корекция. Най-важното е, че третира разделянето като операция от първостепенно значение. Организациите обичат да сливат, защото това им се струва като подреждане. Разделянето е мястото, където те разбират дали подреждането е счупило реалността.

Остаряването е проблем на управлението

Данните не остават верни просто защото никой не ги е пипал. Някои факти се развалят. Адреси, трудов статус, състояние на сметка, правни правила, клинични състояния, съгласия, нива на риск, позиции по акции, допустимост за услуги, собственост, калибриране на устройства, статус на доставчик. Една остаряла стойност може да премине перфектно валидация. Тя има правилния тип, разрешен код и професионална стойка. Въпреки това днес е грешна.

Остаряването е опасно, защото системите често третират липсата на актуализация като доказателство за стабилност. В много области мълчанието означава, че никой не е проверил. Източник на данни може да е отказал. Клиент може да не е имал причина да влезе. Публичен регистър може да изостава. Сензор може да е изключен. Отдел може да продължава да използва извлечението от миналото тримесечие, защото задачата за опресняване принадлежи на човек, който сега е в отпуск. Данните не са станали актуални, като са седели кротко в база данни.

Всяко важно поле се нуждае от договор за свежест. Колко стара може да бъде тази стойност за тази употреба. Кой източник я потвърждава. Какво се случва, когато свежестта изтече. Може ли работният процес да продължи с предупреждение, да изисква човешки преглед, да извлече жив източник или да спре. Свежестта трябва да зависи от целта. Пощенски адрес за бюлетин може да търпи повече давност от адрес, използван за правно уведомление. Индикатор за риск за ежедневни операции не може да живее по същия календар като годишното отчитане.

Договорите за свежест помагат и на оценката на AI. Когато модел се провали, екипите често питат дали моделът е разбрал данните. Те трябва първо да попитат дали данните са били все още живи. Един остарял, но валиден запис е особено неприятен капан, защото преминава техническите проверки и се проваля пред реалността. Реалността, както обикновено, подава по-малко сигнали, отколкото бихме искали.

Моделът е обвиняван за архива

Когато изходът от AI е лош, моделът е най-лесният заподозрян. Той е видим, скъп, нов и понякога чудесно самоуверен. Но много изходи са само толкова силни, колкото записите, които могат да видят. Модел, помолен да обобщи непълен файл, ще произведе полирана непълнота. Модел, помолен да класифицира случаи от непоследователни етикети, ще научи непоследователност с отлична стойка. Модел, помолен да извлече политика от остаряла база знания, ще цитира миналото, сякаш то все още има достъп до офиса.

Това има значение, защото поправките, фокусирани върху модела, могат да загубят време. Преобучението няма да поправи липсващо съгласие. По-големият контекстен прозорец няма да поправи дублирани самоличности. По-добрата подкана няма да възстанови изтрит смисъл. Повече оценяване няма да помогне, ако тестовият набор носи същите счупени етикети като продукцията. Моделът може все още да има нужда от работа. Но слоят от данни трябва да бъде разследван като заподозрян с мотив, възможност и дълга история.

Има и политическо удобство в обвиняването на модела. Ако моделът е виновен, поправката принадлежи на AI екипа. Ако данните са виновни, поправката може да принадлежи на операциите, правния отдел, политиката, продукта, обслужването на клиенти, управлението на записи, доставчиците и ръководството. Това е по-голяма маса. По-големите маси произвеждат повече точки в дневния ред. Някои организации предпочитат по-малка маса и по-лошо обяснение.

Сериозният преглед на инцидент следователно започва по-рано. Кой източник е носил факта. Дали е бил актуален. Дали е бил разрешен. Дали смисълът е бил запазен. Дали етикетът е бил валиден за тази цел. Дали съвпадението на самоличности се е държало правилно. Дали е действало по подразбиране. Дали човешка поправка е достигнала до низходящата система. Дали оценъчният набор е включвал този вид провал. Едва след тези въпроси моделът трябва да бъде поканен да се защити. Той може все още да е виновен. Не трябва да е сам.

Поправката трябва да достигне източника

Много организации имат процеси за корекция, които поправят видимия случай, но не и системата от данни. Агент от поддръжката актуализира адреса за днешното писмо, но главният запис остава стар. Служител по случай отменя допустимостта, но липсващото поле остава липсващо. Лекар коригира обобщение, но правилото за извличане продължава да произвежда същата грешка. Бележка от обслужването на клиенти казва да се игнорира предишната стойност, което е смел, но крехък начин да се управлява база от данни.

Поправката трябва да пътува нагоре по течението. Ако грешка е открита на мястото на употреба, корекцията трябва да достигне до авторитетния източник или поне да създаде съгласувано състояние с доказателства. Системата трябва да знае дали поправката е локална, временна, оспорена, проверена или структурна. Корекция, която не може да бъде разпространена, се превръща в друго парче лоши данни. Много ефективно, в мрачния смисъл.

Пътят за поправка трябва също да защитава хората от това да стават неплатени пазители на данни за институциите. Разумно е да помолим някого да предостави липсваща информация веднъж. Не е разумно да го караме да поправя един и същ запис в пет канала, защото системите на организацията се радват на твърде голяма независимост. Когато хората многократно предоставят факти, а институцията многократно ги забравя, проблемът не е в потребителското преживяване. Това е отказ на институционалната памет.

Добрата поправка създава учене. Ако много корекции засягат едно и също поле, формулярът за събиране на данни може да е неясен. Ако много разделяния на записи се случат след промяна на правило за съвпадение, прагът е грешен. Ако даден етикет често се оспорва, указанието се нуждае от преглед. Ако остарели записи водят до инциденти, липсват договори за актуалност. Качеството на данните се подобрява, когато корекцията се третира като доказателство, а не като неудобство.

Лошите данни не са морално неутрални

Изкушаващо е да третираме качеството на данните като въпрос от второстепенно значение. Записите са разхвърляни, да, но всяка организация има разхвърляни записи. Това е вярно по същия начин, по който всяка сграда има прах. Въпросът е дали прахът е на рафт или във вентилационната система. След като лошите данни започнат да управляват автоматизирани решения, приоритизирана работа, резултати от ИИ, отчети, съответствие, плащания или обществени услуги, това престава да бъде домакинска работа от втори план. То се превръща в начин, по който се упражнява власт.

Това не означава, че всяка грешка е скандал. Сериозните институции могат да допускат грешки. Моралният въпрос е дали грешките са видими, поправими и дали се предотвратява разпространението им. Система за водене на записи, която скрива несигурността, се съпротивлява на корекции, наказва засегнатия човек с повтарящи се доказателства и продължава да използва производни грешки, не е просто неподредена. Тя е несправедлива по устойчив начин.

Няма единствено лекарство. Работата с данни е локална, специфична за домейна и понякога смиряваща. Но нагласата е ясна. Отнасяйте се към важните полета като към решения със собственици. Направете несигурността представима. Дръжте произхода близо. Свържете актуалността с целта. Одитирайте етикетите. Управлявайте идентичността. Разпространявайте корекциите. Измервайте тежестта на поправките, а не само скоростта на обработка. Когато е замесен ИИ, тествайте пътя на данните толкова усърдно, колкото пътя на модела. Записите не са декор. Те са част от машината.

Електронната таблица не извика, защото таблиците рядко викат. Системата направи това, което системите правят: превърна тихите предположения в по-силни последствия. Урокът не е, че всички данни трябва да са безупречни, преди да започне работата. Това би сложило край на цивилизацията, или поне на планирането на вторник. Урокът е, че лошите данни не трябва да имат право да действат с авторитет, докато остават евтини, невидими и чужд проблем. Бавното насилие става още по-бавно, когато никой не го назовава. То става по-малко, когато записът най-накрая трябва да отговаря за себе си.