Тихото зъбно колело зад полезния ИИ
Отговорът, който имаше нужда от разписание
Първото впечатляващо нещо беше отговорът. Клиент попита дали доставка може да пристигне преди обяд, ако един склад е с недостиг на персонал, два автомобила вече са ангажирани, а доставчик е изпратил късно актуализация със самочувереността на човек, който няма да шофира камиона. Асистентът създаде стегнат параграф: да, възможно е, с променен маршрут, променен ред на товарене и бележка, че един обещан времеви прозорец трябва да бъде преместен с двадесет минути.
Параграфът изглеждаше като моментът на ИИ. Не беше. Полезната работа се случи отдолу, където проблемът с планирането беше превърнат в променливи, ограничения, санкции и търсене. Шофьорите имаха ограничения за работно време. Стоките имаха температурни ограничения. Превозните средства имаха ограничения на капацитета. Клиентите имаха времеви прозорци. Складовете имаха ограничения на доковете. Системата можеше да напише изречение само след като нещо по-строго беше намерило осъществима форма. Без тази машинерия асистентът щеше да е самоуверен чиновник, държащ календар с главата надолу.
Това е частта от ИИ, която остава странно тиха в публичния дебат. Говорим за модели, защото моделите са видими. Те пишат, класифицират, подреждат, обобщават, рисуват, откриват и препоръчват. Но много полезни ИИ системи стават полезни едва когато наблизо има решаващ механизъм. Решаващият механизъм взема обърканото желание и пита какво всъщност може да е вярно едновременно. Той претърсва възможностите, отхвърля невъзможни комбинации, оптимизира компромиси и понякога доказва, че не съществува отговор при посочените условия.
Това последно изречение е важно. Способността да се каже, че не съществува осъществим отговор, не е недостатък. Често това е разликата между помощ и безсмислица. Система, която може да произведе само правдоподобен отговор, в крайна сметка ще се превърне в скъп театър. Система, която може да решава, да се провали, да обясни своя провал и да покаже кое ограничение е блокирало резултата, е по-близо до инженерството. По-малко бляскава, по-вероятно е да оцелее до четвъртък.
Езикът не е същото като осъществимостта
Езиковите модели са много добри в създаването на обект с формата на отговор. Това не е обида. Това е огромна способност. Те могат да разберат заявка, да намерят подходящ контекст, да генерират чернова, да адаптират тон, да превеждат терминология и да помагат на хората да се движат през информацията по-бързо. Но плавността не прави отговора осъществим. Той може да опише график, който нарушава трудовото законодателство. Може да предложи план за лечение, който противоречи на противопоказание. Може да обобщи договор, като пропусне клаузата, която блокира действието. Изречението може да е полирано, докато светът отказва да съдейства.
Решаващите системи се интересуват от сътрудничеството със света. Те работят с изрична структура: булеви променливи, линейни ограничения, ребра на графи, времеви прозорци, ресурсни лимити, типови правила, принадлежност към множества, вероятностни граници или логически формули. Формата варира, но навикът е същият. Формулирай условията. Претърси пространството. Отхвърли това, което нарушава условията. Подобри това, което остава. Върни резултат с достатъчно доказателства, че друга част от системата може да му се довери за правилната цел.
Ето защо класическият ИИ всъщност никога не си е отишъл. Той се превърна в инфраструктура. Търсенето, планирането, изпълнимостта, програмирането с ограничения, доказването на теореми, целочисленото програмиране, динамичното програмиране, алгоритмите за графи, верификацията и теорията на управлението не изчезнаха, когато невронните мрежи станаха зрелищни. Те продължиха да вършат работата, която изисква изрична структура. Съвременното инженерство на ИИ не е състезание между плавни модели и строги решаващи системи. То е въпрос на това как да ги накараме да си сътрудничат, без да искаме от нито една от двете страни да имитира другата.
Модел може да преведе човешка заявка в структуриран проблем. Решаваща система може да прецени дали структурата има валидно решение. Модел може да обясни резултата на човешки език. Верификатор може да провери доказателството. Система за наблюдение може да следи дали допусканията все още важат. Полезната система е комбинацията, а не най-шумният компонент в демонстрацията.
Ограниченията са мястото, където намерението става честно
Всяка сериозна задача съдържа ограничения, дори когато никой не ги е записал. Медицинският работен процес има ограничения за безопасност, обхват, съгласие, поверителност и персонал. Логистичният работен процес има ограничения за капацитет, време, местоположение, гориво, поддръжка и договори. Работният процес за публични решения има ограничения за закон, доказателства, обжалване, справедливост и документация. Финансовият работен процес има ограничения за риск, ликвидност, съответствие и време. Хората се справят с много от тях по навик. Софтуерът се нуждае от тях, направени достатъчно изрични, за да функционира.
Актът на записване на ограничения е неудобен, защото разкрива какво всъщност означава организацията. Искаме ли най-бързия маршрут, или най-бързия маршрут, който спазва времето за почивка. Искаме ли най-евтиния план, или най-евтиния план, който запазва резервен вариант. Искаме ли най-високата конверсия, или най-високата конверсия без подвеждане на хората. Искаме ли моделът да отговаря, или искаме ли той да откаже, когато записът е непълен. Ограничението е малко морално интервю, маскирано като инженерство.
Добрите ограничения не правят системите твърди в лошия смисъл. Те правят гъвкавостта безопасна. След като решаващата система знае твърдите граници, тя може да търси агресивно вътре в тях. Тя може да открие комбинации, които човек би пропуснал. Тя може да се адаптира към смущения. Тя може да разменя разходи срещу време или качество срещу енергия, като същевременно запазва нещата, които не подлежат на преговори. Без ограничения гъвкавостта се превръща в импровизация с табло за управление.
Има занаят в това. Някои ограничения са твърди и никога не трябва да бъдат нарушавани. Някои са меки и се превръщат в санкции. Някои са несигурни и се нуждаят от буфери. Някои са правни. Някои са физически. Някои са етични. Някои са просто предпочитания, облечени в сериозно сако. Ако инженерният екип смеси всичко това, решаващата система може да оптимизира грешното нещо с впечатляваща дисциплина. Компютрите не са упорити, защото са злонамерени. Те са упорити, защото сме попитали зле.
Целите не са ценности
Целевата функция е частта, която казва какво означава по-добре сред осъществимите отговори. Минимизирай времето за пътуване. Максимизирай покритието. Намали енергията. Балансирай натоварването. Подобри припомнянето. Намали разходите. Поддържай опашките равномерни. Това са полезни цели. Те сами по себе си не са ценности. Ценностите се намират в избора на ограничения, санкции, прагове, пътища за преглед и решението кога оптимизацията изобщо не трябва да се изпълнява.
Една от най-старите грешки в работата с изкуствения интелект е да се даде на оптимизатора тясна цел и след това да се изненадаме, когато той следва тази цел право в стената. Ако болница оптимизира използването на часовете за прегледи, без достатъчно ограничения за пътуването на пациентите, спешността на случаите и възстановяването на персонала, може да се получи красив график, който влошава положението на всички. Ако работен процес за обслужване на клиенти оптимизира процента на приключените случаи, той може да се научи бързо да приключва грешните неща. Ако модел за разкриване на измами оптимизира само точността, той може да пренебрегне случаи, в които вредата е неравномерно разпределена. Оптимизаторът си върши работата. Въпросът не е бил достатъчно честен.
Полезният изкуствен интелект затова третира целите като част от управлението. Кой е избрал целта. Кои алтернативи са били разгледани. Кои групи са засегнати. Кои ограничения са твърди. Кои компромиси са видими. Кои резултати изискват човешка преценка. Кои показатели биха разкрили вреда. Това звучи като въпрос на управление, но е и технически въпрос. Целите са код, след като бъдат внедрени. Те заслужават повече от една мотивационна фраза.
Оптимизаторите помагат точно защото могат да разкрият компромисите. Те могат да покажат, че не съществува график без извънреден труд, че разходите спадат само ако резервният вариант изчезне, че по-високата цел за чувствителност увеличава натоварването при прегледа или че дадена политика създава невъзможни комбинации. Един плавен езиков модел може да замаже това неудобство. Един добър оптимизатор прави неудобството видимо.
Понякога най-добрият отговор е липсата на отговор
Полезните системи се нуждаят от достоен начин да се провалят. Маршрутът не може да бъде завършен. Доказателствата са недостатъчни. Правилата на политиката си противоречат. Заявеният график нарушава капацитета. Оптимизацията би надхвърлила прага на риска. Ограниченията са неизпълними. Това не са срамни резултати. Те са ценна информация, при условие че системата може да каже какво е блокирало отговора и какво трябва да се промени.
Интерфейс, базиран само на език, е изкушен да продължи да говори. Той може да предложи алтернативи, да смекчи несигурността или да даде най-доброто възможно усилие, което изглежда полезно. Понякога това е добре. Понякога е опасно. Един оптимизатор може да закотви разговора, като раздели възможното от невъзможното, неизвестното и извън обхвата. Той може да каже на интерфейса да спре да украсява не-отговора. Това е добро възпитание към реалността.
В инженерен смисъл разликата има значение, защото всяко състояние изисква различен работен процес. „Изпълнимо“ може да продължи. „Неизпълнимо“ може да задейства преговори или ескалация. „Неизвестно“ може да задейства събиране на повече данни, по-дълго търсене или човешка проверка. „Извън обхват“ може да задейства отказ. Ако всичко се превърне в параграф, операциите губят състоянията, от които се нуждаят, за да действат. Интерфейсът става по-гладък, докато организацията става по-сляпа.
Способността да се обясни провалът е особено полезна. Кое ограничение е блокирало плана. Кое липсващо поле е попречило на оценката. Кое правило е в конфликт с кое друго правило. Кой ресурс би трябвало да се увеличи. Кое допускане се е променило. Този вид обяснение е по-малко поетично от генерирана обосновка, но е далеч по-приложимо. То казва на хората какво може да се промени и какво не бива да се променя само защото срещата иска „да“.
Доказателствата превръщат решаващия модул в операционен компонент
Резултатът от решаващия модул става по-ценен, когато носи доказателства. За някои области тези доказателства са сертификат за коректност. За други това е оптимизационна следа, набор от обвързващи ограничения, доклад за осъществимост, анализ на чувствителността или възпроизводим запис на изпълнението. Общото свойство е, че резултатът може да бъде проверен по-късно, без да се иска от всички да се доверят на една и съща машина в едно и също настроение.
Тук решаващите модули срещат управлението. Една система за вземане на решения не бива само да казва, че даден план е оптимален или изпълним. Тя трябва да запази входните данни, версиите, ограниченията, целевата функция, конфигурацията на решаващия модул, критериите за спиране, избрания резултат, отхвърлените алтернативи, където е уместно, и последвалото човешко действие. Ако клиент, пациент, регулатор, оператор или бъдещ инженер попита защо, организацията не бива да трябва да възстановява решението от три табла и паметта на един колега.
Доказателствата помагат и при отстраняването на проблеми. Ако даден план е лош, дали целевата функция е била грешна, ограниченията непълни, данните остарели, решаващият модул неправилно конфигуриран, преводът на модела дефектен или човешката заявка невъзможна. Без записи всеки провал се превръща във фолклор. Със записи екипът може да поправи правилния слой. Това е по-малко вълнуващо от обвиняването на AI като цяло, но има по-добър процент на поправка.
Затова решаващият модул трябва да се третира като първокласен операционен компонент. Той се нуждае от наблюдаемост, тестове, версиониране, бюджети за производителност, поведение при отказ и пътища за преглед. Нуждае се от валидация на входните данни. Нуждае се от таймаути. Нуждае се от начин честно да връща частични резултати. Нуждае се от мониторинг за случаите, в които производствените проблеми се отклоняват от тестовия набор. Решаващ модул, скрит зад весел интерфейс, все още е инфраструктура. Инфраструктурата обича да бъде игнорирана, докато не придобие достатъчно лост.
Моделите и решаващите системи се нуждаят от различна скромност
Моделът трябва да е скромен по отношение на истината. Той може да греши, да е непълен, прекалено самоуверен, недостатъчно добре дефиниран или извън обхвата на своето обучение. Решаващата система трябва да е скромна по отношение на формулировката. Тя може да реши перфектно поставения проблем, докато самият поставен проблем е слабо описание на реалния. Това са различни видове отказ и една полезна ИИ система зачита и двата.
Моделът може да разбере погрешно заявката. Решаващата система може да оптимизира грешната цел. Данните може да са остарели. Ограниченията може да пропускат социалното правило, което всички са приели за очевидно. Целта може да кодира заместител, който ръководството харесва повече от потребителите. Резултатът може да е математически верен и оперативно неприемлив. Една зряла система не се преструва, че един компонент може да поеме всички тези рискове. Тя поддържа границите видими.
Ето защо преводът между език и структура заслужава внимание. Ако моделът превръща заявката на ръководител в задача за решаваща система, този превод трябва да може да се проверява. Кои променливи са създадени. Кои ограничения са изведени. Кои ограничения липсват. Коя цел е избрана. Коя неяснота е разрешена мълчаливо. Скрит слой за превод е просто още една черна кутия с по-добра граматика.
Човешките експерти все още имат значение тук, но не като декоративни одобрители. Те знаят кои ограничения са реални, кои правила се огъват, кои изключения са опасни и кои цели създават извратени стимули. Една добра система, подкрепена от решаваща система, дава на експертите лост. Тя не ги кара да благославят отговор, след като машината вече е направила важните избори невидими.
Старата машинерия не е старомодна
В технологиите има навик да се третират по-старите методи като остарели, щом по-нов метод стане модерен. Това е детинско, но с по-хубави шрифтове. SAT решаващите системи, SMT решаващите системи, смесеното целочислено програмиране, програмирането с ограничения, системите за планиране, търсенето в графи, доказването на теореми и методите за управление остават централни, защото много проблеми все още имат структура. Структурата може да е скрита под чат интерфейс, но не е изчезнала.
Всъщност съвременната ИИ прави решаващите системи по-важни. Когато моделите генерират повече възможни действия, някой трябва да ги провери. Когато агентите извикват инструменти, някой трябва да реши кои последователности са позволени. Когато извличането произвежда източници, някой трябва да разреши конфликтите. Когато автоматизираните работни потоци докосват политики, някой трябва да наложи ограниченията. Когато синтетичните планове изглеждат правдоподобни, някой трябва да попита дали те удовлетворяват реалния свят. Решаващите системи не са носталгия. Те са слоят за надзор на възрастни за системи, които вече могат да предлагат много неща бързо.
Въпросът не е да заменим невронните модели със символна машинерия. Въпросът е да композираме. Нека моделите се справят с неяснотата, езика, възприятието и объркания контекст. Нека решаващите системи се справят с изричната осъществимост, оптимизацията, доказателството и ограниченото търсене. Нека правилата носят политиката там, където политиката трябва да е ясна. Нека хората притежават целта, преценката и изключенията. Границата ще варира според областта, но принципът е стабилен: не искайте от плавна машинерия да върши строга работа без строг партньор.
Екипите, които разбират това, изграждат по-тихи системи. Демото може да изглежда по-малко магическо, защото отговорът понякога казва невъзможно. Операциите ще са по-добри, защото невъзможно е точно това, което екипът е трябвало да знае, преди да обещае доставка по обяд, автоматично одобрение или рисков резултат, който някой ще приеме като съдба.
Закъснение, разходи и всекидневният характер на решаването
Решаващите системи също правят ИИ практична в малките детайли. Решаваща система, която отнема четири часа, може да е отлична за стратегическо планиране и безполезна за екран за диспечерски операции на живо. Евристика, която връща достатъчно добър маршрут за две секунди, може да победи точна решаваща система в операциите. Решаваща система, произвеждаща доказателства, може да е от съществено значение за решения с високи залози и ненужна за поръчки на обяд, дори в организации, които приемат сандвичите много сериозно.
Инженерството е пълно с такива избори. Точност, скорост, използване на памет, обяснимост, енергия и сложност на реализацията си противоречат. Правилният решаващ инструмент за пакетен одит може да не е правилният за маршрутизиране в реално време. Локален метод на търсене може да е достатъчен, когато цената на неоптималния отговор е малка. Пълен метод може да е необходим, когато отказът носи правни последици или последици за безопасността. Полезният изкуствен интелект не се изгражда с преклонение пред една техника. Той се изгражда, като техниката се съчетава с последиците.
Точно тук бенчмарковете трябва да бъдат честни. Бенчмаркът за решаващи инструменти трябва да отразява реалното разпределение на проблемите, а не само подредени примери. Той трябва да включва неосъществими случаи, замърсени входни данни, изчаквания, крайни ограничения и променящи се данни. Той трябва да отчита не само средната скорост, но и начините на отказ. Система, която е бърза при лесни случаи и мълчи при трудни, не е бенчмарквана. Тя е поласкана.
Разходите също имат значение. Един решаващ инструмент може да намали изчислителното натоварване, като подрязва търсенето, преди голям модел да бъде помолен да разсъждава. Той може да избегне повторно извеждане, като кешира структурирани резултати. Той може да прецени кога малък модел е достатъчен и кога е оправдан по-голям. Тихата машинерия зад полезния изкуствен интелект често е и машинерията зад достъпния изкуствен интелект. Финансовите отдели рядко ръкопляскат, но забелязват фактурите.
Цикълът след внедряването
Система с изкуствен интелект, подкрепена от решаващ инструмент, не е завършена, когато върне първия правилен отговор. Реалната работа се променя. Появяват се нови ограничения. Старите ограничения стават неверни. Хората се адаптират към системата. Пайплайните с данни се отклоняват. Политиките сменят имената си, защото някой е открил шаблон. Решаващият инструмент продължава да решава, но постановката на проблема може тихо да е изтекла.
Оперативните цикли поддържат системата честна. Следете нивата на неосъществимост, нивата на изчакване, причините за отмяна, обвързващите ограничения, резултатите от целевата функция, свежестта на данните, групите засегнати потребители и случаите, в които хората отхвърлят резултата. Преглеждайте дали ограниченията остават пълни. Преразглеждайте целите, когато стимулите се променят. Тествайте дали преводът от модел към решаващ инструмент все още улавя заявката. Сравнявайте предвидените компромиси с действителните резултати. Един решаващ инструмент може да е математически сериозен и оперативно остарял. И двете могат да са верни, защото реалността има обхват.
Цикълът трябва също да запазва поуката от отказа. Когато системата каже, че не съществува осъществим график, какво се случва след това. Дали хората са добавили капацитет, променили политика, смекчили предпочитание, открили лоши данни или притиснали някого да пренебрегне ограничението. Тези резултати показват дали системата изразява реалността или просто блокира работата. Отказ без преглед се превръща в пречка. Отказ с доказателства се превръща в управленска информация.
Както при всяка сериозна система, собствеността има значение. Някой трябва да отговаря за формулировката, някой за данните, някой за производителността на решаващия инструмент, някой за интерфейса и някой за оперативната политика. Ако всички отговарят за полезния изкуствен интелект като цяло, никой не отговаря за ограничението, което се е провалило във вторник. Вторникът е денят, в който системите стават честни.
Тихото заключение
Популярният образ на ИИ е модел, който говори. Полезният образ често е система, която решава какво може да е вярно, какво е за предпочитане, какво е невъзможно и какви доказателства трябва да придружават отговора. Решаващите механизми са част от този образ. Не са бляскави, но са необичайно добри в това да правят системите по-малко неясни.
Те принуждават екипите да назоват ограниченията, целите, компромисите и състоянията на отказ. Дават на езиковите модели по-строг партньор. Позволяват на системите да отказват с причини, вместо да импровизират с увереност. Разкриват кога желаният резултат не може да съществува заедно с посочените правила. Създават записи, които бъдещите хора могат да проверят. Това не е цялото полезно изкуство, но е една от частите, които най-вероятно ще попречат на полезния ИИ да се превърне в ИИ, който само изглежда полезен.
Доставката преди обяд може все пак да се провали. Пътен инцидент може да съсипе добър план. Пристанище може да затвори. Клиент може да промени поръчката. Но система, подкрепена от решаващ механизъм, се проваля по различен начин. Тя може да каже кое предположение се е счупило, кое ограничение е станало обвързващо и какви възможности остават. Това е видът отказ, с който една операция може да работи.
Тихата машинерия заслужава повече внимание именно защото е тиха. Тя не винаги пише изречението на екрана. Тя решава дали изречението изобщо трябва да е там.