AI безопасност: какво всъщност означава и защо е важна за вас

AI безопасност: какво всъщност означава и защо е важна за вас

Реалният проблем със сигурността на ИИ

Сигурност на ИИ. Терминът предизвиква образи на убийствени роботи. Скайнет. Сценарии от „Терминатор“. Страхове от научната фантастика.

Това не е реалният проблем. Не и днес. Не и в следващите години.

Реалните проблеми със сигурността на ИИ са ежедневни. Практични. Случващи се точно сега. Пристрастни алгоритми за наемане на работа. Погрешни медицински диагнози. Автономни превозни средства, вземащи грешни решения за части от секундата. Това не е научна фантастика. Това е днешната реалност.

Разбирането какво всъщност означава сигурността на ИИ ви помага да оценявате системите с ИИ. Изисквайте повече. Използвайте ги безопасно.

Какво всъщност представлява сигурността на ИИ

Сигурността на ИИ означава да се гарантира, че системите с ИИ се държат според предвиденото. Правят това, което искаме. Не правят това, което не искаме. Звучи просто. Не е.

Три основни предизвикателства:

• 1. Спецификация: Определяне на това, което всъщност искаме. Оказва се, че е трудно да се уточни точно какво е „добро поведение“. Човешките ценности са сложни. Зависят от контекста. Понякога са противоречиви.
• 2. Устойчивост: Изкуственият интелект да работи правилно във всички ситуации. Не само в сценариите за обучение. Гранични случаи. Враждебни входни данни. Реалната сложност на света. ИИ често се проваля точно там, където има най-голямо значение.
• 3. Съгласуваност: Целите на ИИ да съвпадат с човешките цели. Да не използва системата. Да не оптимизира буквата на правилото, нарушавайки духа му. Истинска съгласуваност с човешките намерения.

Ако сбъркате в някое от тези неща, ИИ причинява вреда. Дори и с добри намерения. Дори и със сложна технология.

Европейските регулатори разбират това отлично. Законът на ЕС за ИИ класифицира системите с ИИ според степента на риска: минимален, ограничен, висок и неприемлив. Системите с висок риск (медицински изделия, критична инфраструктура, правоприлагане, решения за наемане на работа) са обект на строги изисквания. Обяснимостта не е по желание. Тестването за устойчивост не подлежи на преговори. Човешкият надзор не е лукс. Това е закон. Американските компании, които откриват това по трудния начин, сега го наричат „регулаторна тежест“. Европейските компании го наричат „основна инженерна отговорност“.

Защо настоящият ИИ не е безопасен (честната истина)

Съвременният ИИ има фундаментални проблеми със сигурността:

Проблемът с черната кутия:

Не можете да видите отвътре. Невронните мрежи са непрозрачни. Милиарди тегла. Няма логика, разбираема за хората. Моделът работи (или не). Не можете да видите защо.

Това означава: не можете да проверите безопасността. Не можете да одитирате решенията. Не можете да отстраните конкретни проблеми, без да преобучите модела. Тествате обстойно и се надявате, че ще работи в производствена среда. Това не е безопасност. Това е оптимизъм.

Представете си холандски строителен инженер, който предлага дига, като изчисленията са „доверете ми се, невронната мрежа казва, че ще издържи“. Или немски автомобилен инженер, който сертифицира спирачки с „обучихме я с милиони примери“. TÜV биха ги изгонили от сградата. И все пак точно така внедряваме ИИ за подобни критични решения: медицинска диагностика, автономно шофиране, оценка на финансовия риск. Подходът, основан на вяра, който европейците изоставиха преди векове, се е завърнал, ребрандиран като „машинно обучение“.

Зависимост от обучителните данни:

ИИ се учи от примери. Ако примерите са пристрастни, ИИ е пристрастен. Ако примерите са непълни, ИИ има слепи петна. Ако примерите са грешни, ИИ греши.

Каквото вложиш, такова получаваш. Но за системи с критично значение за безопасността „боклук“ означава вреда. Пристрастни решения за кредити. Несправедливи откази при кандидатстване за работа. Грешни медицински диагнози.

Чупливост:

ИИ блести при познати входни данни. Проваля се зрелищно при непознати. Малки промени във входните данни водят до огромни промени в изхода. Това е уязвимост към противникови атаки.

Добавете незабележим шум към изображение. Моделът го класифицира напълно погрешно. Това не е теория. Тествано е. Доказано е. Възпроизводимо е. Настоящият ИИ е крехък.

Без здрав разум:

ИИ няма разбиране. Няма модел на света. Няма здрав разум. Той разпознава модели. Понякога блестящо. Понякога катастрофално погрешно.

Помолете го за невъзможни неща, и то все пак опитва. Помолете го за вредни неща, и то може да се съгласи. То не разбира. То просто обработва входни данни.

Това води до зрелищни провали, които биха били смешни, ако не бяха внедрени в критични системи. Медицински ИИ уверено диагностицира пациенти с болести, които не съществуват, защото моделът на симптомите съвпада с обучителните данни. Автономни превозни средства спират пред пощенски кутии, боядисани да приличат на стоп знаци: технически правилно разпознаване на модел, катастрофално погрешно разбиране. Правен ИИ цитира напълно измислена съдебна практика, защото форматът на цитиране съвпада с наученото. Попитайте тригодишно дете дали можете да дишате под вода, и то ще каже „не“. Попитайте настоящия ИИ, и той може да генерира убедително есе, обясняващо техники за дишане под вода, без разбиране, че това е физически невъзможно, просто разпознаване на модели от научната фантастика, с която е обучен.

Провали в безопасността в реалния свят

Това не са хипотези. Те са се случили:

• Катастрофи с автономни превозни средства: ИИ не успя да разпознае пешеходци при определени условия. Осветление. Облекло. Контекст. Хора загинаха. ИИ беше оптимизиран за средни случаи и се провали при крайни случаи.
• Пристрастие при разпознаване на лица: По-високи нива на грешки за жени и малцинства. Защо? Обучителните данни бяха предимно от бели мъже. Пристрастието в данните се превърна в пристрастие в решенията. Дискриминация в реалния свят, автоматизирана.
• Грешки в медицинския ИИ: ИИ препоръчва грешни лечения. Пропуска диагнози. Защо? Обучен върху данни от конкретни болници. Не се обобщи за различни популации или състояния. Оптимизация за показатели, а не за резултатите на пациентите.
• Провали в модерирането на съдържание: ИИ премахва легитимно съдържание. Пропуска вредно съдържание. Контекстът има значение. Нюансите имат значение. ИИ се справя трудно и с двете. Цензура и злоупотреба, автоматизирани.

Във всеки случай ИИ направи това, за което беше обучен. Обучението беше недостатъчно. Устойчивостта липсваше. Спецификацията беше грешна. Провали в безопасността.

Европейски примери са по-близо до дома. Данъчната служба на Нидерландия използва ИИ за откриване на измами с детски надбавки: алгоритъмът маркира хиляди невинни семейства, много от имигрантски произход, което доведе до финансови затруднения за някои. Без предоставено обяснение. Без налични средства за защита. Нидерландското правителство в крайна сметка плати обезщетение от 30 000 евро на семейство, а целият кабинет подаде оставка. Във Франция беше установено, че система с ИИ, използвана за прием в университети, дискриминира въз основа на фамилни имена, изрично кодирани предпочитания, които случайно корелираха с етнически произход. И в двата случая: ИИ работеше точно както е проектиран. Проектът беше проблемът.

Какво прави ИИ наистина безопасен

Безопасността изисква няколко слоя. Нито едно единствено решение:

Обяснимост:

Трябва да можете да видите защо ИИ е взел дадено решение. Не просто „невралната мрежа се е активирала“. Реални причини. Проследима логика. Одитируеми стъпки.

Системите, базирани на ограничения, помагат тук. Всяко решение следва изрични ограничения. Можете да проследите разсъжденията. Да проверите коректността. Да одитирате решенията.

Тестване на устойчивостта:

Тествайте извън обучителните данни. Противникови примери. Гранични случаи. Стрес тестове. Ако нещо се счупи, поправете го преди внедряването. Не след като е причинило вреда.

Формална верификация, където е възможно. Математически доказателства за поведението. Ограничен обхват засега, но растящ.

Европейските сертифициращи органи изискват тази строгост. TÜV няма да сертифицира автономни системи без обширно тестване на устойчивостта във всеки възможен сценарий. Френският CNIL изисква оценки на въздействието върху защитата на данните преди внедряването на ИИ. Италианският Garante изисква алгоритмични одити за автоматизирано вземане на решения. Това не е бюрокрация; това е натрупан опит. Европа е видяла достатъчно срутени мостове, строителни аварии и индустриални инциденти, за да знае, че „работи през повечето време“ не е достатъчно за системи, критични за безопасността. Същите стандарти вече важат и за ИИ.

Човешки надзор:

ИИ предлага. Хората решават. Особено при решения с високи залози. Медицинска диагностика, одобряване на заеми, правни присъди. Човек в цикъла е задължителен.

Не „ИИ решава, а човекът просто подпечатва“. Човекът действително преглежда. Има инструменти, за да разбере. Може да отмени.

Европейските финансови регулатори научиха това по трудния начин по време на кризата от 2008 г.: автоматизирани системи за търговия с недостатъчен човешки надзор причиниха светкавични сривове. Сега финансовите регулации на ЕС изискват смислен човешки надзор за автоматизирани решения. „Смислен“ означава, че човекът разполага с достатъчно информация, достатъчно време и достатъчно правомощия, за да се намеси действително. Човек, който кликва „одобрявам“ на всеки три секунди върху ИИ решения за заеми, не е надзор; това е театър. Европейските регулатори проверяват това: те одитират времето за вземане на решения, нивата на отмяна и дали хората разполагат с реални инструменти, за да разберат разсъжденията на ИИ. Надзор, който не може да предотврати проблеми, не е надзор.

Постепенно внедряване:

Не внедрявайте навсякъде веднага. Започнете с малко. Следете отблизо. Разширявайте постепенно. Хващайте проблемите рано, когато залозите са ниски.

A/B тестване. Canary внедрявания. Прогресивно разпространение. Практики от софтуерното инженерство, приложени към безопасността на ИИ.

Непрекъснато наблюдение:

ИИ в производствена среда се нуждае от постоянно наблюдение. Показатели за ефективност. Нива на грешки. Проверки за пристрастия. Откриване на отклонения.

Табла в реално време. Автоматични сигнали. Бърза реакция при проблеми. Безопасността не е еднократно действие. Тя е непрекъснат процес.

Бинарни системи с ограничения и безопасност

Различните AI архитектури имат различни свойства по отношение на безопасността:

• Невронни мрежи (с плаваща запетая): Непрозрачни. Трудни за проверка. Проблеми с крехкостта. Уязвимост към атаки. Безопасност чрез обстойно тестване и надежда.
• Системи, базирани на ограничения (като Dweve Loom): Прозрачни. Изрични ограничения. Проследими разсъждения. Всяко решение следва логически правила. Одитируеми по дизайн.

Това не решава всички проблеми с безопасността. Но обяснимостта помага изключително много. Можеш да видиш защо са взети решенията. Да провериш дали ограниченията са правилни. Да отстраниш конкретни проблеми без цялостно преобучаване.

Бинарните операции осигуряват детерминизъм. Едни и същи входни данни, едни и същи резултати. Възпроизводимо. Тестваемо. Проверимо.

Какво можеш да направиш (практически стъпки)

Ако си човек, който използва AI или е засегнат от него:

• 1. Изисквай обяснимост: Питай защо AI е взел дадено решение. Ако не могат да обяснят, това е тревожен знак.
• 2. Провери за тестове за пристрастия: Тестван ли е AI върху разнообразни групи от хора? Какъв е процентът на грешките за различните групи?
• 3. Потърси човешки надзор: Преглеждат ли хора решенията? Имат ли реална власт да ги отменят?
• 4. Разбери ограниченията: В кои сценарии е известно, че AI се проваля? Документирани ли са те? Съобщени ли са?
• 5. Провери постепенното внедряване: Внедрен ли е внимателно? Или е пуснат наведнъж навсякъде в производствена среда?
• 6. Следи за проблеми: Има ли непрекъснат мониторинг? Колко бързо реагират на проблеми?
• 7. Съответствие с регулациите: Отговаря ли на регулаторните стандарти (EU AI Act и др.)? Има ли отчетност?

Имаш власт. Използвай я. Изисквай безопасен AI. Не приемай „доверете ни се, това е AI" като отговор.

Икономическата цена на небезопасния AI

Провалите в безопасността не са само етичен проблем; те са финансови катастрофи. Европейските компании научиха това скъпо.

Преки разходи:

Скандалът с обезщетенията за деца в Нидерландия струва на данъкоплатците над 1 милиард евро обезщетения. Air France беше глобена с 800 000 евро, когато тяхната система за качване на борда с разпознаване на лица дискриминира пътници. Германските здравни осигурители платиха милиони глоби, когато решенията за искове, базирани на AI, нарушиха разпоредбите за медицинска поверителност.

Това не са крайни случаи. Това се случва, когато внедрите ИИ без проверка на безопасността.

Пропуснати ползи:

Британски банки спряха системите си за ИИ кредитиране след скандали с пристрастия: години разработка, милиони инвестирани, изоставени, защото безопасността не беше приоритет от самото начало. Испански болници преустановиха диагностичния ИИ, когато одиторите не можаха да проверят процесите на вземане на решения. Шведски държавни агенции отмениха плановете си за автоматизация, когато не успяха да докажат съответствие с GDPR.

Изграждането два пъти (веднъж грешно, веднъж правилно) струва повече от изграждането правилно от самото начало. Европейските служители по обществени поръчки разбират това. Американските рисково инвеститори го научават.

Регулаторни глоби:

Нарушенията на Закона за ИИ на ЕС водят до глоби до 35 милиона евро или 7% от годишния световен оборот, което от двете е по-високо. GDPR вече демонстрира готовността на Европа да налага правила: глоби за 1,6 милиарда евро само през 2023 г. Компаниите, които третират безопасността на ИИ като незадължителна, откриват, че тя е задължителна.

Сметката е проста: инвестирането в безопасност от самото начало струва по-малко от поправянето на грешки след това. Европейските компании научиха това през болезнен опит. Сега го изискват от самото начало.

Културни подходи към безопасността на ИИ

Европейските и американските подходи към безопасността на ИИ се различават фундаментално, не само в регулациите, но и във философията на инженерството.

Подходът на Силициевата долина:

Движи се бързо, чупи неща, повтаряй. Внедри първо, оправяй проблемите после. Безопасността е функция, която добавяш след постигане на съответствие между продукт и пазар. Приемливият процент на откази е каквото потребителите са готови да търпят. Скоростта на иновациите надделява над внимателната проверка. Искай прошка, не разрешение.

Това работи за уеб приложения. Щракнеш грешен бутон, презаредиш страницата. Но медицинска диагноза? Автономни превозни средства? Финансови решения, засягащи човешки животи? Чупенето на неща означава нараняване на хора.

Европейски инженерен подход:

Мери два пъти, режи веднъж. Проверявай преди внедряване. Безопасността е архитектурна, не незадължителна. Приемливият процент на откази се определя от риска, не от толерантността на потребителите. Внимателната проверка позволява устойчиви иновации. Разрешението не е бюрокрация; то е отчетност.

Това идва от векове физическо инженерство. Мостове, които се срутват. Сгради, които се провалят. Медицински лечения, които вредят. Инженерната култура на Европа научи тези уроци през трагичен опит. Същите принципи сега важат за цифровите системи.

Иронията:

Американските компании често изграждат отново ИИ системи, за да отговарят на европейските стандарти, а после откриват, че по-безопасната версия работи по-добре в световен мащаб. Обяснимият ИИ не е просто регулаторно съответствие; той помага да се идентифицират и отстраняват проблемите по-бързо. Стабилното тестване хваща грешките преди потребителите. Човешкият надзор предотвратява верижни откази.

Безопасността не е противоположност на иновацията. Тя е това, което прави устойчивата иновация възможна. Европейците не измислиха тази идея; те просто я запомниха, когато Силициевата долина я забрави.

Практически пътища към по-безопасни ИИ системи

Преминаването от небезопасен към безопасен ИИ изисква конкретни технически промени, не само политики:

Избор на архитектура според риска:

Спрете да използвате една и съща архитектура за всичко. Решенията с високи залози изискват проверими системи. Медицинска диагноза, финансови решения, автономни превозни средства: те изискват обясним, одитируем ИИ. Системи, базирани на ограничения, символно разсъждение, хибридни подходи, които съчетават невронни мрежи с логически правила.

Приложенията с ниски залози (препоръки за съдържание, филтри за изображения, ИИ за игри) могат да търпят черни кутии. Но Европейският регламент за медицинските изделия изрично изисква софтуерът, който взема диагностични решения, да бъде обясним. Избирайте архитектура въз основа на последствията от отказ.

Адаптивно червено тестване:

Преди внедряване наемете хора, които да разбият вашия ИИ. Не изследователи по сигурността, а реални експерти в областта, които разбират как системата ще се използва и злоупотребява. Европейските банки вече изискват адаптивно тестване на ИИ кредитните системи преди регулаторно одобрение. Германските автомобилни компании наемат адаптивни тестери, които прекарват месеци в търсене на гранични случаи, на които автономните системи се провалят.

Това не е скъпо в сравнение с повредите след внедряване. Един месец червено тестване струва по-малко от един ден регулаторни глоби или един съдебен иск за вреди, причинени от ИИ.

Постепенно разгръщане на възможности:

Започнете с ИИ асистенция, не с ИИ автономия. Предлагайте, не решавайте. Показвайте разсъжденията, изисквайте човешко потвърждение. Постепенно увеличавайте автономията само след като демонстрирате безопасност на всяко ниво.

Датските болници внедряват диагностичен ИИ по този начин: първо като инструмент за второ мнение, след това като основен скрининг само за нискорискови случаи, накрая като автономна диагностика за конкретни валидирани състояния. Всяка стъпка е доказано безопасна, преди да се разшири обхватът. За разлика от системите, внедрени с пълна автономия веднага: повредите са предвидими.

Задължителни одити за безопасност:

Външни одити, не вътрешни тестове. Европейските регулатори все повече изискват одити от трети страни за ИИ системи с висок риск. Австрийският орган за защита на данните изисква оценки на алгоритмичното въздействие преди внедряване. Френските сертификационни органи одитират ИИ вземането на решения в публичните услуги.

Независимите одитори откриват проблеми, които вътрешните екипи пропускат, не поради некомпетентност, а просто защото имат свеж поглед и нямат организационен натиск да обявят нещата за безопасни.

Клаузи за прекратяване на ИИ системи:

ИИ системите не трябва да работят безкрайно без повторно валидиране. Данните се променят. Населенията се променят. Появяват се гранични случаи. Европейските договори за обществени поръчки все повече включват задължителни периоди на повторно валидиране: на всеки 12-24 месеца докажете, че системата все още работи правилно, или тя се изключва.

Това предотвратява проблема „внедрено и забравено“, при който ИИ системи, оптимизирани за данни от 2020 г., все още вземат решения през 2025 г. с предвидимо лоши резултати.

Бъдещето на безопасността на ИИ

Изследванията за безопасност са активни. Подобряват се. Няколко направления:

• Конституционен ИИ: Обучение на ИИ с изрични правила. Конституционни ограничения върху поведението. Не просто учене от примери.
• Механистична интерпретируемост: Разбиране на невронните мрежи на по-дълбоко ниво. Не само входове и изходи. Вътрешни механизми. Все още ранен етап, но обещаващ.
• Формална верификация: Математически доказателства за поведението на ИИ. Ограничен обхват засега. Разширява се постепенно. Златният стандарт за гаранции за безопасност.
• Адаптивно обучение: Обучение върху адаптивни примери. Правене на моделите устойчиви на манипулация. Продължаваща надпревара, но напредъкът е реален.
• Стандарти за безопасност на ИИ: IEEE, ISO, правителствени органи. Създаване на стандарти за безопасност на ИИ. Съответствието става задължително.
• Европейски изследвания за безопасност на ИИ: Европейските институции водят в безопасността на ИИ. CLAIRE (Конфедерация на лабораториите за изследване на изкуствения интелект в Европа) изрично приоритизира надеждния ИИ пред показателите за производителност. Германските изследователски институти се фокусират върху сертифицируем ИИ: системи, при които безопасността може да бъде доказана, не просто тествана. Френският INRIA разработва формално верифицирано машинно обучение. Холандските университети изследват алгоритми, устойчиви на пристрастия, по дизайн. Различни приоритети от Силициевата долина „движи се бързо и чупи нещата“. Европейският подход: движи се внимателно и докажи, че работи.

Безопасността се подобрява. Но внедряването често изпреварва безопасността. Разликата е обезпокоителна.

Регулаторният подход на Европа, изискващ безопасност преди внедряване, вместо извинения след настъпила вреда, представлява коренно различна философия. Американските технологични компании гледаха на Закона за ИИ на ЕС като на пречка пред иновациите. Европейските инженери го възприемаха като кодифициране на това, което е трябвало да бъде стандартна практика от самото начало. Разликата между инженерството и предприемачеството: инженерите няма да преминат по мост, проектиран за 10 тона, с камион от 11 тона, колкото и уверени да се чувстват.

Какво трябва да запомните

• 1. Безопасността на ИИ е свързана с реални, настоящи проблеми. Не научна фантастика. Пристрастия, грешки, крехкост. Случва се сега.
• 2. Настоящият ИИ не е безопасен по своята същност. Черни кутии. Зависим от данни. Крехък. Без здрав разум. Безопасността изисква активно инженерство.
• 3. Безопасността изисква множество слоеве. Обяснимост, тестване, надзор, мониторинг. Няма единствено решение. Защита в дълбочина.
• 4. Архитектурата има значение за безопасността. Прозрачните системи позволяват проверка. Бинарните ограничения осигуряват детерминизъм. Избирайте архитектура според случая на употреба.
• 5. Можете да изисквате по-безопасен ИИ. Задавайте въпроси. Изисквайте обяснения. Проверявайте за надзор. Използвайте силата си на потребител/клиент.
• 6. Безопасността е непрекъснат процес, не еднократно действие. Постоянен мониторинг. Бързи реакции. Адаптивно подобрение. Никога не е „готово“.
• 7. Напредък има. Изследванията са активни. Стандартите се появяват. Но внедряването често изпреварва безопасността. Бъдете наясно.

Изводът

Безопасността на ИИ не е за предотвратяване на роботи-владетели. Става въпрос за това днешните ИИ системи да работят правилно, честно и прозрачно. Предотвратяване на вреди, не научна фантастика.

Настоящият ИИ има реални проблеми с безопасността. Непрозрачност. Пристрастия. Крехкост. Те причиняват реални вреди. На реални хора. Точно сега.

По-безопасен ИИ е възможен. Чрез по-добро тестване. Обясними архитектури. Човешки надзор. Непрекъснат мониторинг. Това е инженерство, не магия.

Различните подходи имат различни свойства на безопасност. Системите, базирани на ограничения, предлагат прозрачност. Невронните мрежи предлагат възможности. Избирайте въз основа на изискванията за безопасност, не само на производителността.

Имате сила. Изисквайте безопасност. Изисквайте обяснимост. Настоявайте за надзор. Не приемайте непрозрачни системи за решения с високи залози. Безопасност чрез отчетност.

Бъдещето на ИИ зависи от решаването на въпроса за безопасността. Не за производителността. Производителността вече е впечатляваща. Безопасността изостава. Затворете тази разлика и ИИ става наистина ценен. Оставите ли тази разлика, ИИ остава риск.

Европейските регулатори не създадоха тези изисквания за безопасност, за да защитават европейските компании; те ги създадоха, за да защитават европейските граждани. Но се появи интересен страничен ефект: компаниите, които изграждат ИИ според европейските стандарти за безопасност, откриха, че системите им работят по-добре навсякъде. Обясними решения, които потребителите разбират и на които вярват. Стабилни системи, които се справят с крайни случаи. Проверими разсъждения, които улавят грешките преди внедряването. Оказва се, че безопасността и качеството са силно свързани.

Индустрията на ИИ е изправена пред избор: да се съпротивлява на изискванията за безопасност като на обременителна регулация или да ги приеме като добри инженерни практики. Европейските компании вече направиха този избор. Американските компании се учат, понякога чрез глоби за милиарди долари, понякога чрез катастрофални провали, от време на време чрез действително четене на инженерната литература от индустрии, които решиха въпроса с безопасността преди десетилетия.

Безопасността не е въпрос на страх от ИИ. Тя е за това ИИ да си струва да се използва. Системи, на които можете да се доверите. Решения, които можете да проверите. Технология, която помага, без да вреди. Това не е регулаторна тежест; това е самата същност на изграждането на ИИ.

Искате присъщо по-безопасен ИИ? Разгледайте Dweve Loom. Двоичните ограничения осигуряват изрични, проверими разсъждения. Всяко решение проследимо чрез логически правила. Детерминирано поведение. Видът ИИ, при който безопасността не е нещо добавено после, а е архитектурна основа.