Search

Предметом дослідження є процеси формування пояснень щодо прийняття рішень в системі штучного інтелекту. Пояснення в таких системах дають можливість зробити прозорим та зрозумілим процес формування рішень для користувача і, як наслідок, підвищити довіру користувача до отриманих результатів. Мета роботи полягає у розробці підходу до побудови ймовірнісної каузальної моделі пояснення з урахуванням класів еквівалентності вхідних, проміжних і результуючих даних. Вирішення цієї задачі створює умови для побудови пояснень у формі причинно-наслідкових залежностей на основі доступної інформації про властивості вхідних даних, а також про властивості отриманих у системі штучного інтелекту результатів. Для досягнення мети вирішуються такі задачі: розробка моделі каузальної залежності між класами еквівалентності вхідних та вихідних даних; розробка методів побудови класів еквівалентності даних процесу прийняття рішень та методу побудови причинно-наслідкового представлення пояснення. Запропоновано ймовірнісну модель каузальної залежності, що містить причинно-наслідковий зв’язок між класами еквівалентності вхідних або проміжних та результуючих даних, отриманих у процесі прийняття рішень в системі штучного інтелекту. Цей зв’язок враховує оцінки можливості і необхідності такої залежності. Модель створює умови для пояснення можливих причин отриманого рішення. Запропоновано комплекс методів побудови класів еквівалентності даних процесу прийняття рішень та побудови причинно-наслідкового представлення пояснення, що встановлює каузальний зв’язок між класами еквівалентності. При побудові класів еквівалентності встановлюються відношення обов’язкового і необов’язкового уточнення даних, вимоги або виключення даних, а також кон’юнкції даних. При побудові причинно-наслідкового представлення пояснення розраховується можливість та обмеження необхідності такої залежності, що дає можливість побудувати пояснення на основі доступної інформації про отримані рішення та вхідні і проміжні дані, які були використані для формування цих рішень.

Предметом дослідження є процеси формування ментальної моделі користувача в системах штучного інтелекту. Побудова такої моделі пов'язана з вирішенням проблеми непрозорості та незрозумілості процесу прийняття рішень в таких системах для кінцевих користувачів. Щоб вирішити цю проблему, користувач системи має отримати пояснення щодо отриманого рішення. Пояснення повинно враховувати сприйняття рішення та процесу його прийняття користувачем, що формалізується в рамках ментальної моделі користувача. Ментальна модель враховує використання користувачем явних та неявних знань, останні з яких зазвичай не мають формального представлення. Екстерналізація таких знань забезпечує їх перетворення у формальну форму. Метою роботи є розробка підходу до екстерналізації неявних знань на основі виділення патернів та каузальних залежностей для процесу прийняття рішень в інтелектуальній системі при побудові ментальної моделі користувача. Для досягнення мети вирішуються такі завдання: розробка ментальної моделі користувача системи штучного інтелекту, яка враховує як явні, так і неявні знання, та розробка підходу до екстерналізації неявних знань користувача системи штучного інтелекту. Запропоновано ментальну модель користувача системи штучного інтелекту, яка враховує як явні, так і неявні знання користувача. Модель враховує зв'язки між явними та неявними знаннями користувача щодо системи штучного інтелекту, процесу прийняття рішень, способу використання рішень та загальної концепції інтелектуальної системи. Це створює умови для екстерналізації неявних знань користувача та подальшого використання цих знань при формуванні пояснень щодо процесу прийняття рішень у системі штучного інтелекту. Запропоновано підхід до екстерналізації знань зі статистичного та семантичного шарів ментальної моделі користувача. У практичному плані підхід дозволяє перевести в явну форму умови та обмеження щодо формування та використання рішень у системі штучного інтелекту.

Предметом дослідження є процеси формування пояснень щодо рішення системи штучного інтелекту. Пояснення використовуються для того, щоб користувач зрозумів процес отримання результату і міг більш ефективно застосовувати інтелектуальну інформаційну систему для формування практично прийнятих для нього рішень. Мета роботи полягає у розробці методу оцінки пояснень з урахуванням відмінностей у вхідних даних та відповідному рішенні системи штучного інтелекту. Вирішення цієї задачі дає можливість оцінити відповідність пояснення щодо внутрішньому механізму прийняття рішення в інтелектуальній інформаційній системі незалежно від рівня знань користувача щодо особливостей формування та використання такого рішення. Для досягнення мети вирішуються такі задачі: структуризація оцінки пояснень в залежності від рівня їх деталізації з урахуванням їх відповідності процесу прийняття рішення в інтелектуальній системі та рівню сприйняття користувача такої системи; розробка методу оцінки пояснень на основі їх відповідності процесу прийняття рішення в інтелектуальній системі. Висновки. Виконано структуризацію оцінки пояснень в залежності від рівня їх деталізації. Виділено рівні асоціативних залежностей, прецедентів, каузальних залежностей та інтерактивний, що визначають різний ступінь деталізації пояснень. Показано, що асоціативний та каузальний рівні деталізації пояснень можуть бути оцінені з використанням числових, ймовірнісних або можливісних показників. Прецедентний та інтерактивний рівні потребують суб’єктивної оцінки на основі опитування користувачів системи штучного інтелекту. Розроблено метод можливісного оцінювання відповідності пояснень процесу прийняття рішень в інтелектуальній системі з урахуванням залежностей між вхідними даними та рішенням інтелектуальної системи. Метод містить етапи оцінювання чутливості, коректності та складності пояснення на основі порівняння значень та кількості використаних у поясненні вхідних даних. Метод дає можливість комплексно оцінити пояснення з позицій стійкості до несуттєвих змін у вхідних даних, відповідності пояснення отриманому результату, а також складності обчислення пояснення. У аспекті практичного застосування метод дає можливість мінімізувати кількість вхідних змінних для пояснення при задоволенні обмеження на чутливість пояснення, що створює умови для більш ефективного формування тлумачення на основі використання підмножини ключових вхідних змінних, які мають суттєвий вплив на отримане в інтелектуальній системі рішення.

Предметом дослідження є процеси формування пояснень щодо отриманих в системах штучного інтелекту рішень. Для вирішення проблеми непрозорості прийняття рішень в таких системах користувачі мають отримати пояснення щодо отриманих рішень. Пояснення дозволяє довіряти цим рішенням та забезпечити їх використання на практиці. Мета роботи полягає у розробці концептуальної ментальної моделі пояснення для визначення базових залежностей, що визначають зв’язок між вхідними даними, а також діями з отримання результату в інтелектуальній системі, та її кінцевим рішенням. Для досягнення мети вирішуються такі задачі: структуризація підходів до побудови ментальних моделей пояснень; побудова концептуальної ментальної моделі пояснення на основі об’єднаного представлення знань користувача.. Висновки. Виконано структуризацію підходів до побудови ментальних моделей пояснень в інтелектуальних системах. Ментальні моделі призначені для відображення сприйняття пояснення користувачем. Виділено каузальний, статистичний, семантичний та концептуальний підходи до побудови ментальних моделей пояснення. Показано, що концептуальна модель задає узагальнені схеми та принципи щодо процесу функціонування інтелектуальної системи. Її подальша деталізація виконується на основі каузального підходу у випадку побудови пояснення для процесів, статистичного підходу при побудові пояснення щодо результату роботи системи, а також семантичного при узгодженні пояснення із базовими знаннями користувача. Запропоновано трирівневу концептуальну ментальну модель пояснення, що містить рівні концепції щодо базових принципів функціонування системи штучного інтелекту, пояснення, що деталізує цю концепцію у прийнятному та зрозумілому для користувача вигляді, а також базових знань про предметну область, які є основою для формування пояснення. У практичному аспекті запропонована модель створює умови для побудови та упорядкування множини узгоджених пояснень, які описують процес та результат роботи інтелектуальної системи з урахуванням можливості їх сприйняття користувачем.

Предметом дослідження є процеси формування пояснень в інтелектуальних інформаційних системах. В сучасних інтелектуальних системах використовуються методи машинного навчання. Процес отримання рішення, сформованих на основі таких методів, є зазвичай непрозорим для користувача. Внаслідок такої непрозорості користувач може не довіряти тим рішенням, які запропонувала інтелектуальна система. Це знижує ефективність її використання. Для підвищення прозорості рішень використовуються пояснення. Пояснення представляється знаннями щодо причин формування результату в інтелектуальній системі, а також щодо причин окремих дій у процесі формування результату. Також пояснення може містити знання щодо впливу окремих функцій на отриманих інтелектуальною системою результат. Тому пояснення доцільно формувати на різних рівнях деталізації з тим, щоб показати як узагальнені причини та впливи на отримане рішення, так і причини вибору окремих проміжних дій. Мета роботи полягає в розробці узагальненої моделі пояснення з урахуванням станів та рівнів деталізації процесу прийняття рішення в інтелектуальній системі для побудови пояснень на основі відомих даних щодо послідовності станів та властивостей цих станів. Для досягнення мети вирішуються такі задачі: структуризація властивостей пояснень; визначення можливостей підходів до побудови пояснень на основі станів та структури процесу формування рішення, а також на основі вхідних даних; побудова моделі пояснення. Висновки. Запропоновано узагальнену модель пояснення в інтелектуальній системі для локального, групового та глобального рівнів деталізації процесу прийняття рішення .Модель представляється упорядкованою послідовністю зважених залежностей між подіями або станами процесу прийняття рішення. Модель орієнтовано на представлення можливості в рамках глобального пояснення виділити локальне пояснення та представити ланцюжок групових пояснень між подіями отримання вхідних даних та результуючого рішення. У практичному плані запропонована модель призначена для побудови пояснень з використанням підходів на основі спрощення процесу функціонування інтелектуальної системи та на основі виділення впливу окремих функцій та дій на кінцевий результат. Додаткові можливості моделі пов’язані із деталізацією подій процесу прийняття рішення з виділення окремих змінних, які характеризують стан цього процесу, що дає можливість формувати пояснення на основі використання відомих концепцій та понять у предметній області.

Предметом дослідження є процеси формування причинно-наслідкових зв’язків між станами сутностей предметної області у процесі функціонування інтелектуальної інформаційної системи. Дані каузальні зв’язки відображають залежності, які лежать в основі процесу отримання результату в інформаційній системі, і тому вони можуть бути використані для формування пояснень щодо цього процесу. Пояснення відображає знання щодо причин та наслідків як щодо отриманого результату в цілому, так і щодо окремих дій процесу прийняття рішення в інформаційній системі. Використання таких знань підвищує довіру користувача до отриманих від інформаційної системи рішень. Мета роботи полягає в розробці реляційно-темпоральної моделі представлення множини взаємопов’язаних сутностей предметної області, які є об’єктом формування рішення в інформаційній системі, з тим, щоб створити умови для виявлення каузальних залежностей щодо процесу формування рішення в такій системі. Для досягнення сформульованої мети вирішуються такі задачі: структуризація залежностей між сутностями предметної області у атрибутивному та темпоральному аспектах; визначення обмежень щодо процесу отримання рішення в інформаційній системі на основі статичних залежностей між сутностями; визначення темпоральних зв’язків в рамках одного класу сутностей як відображення каузальних залежностей між сутностями у процесі отримання рішення в інтелектуальній системі; побудова реляційно-темпоральної моделі взаємопов’язаних сутностей предметної області. Висновки. Виконано структуризацію статичних та динамічних залежностей між сутностями предметної області, що є об’єктом формування рішення в інформаційній системі. Визначено статичні обмеження щодо процесу формування рішення, які пов’язані із властивостями предметної області. Визначено темпоральні залежності між сутностями предметно області, які відображають причинно-наслідкові зв’язки між діями процесу з формування рішення. Запропоновано реляційно-темпоральну модель пов’язаних сутностей предметної області, що містить класи еквівалентності сутностей, статичні залежності між властивостями різних класів еквівалентності, а також темпоральні залежності між властивостями в рамках кожного класу. Модель дає можливість перевірити обмеження на процес формування рішення на основі статичних зв’язків між сутностями предметної області, а також визначити можливі послідовності зміни властивостей сутностей у часі, що створює умови для побудови каузальних залежностей, які лежать в основі процесу формування рішення. Отримані каузальні залежності є ключовим елементом пояснень щодо процесу функціонування інформаційної системи.

Предметом дослідження є процеси побудови пояснень на основі причинно-наслідкових зв'язків між станами або діями інтелектуальної системи. Пояснення представляє собою знання про послідовність причин та наслідків, які визначають процес та результат роботи інтелектуальної інформаційної системи. Мета роботи полягає в розробці контрфактуальної темпоральної моделі причинно-наслідкових зв'язків у складі пояснення процесу функціонування інтелектуальної системи з тим, щоб забезпечити виявлення каузальних залежностей на основі аналізу журналів поведінки такої системи. Для досягнення сформульованої мети вирішуються такі задачі: визначення темпоральних властивостей контрфактуального опису причинно-наслідкових зв'язків між діями або станами інтелектуальної інформаційної системи; розробка темпоральної моделі каузальних зв'язків, що враховує як факти виникнення подій в інтелектуальній системі, так і можливість виникнення подій, що не впливають на формування поточного рішення. Висновки. Виконано структуризацію темпоральних властивостей каузальних зв'язків для пар подій, які виникають послідовно в часі, або мають проміжні події. Такі зв'язки представлено альтернативними причинно-наслідковими зв'язками з використанням темпоральних операторів «Next» та «Future», що дає можливість реалізувати контрфактуальний підхід до представлення причинності. Запропоновано контрфактуальну темпоральну модель причинно-наслідкових зв'язків, яка визначає детерміновані каузальні зв'язки для пар послідовних подій та пар подій, між якими є інші події, що визначає властивість транзитивності таких залежностей і, відповідно, створює умови для опису послідовності причин та наслідків у складі пояснення в інтелектуальній системі з заданим ступенем деталізації. Модель забезпечує можливість визначення причинно-наслідкових зв'язків, між якими є проміжні події, які не впливають на кінцевий результат роботи інтелектуальної інформаційної системи.

The subject of research in the article is is the processes of constructing explanations in intelligent systems using causal relationships. The aim is to develop a representation of the entities of the subject area, taking into account the temporal aspect in order to represent the binary relations in time between the properties of the same entity. The construction of temporal relations between the properties of entities makes it possible to determine the probabilistic causal relationships between the states of these entities and use these dependencies to form explanations for the implemented decision-making process in the intelligent system, taking into account possible alternatives. Tasks: structuring the objects of the subject area, taking into account their essential properties for the decision-making process, including temporal; definition of classes of essences of subject area; determination of equivalence classes of entities of the subject area taking into account changes in the properties of these entities over time; development of a temporal model of representation of essences of subject area for construction of explanations in intellectual systems on the basis of definition of dependences in time between properties of essences. The approaches used are: set-theoretic approach, which is used to describe the classes of entities and classes of equivalence of entities of the subject area; linear temporal logic, which provides a representation of the relationship between entities in the temporal aspect. The following results were obtained. The structuring of the objects of the subject area is performed taking into account their properties, which are used in the decision-making process in the intellectual system; defined classes of entities; the classes of equivalence of entities of the subject area are defined as a kind of class of entities with the same values of key attributes, which makes it possible to take into account changes in these values over time; a temporal model of representation of the essences of the subject area is developed, which takes into account their static, dynamic properties and properties of time. Conclusions. The scientific novelty of the results is as follows. An equivalence class for entities is distinguished, which contains entities with the same key static properties and different dynamic properties considering the time of their change, which allows to reflect changes in the state of the entity in the decision-making process in the intelligent system. The temporal model of representation of essences of subject area which contains classes of equivalence of essences, and also temporal communications between properties of elements of these classes is offered. The selection of classes of equivalence of entities makes it possible to present the decision-making process in the intellectual system in the form of a sequence of temporal connections between the properties of entities of the subject area, and to form on this basis casual relationships between states of entities.

The subject of study in the article is the processes of constructing explanations in recommendation systems. Objectives. The goal is to develop a method of constructing patterns that reflect the dynamics of user preferences and provide an opportunity to form an explanation of the recommended list of items, taking into account changes in the user’s requirements of the recommendation system. Construction of explanations taking into account the dynamics of changes in consumer preferences makes it possible to increase user confidence in the results of the intelligent system. Tasks: structuring models of temporal patterns of parallel-alternative and sequential-alternative users’ choice of the recommendation system; development of a method for constructing patterns of changing user preferences using process mining technology; experimental verification of the method for constructing patterns of changing consumer preferences. The approaches used are: temporal logics, which determine the approaches to the description of the temporal ordering of a set of events. The following results are obtained. The structuring of models of temporal patterns of parallel-alternative and sequential-alternative users’ choice of the recommendation system is performed; developed and performed an experimental test of the method of constructing patterns of user preferences dynamics. Conclusions. The scientific novelty of the results is as follows. The method of dynamics patterns construction of users’ preferences for the formation of explanations concerning the recommended list of subjects is offered. The method sequentially generates a set of ordered events, each of which reflects the choice of the subject by a group of users at a certain time interval, and also builds a graph representation of the patterns of user preferences through intellectual analysis of processes. The patterns obtained as a result of the method consist of time-ordered pairs of events that reflect the knowledge of changing user preferences over time. Further use of such dependencies as elements of the knowledge base makes it possible based on probabilistic inference to build a set of alternative explanations for the received recommendation, and then arrange these explanations according to the probability of their implementation for the recommended list of subjects.

Предметом дослідження є процеси побудови моделей прототипів бізнес-процесів «AS–IS», що відображають поточну діяльність підприємства. Для побудови моделі «AS–IS» використовуються журнали подій, що містять запис реалізованих при функціонуванні підприємства операцій із мітками часу. Побудова процесної моделі «AS–IS» в використанням логів виконується засобами інтелектуального аналізу процесів. Результуюча модель прототипу бізнес-процесу має вигляд графу, що відображає всі відомі із журналу подій його реалізації. Метою роботи є підвищення ефективності впровадження процесного управління шляхом розробки технології побудови моделей прототипів процесу «AS–IS» в умовах неупорядкованих по бізнес-процесам та помилкових вхідних даних. Для досягнення поставленої мети в статті вирішуються такі задачі: розробка технології формування моделей прототипів бізнес-процесів; експериментальна перевірка технології. Отримано наступні результати. Розроблено технологію автоматизованої побудови прототипів моделей бізнес-процесів «AS–IS», яка містить у собі етапи структуризації журналів подій у процесно-орієнтовану форму і подальшої побудови моделей бізнес-процесів методами інтелектуального аналізу процесів. Розроблена технологія дозволяє отримати графову модель прототипу бізнес-процесу, яка використовується при впровадженні процесного управління в рамках першого та другого рівнів процесної зрілості. На базі отриманої моделі «AS–IS» формується удосконалена процесна модель «TO–BE». Проведена експериментальна перевірка показала, що розроблена технологія забезпечує побудову процесно-орієнтованого лога та подальше формування моделі прототипу бізнес-процесу, що відображає поточну діяльність підприємства.

Предметом дослідження є процеси побудови пояснень щодо запропонованих інтелектуальною інформаційною системою рішень. Пояснення подає в упорядкованому вигляді знання щодо результатів роботи інтелектуальної системи з урахування контексту його побудови. Мета полягає в розробці підходу до побудови опису знань для представлення пояснення, що забезпечує можливість тлумачення рішень інтелектуальної системи у онлайн-режимі, з використанням найбільш актуальних залежностей щодо стану предметної області та потреб користувача. Для досягнення поставленої мети вирішуються такі задачі: постановка узагальненої задачі формування пояснення та формулювання принципів її вирішення; визначення принципів побудови опису знань для пояснення; розробка підходу до побудови пояснення на основі інтеграції декларативного опису предметної області та темпорального опису процесу прийняття рішення. Запропоновано узагальнену постановку задачі формування пояснення у формі знаходження моделі тлумачення, що дає можливість мінімізувати неточність опису процесу отримання рішення відносно моделі процесу функціонування інтелектуальної системи в умовах обмежень на складність пояснення. Сформульовано принципи вирішення задачі побудови пояснення, які передбачають послідовне формування декларативного опису предметної області у вигляді відповідної онтології, а також опису процесу прийняття рішення в інтелектуальній системі на основі темпоральних правил, що дає можливість адаптувати пояснення на основі формального опису змін у предметній області. Запропоновано декларативно-темпоральний підхід до побудови пояснення в інтелектуальній інформаційній системі. Згідно даного підходу послідовно вирішуються задачі деталізації цілей пояснення в рамках визначеної концепції на основі використання онтології предметної області, формування пояснення з урахуванням структури інтелектуальної системи та взаємодії її складових, персоналізації пояснення у відповідності до вподобань користувача. Даний підхід дає можливість оперативно актуалізувати витлумачення, що створює умови для побудови пояснень в режимі онлайн.

Предметом дослідження є процеси побудови пояснень щодо отриманих результатів в інтелектуальних інформаційних системах. Пояснення роблять прозорим процес створення результуючої рекомендації, формують умови для створення користувачем причинно-наслідкових зв’язків між результатом виводу та поточними задачами, для вирішення яких була використана інтелектуальна система. Мета полягає в розробці моделі пояснення в інтелектуальній системі з можливістю забезпечити узгоджене з результатами роботи такої системи витлумачення з урахуванням контекстно-орієнтованих вимог щодо потреб користувачів. Для досягнення поставленої мети вирішуються задачі визначення вимог до пояснення щодо результатів роботи інформаційної системи, та розробки моделі пояснення на базі принципів узгодження знань з тим, щоб отримати рекомендації на основі відповідності фактів, гіпотез, результатів. Показано, що при узгодженні інтересів користувача та можливостей інтелектуальної системи необхідно визначити деталізацію знань з урахуванням інтервалу актуальності даних та знань, а також фінансових та технічних та інших особливостей використання отриманих результатів. Запропоновано модель пояснення в інтелектуальній системі на базі узгодження знань та даних. Модель містить множини узгоджених фактів, гіпотез та результатів. Узгодження виконується для гіпотез, які є підмножинами інших гіпотез, на основі пояснень гіпотез через факти та інші гіпотези, а також на базі відповідн ості між собою отриманих результатів та гіпотез. Моделі дає можливість обмежити використання неявних та неточних знань в рамках виводу лише їх узгодженою підмножиною. У практичному плані використання моделі орієнтовно на побудову пояснень згідно ступеню абстракції, рівня деталізації опису предметної області, а також з урахуванням вибраного аспекту витлумачення отриманої рекомендації. В цілому формування пояснень на основі узгодження знань підвищує довіру користувачів та створює умови для ефективного використання отриманих рекомендацій.

The subject of research in the article is the processes of constructing explanations in intelligent systems based on the use of causal dependencies. The aim is to develop a hierarchical representation of causal relationships between the actions of an intelligent system to form an explanation of the process of the system's operation with a given degree of generalization or detailing. Representation of the hierarchy of cause-and-effect relationships allows you to form an explanation at a given level of detail using the input data in the form of a temporally ordered sequence of events reflecting the known actions of an intelligent system. Tasks: structuring the hierarchy of cause-and-effect relationships for known variants of the decision-making process in an intelligent information system, considering the temporal ordering of the corresponding actions; development of a model of a multi-level representation of causal dependencies for description for explanations in an intelligent system. The approaches used are: counterfactual analysis of causality, used to describe alternative dependencies for possible decision-making options; linear temporal logic to reflect the temporal aspect of causation. The following results were obtained. A generalized hierarchy of cause-and-effect relationships is highlighted for the known variants of the process of obtaining recommendations in an intelligent information system based on the temporal ordering of the corresponding decision-making actions. A model of hierarchical representation of causal dependencies has been developed to describe explanations in an intellectual system with a given degree of detail. Conclusions. The scientific novelty of the results obtained is as follows. A model of hierarchical representation of time-ordered causal relationships is proposed to describe the explanations of the operation of an intelligent system with a given degree of detail. At the top level of the hierarchy, the model defines a generalized causal relationship between the event of using the input data and the event of the result of the system's operation. This connection describes the current task that the intelligent information system solves. At the lower level, cause-and-effect relationships are set between events sequential in time, between which there are no other events. At intermediate levels of the hierarchical representation, the causal dependencies of pairs of events are determined, between which there are other events. The developed model creates conditions for constructing explanations with a given degree of detailing of the actions of the decision-making process in an intelligent system. The model also provides the ability to describe early and late anticipation of alternative sequences of the decision-making process by describing causal dependencies for events between which there are other events.

Subject: the use of the apparatus of temporal logic and probabilistic approaches to construct an explanation of the results of the work of an intelligent system in order to increase the efficiency of using the solutions and recommendations obtained. Purpose: development of a method for constructing explanations in intelligent systems with the ability to form and evaluate several alternative interpretations of the results of the operation of such a system. Tasks: justification for the use of the black box principle for interactive construction of explanations; development of a pattern explanation model that provides for probabilistic estimation; development of a method of interactive construction of explanations on the basis of the probabilistic approach. Methods: methods of data analysis, methods of system analysis, methods of constructing explanations, models of knowledge representation. Results: A model of the explanation pattern is proposed, which contains temporal regulations reflecting the sequence of user interaction with an intelligent system, which allows the formation of explanations based on a comparison of the actions of the current user and other well-known users. An interactive method for constructing explanations based on a probabilistic approach has been developed; the method uses patterns of user interaction with an intelligent system and contains phases of constructing patterns of explanations and forming explanations using the obtained patterns. The method organizes the received explanations according to the likelihood of use, which makes it possible to form target and alternative explanations for the user. Conclusions: The use of the black box principle for the development of a probabilistic approach to the construction of explanations in intelligent systems has been substantiated. A model of a pattern of explanations based on temporal regulations is proposed. The model reflects the sequence of user interaction with the intelligent system when receiving decisions and recommendations and contains an interaction pattern as part of temporal regulations that have weight, and also determines the likelihood of using the user interaction pattern. An interactive method for constructing explanations has been developed, considering the interaction of the user with the intelligent system. The method includes phases and stages of the formation of regulations and patterns of user interaction with the determination of the probability of their implementation, as well as the ordering of patterns according to the probability of their implementation. The implementation of the method was carried out when constructing explanations for recommender systems.

The subject matter of the article is the processes of automated construction of explanations on the operation of an intelligent system for use in the human-computer interface. The goal is to develop a dynamic model of explanation for the human-computer interface using temporal knowledge about the process of functioning of the intelligent system. Temporal knowledge makes it possible to set possible sequences of decision-making actions in an intelligent system based on the known temporal order for pairs of such actions. Tasks: to develop an approach to constructing explanations for the operation of an intelligent system based on the use of temporal knowledge; development of a three-aspect model of explanations using temporal knowledge. The approaches used are: approaches to the construction of knowledge representation based on temporal dependencies, approaches to the construction of chatbot answers using rules, as well as with their automatic generation. The following results are obtained. The structuring of aspects of explanation taking into account the possibilities of their description with the help of temporal knowledge is performed; a temporal approach to constructing an explanation is proposed; a dynamic explanation model using temporal rules has been developed. Conclusions. The scientific novelty of the results is as follows. A temporal approach to constructing explanations for the operation of an intelligent system is proposed. The approach describes explanation as a process consisting of a temporally ordered sequence of facts. The order of time for pairs of facts is determined by temporal rules. Such rules may define the explanation process with varying degrees of detail over time, depending on the request for clarification. Detailed explanations reflect the subject area model and include the basic and alternative sequences of actions performed by the intelligent system. The explanation of the basic patterns of the intelligent system makes it possible to interpret the limitations that affect the obtained solution. The explanation of the system as a whole provides an implicit reflection of the key causal relationships, which allows you to get a simplified interpretation of the results of the intelligent system. A dynamic model of describing explanations based on temporal knowledge for use in the human-computer interface is proposed. The model takes into account the description of actions in the subject area, the patterns of these actions, as well as generalized causal relationships between such patterns. The model provides an opportunity to present the dynamics of the process of functioning of the intelligent system with the required level of detail, as well as change the level of detail to clarify the explanation at the request of the user.

The subject matter of the article are the processes of constructing explanations in intelligent systems. Objectives. The goal is to develop a temporal representation of causality in order to provide a description of the process of the intelligent system as part of the explanation, taking into account the temporal aspect. As a result, it provides an opportunity to increase user confidence in the results of the intelligent system. Tasks: structuring of causal dependences taking into account the decision-making process in the intellectual system and its state; development of a temporal model of causality for explanations in the intellectual system. The approaches used are: approaches to the description of causality between the elements of the system on the basis of causal relationships, on the basis of probabilistic dependencies, as well as on the basis of the physical interaction of its elements. The following results were obtained. The structuring of causal dependences for construction of explanations with allocation of causal, probabilistic communications, and also dependences between a condition of intellectual system and the recommendations received in this system is executed. A model of causal dependences in an intelligent system is proposed to construct explanations for the recommendations of this system. Conclusions. The scientific novelty of the results is as follows. The model of causal dependences which are intended for construction of the explanation in intellectual system is offered. This explanation consists of a chain of causal relationships that reflect the sequence of decision-making over time. The model covers the limitations and conditions of the formation of the result of the intelligent system. Constraints are represented by causal relationships between key performance actions. Restrictions must be true for all explanations where they are used. Conditions determine the probable relationships between such actions in the intellectual system. The model takes into account the influence of key parameters of the state of the intelligent system on the achievement of the result. The presented model provides an explanation with varying degrees of detail based on the definition of the temporal sequence of actions, as well as taking into account changes in the states of the intelligent system.

The subject matter of the article is the process of building a personalized list of objects in recommendation systems. The goal is to develop a generalized formal description of the multi-level presentation of explanations in recommendation systems to personalize these explanations, taking into account the features of the use of recommended subjects. Such a description provides a formal framework for constructing a multi-level model of explanation, taking into account the static and dynamic characteristics of the subject area. Tasks: structuring the multi-level presentation of explanations in recommendation systems taking into account differences in the possibilities of personalizing explanations using data and knowledge; development of a formal presentation of explanations at the levels of data, information, knowledge and metacognition, taking into account the relationships between these levels. The approaches used are: approaches to the construction of explanations based on the similarity of user interests and properties of user demand items. The following results are obtained. The levels of explanation description are structured taking into account knowledge about the context of consumer choice. A formal description of the multi-level presentation of explanations in recommendation systems is proposed. Conclusions. The scientific novelty of the results is as follows. A formal description of the explanations of the recommended personal list of objects in the form of a hierarchy of levels of data, information, knowledge and meta-knowledge about user behavior and characteristics of objects is proposed. At the data level, a description of the variables and their values is given, taking into account the instant of occurrence of these values. Information at the next level is represented by the relationships between individual facts. Knowledge is represented by causal or temporal explanatory rules that generalize the relationship of the information level to a subset of facts. Meta-knowledge sets the key patterns that determine the benefits and relevance of the proposed choice for the user of the recommendation system. In a practical aspect, the proposed formalization of explanations determines the typical sequence of constructing and personalizing multilevel explanations regarding recommendations, taking into account the characteristics of the subject area.

The problem of formation of input data for construction of models of business processes by methods of the intellectual analysis of processes is studied. It is shown that event logs of real information systems do not always meet the requirements of the ordering of input data on processes, that is, a log can have one track with events from different business processes. The tasks of analysis of trace characteristics in the business process event log and the development of methods for forming process events information order tracks organized on the basis of the comparison of event attributes and on the basis of comparison with the invariants of the event attributes of the business process logs are organized in the processes of the log of events events of the process management information system. The first method generates business process log lines based on pairwise comparison of event attributes based on the criterion for maximizing the number of shared attribute values for this pair. The method sequentially selects events from the common path for several business processes, and after pairwise comparison of the attributes with the events of the traces of specific business processes, determines the belonging of the next event to the path of the corresponding process. When comparing, the end event of the business process is also detected. The second method generates log lines based on the comparison of the invariant of the event attributes and the event, which is analyzed by the criterion of maximizing the weight of the values of the common attributes. Unlike the first method, when choosing a new business process, an invariant is created in the form of a sum of weights of the values of the attributes of the log of the business process. The scales of attribute values reflect the number of occurrences of these values in the execution of the business process. This allows you to take into account the history of the implementation of the business process in implementing the method. In practical terms, both proposed methods allow the formation of a set of business process event logs that are executed in parallel in a format suitable for use of methods and technologies of the intellectual analysis of proces ses. The first method has a lower accuracy. However, its advantage is the ability to use in the presence of only a joint path of several business processes, without the previously known orderly traces log of each business process. The second method allows you to increase the accuracy of the highlighting of the event path for each business process. The disadvantage of this method is that it requires a priori formation of the invariant of the attributes of the business process events.

The subject matter of the article is the construction of a rating list of goods and services in recommendation systems. The goal is to develop a knowledge representation model in recommendation systems using the white box principle. Such a model contains knowledge about the possible sequences of choosing restrictions on the properties of goods and services according to user preferences. The recommender system should provide a reasonable choice of the object according to the requirements of the user, subject to restrictions on the key properties of this object. Tasks: to structure the process of applying the principles of black and white boxes when building recommendations based on the use of a knowledge base; develop knowledge representations according to the principle of the white box in order to combine a static description of the properties of objects and a description of possible sequences for clarifying the requirements for the properties of these objects. The principles used are: the principle of the white box, which provides an account of requirements that take into account the properties of the constituent elements of the object selected by the consumer. The following results are obtained. The key features of the processes of forming recommendations on the principles of black and white boxes based on the use of the knowledge base are highlighted. The knowledge representation is developed according to the principle of the white box, which allows taking into account both the properties of objects and the process of their selection by the consumer. Conclusions. The scientific novelty of the results is as follows. A model for representing knowledge in a recommendation system according to the principle of a white box is proposed. The declarative aspect of this representation of knowledge is implemented in the form of predicates that define restrictions on the values of the properties of objects offered to the consumer. The procedural aspect is implemented in the form of adapted temporal dependencies that specify the sequence of refinement of time limits. This model combines the advantages of approaches based on the similarity of customer requirements and the similarity of product characteristics, which makes it possible to adjust recommendations online for a cold start situation. With this adjustment, it is advisable to use the similarity of the user selection processes for given requirements for goods.

The subject matter of the article is the process of designing of explanations in the recommender system. The goal is to develop a conceptual model for designing explanations in recommender systems based on the black box principle. Such a model binds the conditions, the result and the constraints on the choice of objects from the user's position. The user should receive justification of the recommendations taking into account context-oriented possibilities of using the proposed objects. Tasks: to adapt the principle of a black box to the task of constructing explanations in the recommender system; to develop a conceptual scheme for constructing explanations according to the functional principle; to develop a conceptual model for the designing` of explanations based on the principle of a black box. The principle used is: functional, or the principle of a black box. The following results are obtained. The principle of the black box to the problem of constructing explanations in the recommender system was adapted. The conceptual scheme of constructing explanations on the basis of a functional principle is developed, taking into account both the properties of objects and the sequences of their use. The conceptual model of the explanation based on the black box principle is developed. Conclusions. Scientific novelty of the results is as follows. The conceptual model for constructing explanations with recommendations on the functional principle or the principle of a black box is proposed. The model takes into account the characteristics of subjects and consumers, information on the use of objects in the subject area, as well as recommendations in the form of a list of objects. The advantage of using the proposed model lies in the fact that it takes into account the methods of applying the recommended objects for constructing explanations. This creates conditions for personalizing recommendations in cases of a cold start of the recommender system, as well as artificial increase in the ratings of individual items.