Презентація на тему:
Використання мереж Байєса з прихованими вершинами при математичному моделюванні

Науковий керівник: к.т.н., м.н.с. асистент каф. “ММСА” Терентьєв О.М. Київ - 2010 Виконав: cтудент гр. КА-46м Давиденко В.І. “Використання мереж Байєса з прихованими вершинами при математичному моделюванні” Слайд * з 54

Постановка задачі дослідження Провести огляд існуючих методів побудови мереж Байєса за умови наявності неспостережуваних змінних Розробити методику побудови та знаходження параметрів байєсових мереж з прихованими вершинами Розробити оригінальну архітектуру та реалізувати комп'ютерну систему підтримки прийняття рішень для аналізу даних з використанням БМ, зокрема для випадку наявності прихованих вершин Протестувати реалізовану систему на еталонних мережах з метою визначення адекватності та точності запропонованої методики Слайд * з 54

Системний аналіз - науковий метод пізнання, що представляє собою послідовність дій з установлення структурних зв'язків між змінними або елементами досліджуваної системи. Поняття системного аналізу Історичний розвиток системних ідей 2500-2000 р. до .н.е 400-300 р. до н.е. 1500 р.р. 1600 р.р. 1700-1800 р.р. 1920-ті р.р. 1940-і р.р. 1950-ті р.р. 2000-… Поява слова "система" в Др. Греції Демокріт, Арістотель Коперник Галілей, Ньютон Ламберт, Кант Фіхте, Гегель Богданов Л. фон Берталанфі Вінер Згуровський, Панкратова Ціле більше суми його частин Геліоцентрична картина світу Ціле-частина, причина-наслідок… Системність наукових знань Ідеї кібернетики Концепція організму як системи Кібернетика Системной підхід, системна методологія Слайд * з 54

Основні етапи процедури прийняття рішень формулювання проблемної ситуації; визначення цілей; визначення критеріїв досягнення цілей; побудова моделей для обґрунтування рішень; пошук оптимального (допустимого) варіанту рішення; узгодження рішення; підготовка рішення до реалізації; затвердження рішення; управління ходом реалізації рішення; перевірка ефективності рішення. Слайд * з 54

Типи проблем системного аналізу Добре структуровані (well-structured) – істотні залежності з'ясовані дуже добре Неструктуровані (unstructured) – містять лише опис найважливіших ресурсів, ознак і характеристик, кількісні залежності між якими абсолютно невідомі Слабоструктуровані (ill-structured) – містять як якісні, так і кількісні елементи Математичне програмування Дослідження операцій Теорія евристичних рішень Методологія системного аналізу СППР Слайд * з 54

Слабоструктуровані проблеми Cлабоструктуровані, або змішані – проблеми, що містять як якісні, так і кількісні елементи. Маловідомі, невизначені сторони, залежності, ознаки та характеристики, що не піддаються кількісному аналізу, домінують в таких проблемах. Задача не може бути виражена в числовій формі. Цілі не можуть бути виражені в термінах точно визначеної цільової функції. Розв'язання проблем, що мають "слабоструктурований характер", є основним завданням системного аналізу. Слайд * з 54

Інструменти розв’язання слабоструктурованих проблем імітаційне моделювання; кореляційний, регресійний та кластерний аналіз; методи статистичної класифікації; методи аналізу ієрархій; теорія матриць; теорія експертних оцінок; нечітка логіка; нейронні мережі; генетичні алгоритми; мережі Байєса. Слайд * з 54

Що таке мережа Байєса? Представлення БМ Направлений ациклічний граф Множина параметрів, що визначають мережу Параметри мережі – множина умовних ймовірнісних розподілів - множина предків змінної Повна спільна ймовірність мережі: Слайд * з 54

Типи байєсових мереж Дискретні БМ – мережі, вершини яких представлені дискретними величинами. Неперервні БМ – мережі, в яких змінні вузлів – це неперервні величини. У багатьох випадках події можуть приймати будь-які стани з деякого діапазону. Слайд * з 54

Типи байєсових мереж Динамічні БМ – мережі, у яких значення вузлів змінюються з часом (hidden markov models, kalman filter models) Гібридні БМ - мережі, які містять вузли з дискретними та неперервними змінними. Слайд * з 54

Випадки навчання мереж Байєса Структура Спостереження Метод Відома Повні Максимальна оцінка правдоподібності Відома Часткові Градієнтні методи, EM-алгоритм (максимізація математичного сподівання), застосування вибірки Гіббса Невідома Повні Пошук в просторі моделей Невідома Часткові Структурний EM-алгоритм, алгоритм стиснення границь Слайд * з 54

Невідома структура, повні спостереження Для побудови структури мережі за повними даними використовувався модифікований евристичний алгоритм Модифікація: для зменшення складності задачі побудови БМ формувалась впорядкована множина вершин на основі декількох методів оцінки взаємозв’язку між вершинами Використання функції опису мінімальною довжиною як оціночної функції Слайд * з 54

Невідома структура, повні спостереження Для побудови впорядкованої множини вершин (ВМВ) використовувались такі методи оцінки взаємозв’язку між вершинами: значення взаємної інформації міри на основі статистики : коефіцієнт Пірсона коефіцієнт Чупрова коефіцієнт Крамера коефіцієнт лямбда Гудмана Методи оцінки взаємозв’язку між вершинами Слайд * з 54

Невідома структура, повні спостереження Значення функції ОМД довільної структури g при заданій послідовності з n спостережень обчислюється за формулою: Функція опису мінімальною довжиною де - це значення емпіричної ентропії, а k(g) – кількість незалежних умовних ймовірностей в структурі g. ОМД j-ї вершини обчислюється за формулою: а кількість незалежних умовних ймовірностей j-ї вершини: Слайд * з 54

Невідома структура, повні спостереження Евристичний алгоритм побудови БМ Вхідні дані: Множина навчальних даних n – кількість спостережень; N – кількість вершин (змінних) Перший етап. Побудова ВМВ Другий етап. Крок 1. На основі 1-го значення ВМВ будується множина моделей G: Крок 2. Пошук серед моделей множини G. Оптимальна структура має найменше значення функції 1. 2. для , якщо , то 3. на вихід в якості рішення подається Крок 3. Для наступного значення ВМВ будується множини моделей G : Перехід на крок 2. Умова завершення алгоритму. Перегляд частини або всіх елементів ВМВ Слайд * з 54

Для чого необхідні приховані вершини в мережах Байєса? Мережа з прихованою вершиною “Хвороби серця” – кількість параметрів 78 Діагностична мережа для сердечного захворювання з можливістю існування прихованої змінної; кожна змінна має по 3 можливі стани. Мережа з видаленою вершиною “Хвороби серця” - кількість параметрів 708 Слайд * з 54

Застосування прихованих вершин в мережах Байєса Переваги: спрощення структури мережі зменшення кількості параметрів, необхідних для визначення БМ, а це в свою чергу дозволяє різко зменшити об’єм даних, необхідних для визначення в процесі навчання цих параметрів Недоліки: ускладнення задачі навчання у разі невідомої структури мережі невирішеною проблемою залишається визначення кількості прихованих вершин, місце їх розташування та кількість станів кожної з них Слайд * з 54

Відома структура, приховані вершини Питання, що потребують вирішення: Скільки станів повинна мати прихована вершина? Як умовні ймовірності можуть бути знайдені без даних? Методи навчання параметрів мереж Байєса з прихованими вершинами: Алгоритм максимізації математичного очікування (expectation-maximization) Алгоритм на основі градієнта (adaptive probabilistic networks) Метод вибірки Гіббса (Gibbs sampling) Метод послідовного оновлення (sequential updating) Слайд * з 54

Відома структура, приховані вершини ЕМ-алгоритм (Expectation-maximization algorithm) Алгоритм максимізації математичного очікування Ідея: обчислення очікуваних значень прихованих змінних для кожного випадку і подальше повторне обчислення параметрів з використанням очікуваних значень так, ніби ці значення були спостережуваними Базові дії: Е-крок (expectation): “доповнення” даних для прихованих змінних на основі поточних оцінок параметрів М-крок (maximization): використання “повних” даних для знаходження максимально правдоподібної оцінки параметрів Слайд * з 54

Відома структура, приховані вершини ЕМ-алгоритм Схема: - математичне очікування логарифмічної функції правдоподібності - отримується за допомогою ймовірнісного висновку в мережі Байєса - множина предків вершини - розмір вибірки множини навчальних даних на кроці Е оцінюється значення на основі параметрів на кроці М вибирається найкраще значення параметрів , максимізуючи Q Слайд * з 54

Невідома структура, приховані вершини Структурний алгоритм ЕМ (Structural EM) Ідея: - комбінація стандартного алгоритму ЕМ, який оптимізує параметри, зі структурним пошуком моделі відбору; - навчання мереж на основі штрафних ймовірнісних значень з використанням критеріїв BIC/MDL та ін. Алгоритм стиснення границь (Bound and Collapse) Ідея: - обчислення інтервалу ймовірностей відсутніх даних, за тією інформацією, яка мається - стиснення границь інтервалу в точку за допомогою опуклої комбінації з точок екстремумів, використовуючи інформацію про неповні дані Слайд * з 54

Методика знаходження параметрів БМ з прихованими вершинами 1. Побудова БМ за навчальними даними або “вручну” 2. Генерування вибірки по заданій структурі мережі (застосовується випадку відсутності навчальних даних) 3. Додавання прихованих вершин до структури мережі 4. Початкова ініціалізація невідомих параметрів мережі 5. Обчислення параметрів мережі на основі згенерованих даних з використанням алгоритму ЕМ Слайд * з 54

Методика знаходження параметрів БМ з прихованими вершинами Слайд * з 54

СППР для аналізу даних на основі БМ Побудова структури БМ “вручну” або по завантаженим даним Формування ймовірнісного висновку Генерація вибірки даних по заданій структурі мережі Навчання параметрів мережі, що містить приховані вершини Розроблена система підтримки прийняття рішень виконує наступні функції: Слайд * з 54

Архітектура СППР “BNetMaster” Слайд * з 54

СППР “BNetMaster” На основі розробленої оригінальної архітектури СППР за допомогою об’єктно-орієнтованої мови програмування Delphi 7 реалізована комп’ютерна програма для аналізу даних з використанням мереж Байєса – “BNetMaster“ Поданий пакет документів на отримання авторського свідоцтва на програмний продукт BNetMaster №34657 від 09.06.2010 року. Автори: Трофименко Д.В., Давиденко В.І., Терентьєв О.М. Слайд * з 54

СППР “BNetMaster” Слайд * з 54

Практичне використання розробленої СППР Класичні байєсові мережі: Asia Alarm CarStarts Використовуються дослідниками для тестування нових та існуючих алгоритмів роботи з мережами Байєса. Дані мережі входять до стандартного набору прикладів майже всіх відомих програмних продуктів для роботи з БМ. Слайд * з 54

Мережа Alarm: Опис вхідних даних Alarm - A Logical Alarm Reduction Mechanism Система повідомлення тривоги для контролю пацієнтів; обчислює ймовірності для диференційного діагнозу на основі доступних даних. Мережа містить 37 вершин та 46 дуг Медичні знання закодовані в графічній структурі, пов’язуючи 8 діагнозів, 16 відомостей та 13 проміжних змінних. Слайд * з 54

Мережа Alarm: Опис вхідних даних № English name Назва українською 1 Central venous pressure Центральний венозний тиск 2 Pulmonary capillary wedge pressure Тиск в легеневих капілярах 3 History Історія 4 Peripheral resistance Загальний періферійний опір 5 Blood pressure Кров'яний тиск 6 Cardiac output Хвилинний об'єм серця 7 Heart rate / blood pressure Пульс / кров'яний тиск 8 Heart rate measured by an EKG monitor Пульс на ЕКГ моніторі 9 Heart rate / oxygen saturation Пульс / кисневе насичення 10 Pulmonary artery pressure Легеневий артеріальний тиск 11 Arterial oxygen saturation Артеріальне кисневе насичення 12 Fraction of inspired oxygen Частка кисню, що надходить 13 Breathing pressure Дихальний тиск 14 Expelled CO2 СО2, що вийшов 15 Minimum volume Мінімальний об'єм 16 Minimum volume set Набір мінімальних об'ємів 17 Hypovolemia Гіповолемія 18 Left ventricular failure Лівошлуночкова недостатність Слайд * з 54

Мережа Alarm: Опис вхідних даних № English name Назва українською 19 Anaphylaxis Анафілаксія 20 Insufficient anesthesia/analgesia Недостатня анастезія 21 Pulmonary embolus Легенева емболія 22 Intubation Інтубація 23 Kinked tube Перекручена трубка 24 Disconnection Роз'єднання 25 Left ventricular end-diastolic volume Діастолічний об'єм лівого шлуночка 26 Stroke volume Систолічний об'єм 27 Catecholamine Катехоламін 28 Error low output Помилка низького вихідного сигналу 29 Heart rate Частота пульсу 30 Electrocauter Електрокаутер 31 Shunt Шунт 32 Pulmonary venous oxygen saturation Кисневе насичення венозної крові легень 33 Arterial CO2 Артеріальний вміст СО2 34 Pulmonary alveoli ventilation Вентиляція легеневих альвеоль 35 Lung ventilation Легенева вентиляція 36 Ventilation tube Вентиляційна трубка 37 Ventilation machine Апарат для вентиляції легень Слайд * з 54

Мережа Alarm: Топологія Слайд * з 54

Мережа Alarm: Введення прихованої вершини Прихована вершина Слайд * з 54

Мережа Alarm: Отримані результати Значення ймовірностей станів прихованої вершини Таблиці умовних ймовірностей Початкові Експеримент Стан Початкові Отримані в результаті експерименту Low 0,23 0,25 Normal 0,69 0,69 High 0,08 0,06 Hypovolemia LVFailure Low Normal High TRUE TRUE 0,95 0,04 0,01 TRUE FALSE 0,98 0,01 0,01 FALSE TRUE 0,01 0,09 0,9 FALSE FALSE 0,05 0,9 0,05 Hypovolemia LVFailure Low Normal High TRUE TRUE 0,99 0,01 0 TRUE FALSE 0,98 0,01 0,01 FALSE TRUE 0,01 0,23 0,76 FALSE FALSE 0,06 0,9 0,04 Слайд * з 54

Мережа Alarm: Отримані результати Збільшення логарифму функції правдоподібності з -5.47 до -1.90 Графік логарифмічної функції правдоподібності Слайд * з 54

Мережа Asia: Опис вхідних даних Використання в діагностичних цілях Визначається, чи має пацієнт туберкульоз («Tuberculosis»), рак легень («Lung Cancer») чи бронхіт («Bronchitis») в залежності від його рентгенівського знімку («X-Ray»), наявності задишки (Dyspnea»), відвідування Азії («Visit to Asia») та паління («Smoker)» Мережа містить 8 вершин та 8 дуг Список вершин: Слайд * з 54

Мережа Asia: Топологія Прихована вершина Слайд * з 54

Мережа Asia: Отримані результати Значення ймовірностей станів прихованої вершини Таблиці умовних ймовірностей Початкові Експеримент Стан Початкові Отримані в результаті експерименту True 0,07 0,05 False 0,93 0,95 Tuberculosis Lung Cancer True False present present 1,00 0 present absent 0 1,00 absent present 1,00 0 absent absent 0 1,00 Tuberculosis Lung Cancer True False present present 0,99 0,01 present absent 0,01 0,99 absent present 1,00 0 absent absent 0,01 0,99 Слайд * з 54

Мережа Asia: Отримані результати Збільшення логарифму функції правдоподібності з -4.99 до -2.24 Графік логарифмічної функції правдоподібності Слайд * з 54

Головний запобіжник Розподілювач Напруга на свічці Свічка запалення Встановлення моменту запалення Якість запалення Паливна система Початок роботи автомобіля Заведення авто Мережа CarStarts: Опис вхідних даних Використовується для діагностики старту роботи автомобіля на основі інформації про свічки запалення, роботу фар, головного запобіжника тощо Мережа містить 18 вершин та 19 дуг Список вершин: Генератор Система зарядки Термін дії акумулятора Напруга акумулятора Фари Повітряний фільтр Повітряна система охолодження Мотор стартера Система старту Слайд * з 54

Мережа CarStarts: Топологія Прихована вершина Слайд * з 54

Мережа CarStarts: Отримані результати Значення ймовірностей станів прихованої вершини Таблиці умовних ймовірностей Початкові Експеримент MF SM BV Okay Fault okay Okay strong 0,88 0,12 okay Okay weak 0,83 0,17 okay Okay dead 0,1 0,9 okay Faulty strong 0,00 1,00 okay Faulty weak 0,00 1,00 okay Faulty dead 0,00 1,00 … … … ... … blown Okay weak 0 1,00 blown Okay dead 0 1,00 Стан Початкові Отримані в результаті експерименту Okay 0,60 0,55 Faulty 0,40 0,45 MF SM BV Okay Fault okay Okay strong 0,98 0,02 okay Okay weak 0,90 0,10 okay Okay dead 0,10 0,90 okay Faulty strong 0,02 0,98 okay Faulty weak 0,01 0,99 okay Faulty dead 0,01 0,99 … … … ... … blown Okay weak 0 1,00 blown Okay dead 0 1,00 Слайд * з 54

Мережа CarStarts: Отримані результати Збільшення логарифму функції правдоподібності з -16.90 до -5.97 Графік логарифмічної функції правдоподібності Слайд * з 54

Результати практичного використання СППР “BNetMaster” Номер експери-менту Назва мережі Правильність відновлення прихованої вершини Кількість ітерацій Функція максимальної правдоподібності до роботи алгоритму після роботи алгоритму 1 Alarm + 67 -5.47 -1.90 2 Asia + 55 -4.99 -2.24 3 CarStarts + 93 -16.90 -5.97 Слайд * з 54

Оцінка функціональних можливостей програмних продуктів для роботи з мережами Байєса та порівняння з розробленою СППР BNetMaster Критерії оцінки: Огляд ринку програмного забезпечення для роботи з мережами Байєса Позначення Назва Позначення Назва Src Вихідний код програми Param Параметричне навчання API Інтерфейс прикладних програм Struct Структурне навчання Exec Операційна система D/U Типи графів GUI Графічний інтерфейс користувача Infer Алгоритм ймовірнісного висновку D/C Типи вершин (дискретні/неперервні) Free Безкоштовна версія програми DN Підтримка мереж рішень / діаграм впливу Слайд * з 54

Огляд ринку програмного забезпечення для роботи з мережами Байєса Назва Src API Exec GUI D/C DN Param Struct D/U Infer Free Analytica N Y WM Y G Y N N D S $ Bassist C++ Y U G N N Y N D MH O Bayda J Y WUM Y G N Y N D ? O BayesBuilder N N W Y D N N N D ? O BayesiaLab N N - Y Cd N Y Y CG JT,G $ Bayesware N N WUM Y Cd N Y Y D ? $ B-course N N WUM Y Cd N Y Y D ? O BNPC N Y W Y D N Y CI D ? O BNetMaster D N W Y D N Y Y D E(++) O BNT M/C Y WUM N G Y Y Y DU S,E(++) O BNJ J Y - Y D N N Y D JT,IS O BucketElim C++ Y WU N D N N N D VE O BUGS N N WU Y Cs N Y N Ds GS O BusNav N N W Y Cd N Y Y D JT $ Слайд * з 54

Огляд ринку програмного забезпечення для роботи з мережами Байєса Назва Src API Exec GUI D/C DN Param Struct D/U Infer Free CABeN C Y WU N D N N N D S(++) O CaMML C N U N Cx N Y Y D N O CoCo+Xlisp C/L Y U Y D N Y CI U JT O CIspace J N WU Y D N N N D VE O Deal R - - Y G N M Y D N O Ergo N Y WM Y D N N N D JT(+S) $ GDAGsim C Y WUM N G N N N D E O GeNIe/SMILE N Y WU Y D Y N N D JT(+S) O GMRFsim C Y WUM N G N N N U MC O GMTk N Y U N D N Y Y D JT O gR R - - - - - - - - - O Grappa R Y - N D N N N D JT O Hugin N Y WU Y G Y Y CI CG JT $ Hydra J Y - Y Cs N Y N DU MC O Слайд * з 54

Огляд ринку програмного забезпечення для роботи з мережами Байєса Назва Src API Exec GUI D/C DN Param Struct D/U Infer Free Ideal L Y WUM Y D Y N N N JT $ Java Bayes J Y WUM Y D Y N N N JT,VE O MIM N N W Y G N Y Y CG JT $ MSBNx N Y W Y D Y N N D JT O Netica N Y WUM Y G Y Y N D JT $ PMT M/C Y - N D N Y N D O O PNL C++ - - N D N Y Y UD JT O Pulcinella L Y WUM Y D N N N D ? O RISO J Y WUM Y G N N N D PT O TETRAD N N WU N G N Y CI UD N O UnBBayes J Y - Y D N N Y D JT O Vibes J Y WU Y Cx N Y N D V? O Web Weaver J Y WUM Y D Y N N D ? O WinMine N N W Y Cx N Y Y UD N O XBAIES 2.0 N N W Y G Y Y Y CG JT O Слайд * з 54

Огляд ринку програмного забезпечення для роботи з мережами Байєса Розроблена СППР BNetMaster не поступається за функціональними можливостями більшості програмних продуктів, що присутні на ринку BNetMaster забезпечує основні функції СППР для роботи з мережами Байєса – параметричне та структурне навчання БМ, формування ймовірнісного висновку BNetMaster має відкритий вихідний код, що дозволяє розширювати функціональні можливості продукту Графічний інтерфейс користувача та безкоштовне використання СППР BNetMaster є значною конкурентною перевагою Слайд * з 54

Висновки Проведено аналіз методів побудови БМ, що містять приховані вершини Запропонована методика побудови БМ з прихованими вершинами з використанням ЕМ-алгоритму Розроблена архітектура та реалізована комп'ютерна система підтримки прийняття рішень на основі БМ, що включає в себе реалізацію запропонованої методики Запропонована методика апробована на еталонних БМ, широко використовуються дослідниками в даній галузі. Отримані результати свідчать про адекватність розробленої методики Проведено аналіз ринку програмного забезпечення для роботи БМ та визначено місце розробленої СППР BNetMaster серед аналогічних продуктів Слайд * з 54

Перспективи щодо подальших досліджень Реалізація альтернативних методів параметричного навчання БМ з прихованими вершинами та проведення їх порівняльного аналізу. Доповнення до блоку роботи з прихованими вершинами розробленої СППР модулів структурної побудови БМ з використанням алгоритмів SEM та Bound and Collapse. В роботі розглянуті дискретні БМ, тому в подальшому дану роботу можна розглядати як основу для переходу до дослідження більш складних типів БМ, а саме неперервних, динамічних та гібридних. Слайд * з 54

Результати впровадження, публікації Акт впровадження результатів дипломної роботи на ПЗІІ “Імперіал Тобако Юкрейн” Конференції: Міжнародна науково-практична конференція “Системний аналіз та інформаційні технології ” (САІТ-2009) Міжнародна науково-практична конференція “Системний аналіз та інформаційні технології ” (САІТ-2010) Слайд * з 54

Статті: Поданий пакет документів на отримання авторського свідоцтва на програмний продукт BNetMaster №34657 від 09.06.2010 року. Автори: Трофименко Д.В., Давиденко В.І., Терентьєв О.М. Подана стаття Бідюка П.І., Давиденка В.І., Трофименка Д.В., Терентьєва О.М. “Сравнительный анализ методов оценки взаимосвязи между вершинами при посроении байесовских сетей” до міжнародного науково-технічного журналу “Проблемы управления и информатики”. Дата опублікування: грудень 2010 року. Результати впровадження, публікації Слайд * з 54

Дякую за увагу! Слайд * з 54

Додаток Огляд ринку програмного забезпечення для роботи з мережами Байєса Назва Функціональні можливості Характеристики Src Вихідний код програми N = немає J = Java; M = Mathlab; D = Delphi; L = Lisp C, C++, R – мови програмування API Інтерфейс прикладних програм N = програма не може бути об‘єднана з вашим кодом, тобто має виконуватись як автономна програма Y = програма може бути об‘єднана Exec Операційна система W = Windows (95/98/200/NT) U = Unix M = MacIntosh - = будь яка з компілятором GUI Графічний інтерфейс користувача N = ні Y = так D/C Неперервні та/або дискретні типи вершин D = лише дискретні вершини G = Гаусівські вершини (аналітично) Cs = неперервні вершини (вибірка) Cd = неперервні вершини (дискретизація) Cx = неперервні вершини (невідомий метод) DN Підтримка мереж рішень/діаграм впливу N = ні Y = так Param Параметричне навчання N = ні Y = так Free Безкоштовна версія програми О = Так (навіть якщо лише з навч. метою) $ = Ні, комерційна (+обмежені версії) Слайд * з 54

Огляд ринку програмного забезпечення для роботи з мережами Байєса Додаток Назва Функціональні можливості Характеристики Struct Структурне навчання N = Ні Y = Так Cl = тести на умовну незалежність K2 = алгоритм К2 Купера і Гершковіца D/U Типи графів U = лише неорієнтовані графи D = лише орієнтовані графи UD = орієнтовані та неорієнтовані графи CG = ланцюгові графи (змішані орієнтовані та неорієнтовані) Infer Алгоритм ймовірнісного виводу JT = зв’язне дерево (Junction Tree) VE = виключення змінних PT = Pearl’s poly-tree E = точний MH = Metropols Hastings MC = Markov chain Monte Carlo (MCMC) GS = Gibbs sampling IS = вибірка по значимості S = формування вибірки O = інший ++ = підтримка багатьох методів ? = не визначений N = немає (+S) = точний з формуванням вибірки Слайд * з 54