ЕПІСТЕМІЧНА ДОВІРА ДО ШІ: МЕЖІ, РИЗИКИ, КРИТЕРІЇ ОБҐРУНТУВАННЯ

Анотація

У статті аналізується епістемічна довіра до ШІ, що стала в наш час актуальною проблемою. Викристалізувано потребу виробити чіткі критерії виявлення сфальсифікованого знання, простежити динаміку зміни наукових парадигм під впливом штучного інтелекту тощо. Визначено основні межі епістемічної довіри до штучного інтелекту: непрозорість алгоритмічних систем, яка має свої ризики («black box», «галюцинацію алгоритмів», ілюзію пояснень) та наслідки (неможливість повного розуміння процесу, обмежену перевірку результатів, залежність від якості даних, зниження критичного мислення, формування «технологічного авторитету», когнітивний дескіллінг, епістемічну ізольованість систем та зменшення кількості відкриттів); залежність алгоритмічних систем від того контенту, на якому вони навчалися і з якого тепер черпають відповіді на усі запити своїх користувачів; обмеження можливостей штучного інтелекту працювати ефективно лише в тій сфері, для якої його створили. Показано «перехід» від абсолютної ШІ-довіри до критичної наукової верифікації отриманих результатів за допомогою 3-рівневої логічної моделі. Вона засвідчує появу так званої обґрунтованої довіри, яка спочатку  перевіряє отримані дані шляхом їх можливої відтворюваності, потім здійснює порівняльний аналіз цих варіантів, інтерпретує їх  і лише тоді, коли не виникає жодних зауважень, інтегрує алгоритмічний продукт у систему достовірного знання. Кожна така процесуальна стадія свідчить, що суб’єктом пізнання є людина і лише вона може бути активним арбітром істини, визначати релевантність висновків стосовно реальної ситуації чи завдання, підтримувати епістемічну узгодженість і контроль, самостійно вирішуючи, які Ші-результати можна використовувати як обґрунтоване знання, а які – додатково перевіряти.