Штучний інтелект спростив чимало задач у сучасному світі,, але разом із тим приніс і чимало проблем. Однією з найгостріших стало розповсюдження фейків, які поширюються дуже швидко, а перевірити, чи написана правда, здатні далеко не всі люди. У багатьох країнах вже дійшли простого висновку: необхідно, щоб робота ШІ була прозорою, а люди могли довіряти інформації. Медіабезпека та цифрова безпека особливо важливі у часи високих ризиків бойових дій у Європі. Далі на berlinfuture.
За таку задачу взялися німецькі науковці. Докторка Віра Шмітт (Vera Schmitt) та її дослідницька група “XplaiNLP” зосередилися на створенні потужних проєктів, серед яких – найбільша німецькомовна платформа ШІ для виявлення дезінформації. За словами докторки Шмітт, ці розробки допомагають одразу відрізнити правду від брехні й роблять інформаційний простір безпечнішим. Платформа працює відкрито та зрозуміло, щоб користувачі бачили, як аналізуються дані.
Медіабезпека у світі ШІ
Мету свого наукового дослідження докторка Віра Шмітт з Берлінського технічного університету (Technische Universität Berlin) пояснює просто: прагнення допомогти людям і машинам краще зрозуміти одне одного. Для цього й команда й створює спеціальні інтелектуальні системи підтримки рішень, які допомагають бачити правду й відрізняти її від брехні. Робота передбачає виявлення дезінформації, розробку методів штучного інтелекту, які були б зрозумілі кожному. Тоді ніхто не загубиться у складних алгоритмах.
Ідею активно підтримав Центр виробничих технологій Берлінського технічного університету. Завдяки фінансуванню у понад 4 мільйони євро пані Шмітт змогла зібрати команду з 24 фахівців, які працювали над кількома інноваційними проєктами. Серед них – платформи “VeraXtract” та “News-polygraph”, які допомагають швидко перевіряти інформацію та боротися з фейками.
Науковиця розповіла журналістам, що з дитинства її цікавили дуже прості, але важливі питання: що таке правда і як зрозуміти, чи відповідає реальності те, що ми бачимо й чуємо. Вже у 10 років читала філософські книжки, щоб розібратися, як люди у різні часи домовлялися між собою, що треба вважати істиною. З роками ці питання не зникли, а стали серйознішими. Спочатку пані Віра вивчала політологію, щоб зрозуміти, як інформація впливає на суспільство, а пізніше звернулася до науки про дані, де навчилася перевіряти твердження на фактах. Вже під час роботи над докторською дисертацією ці інтереси об’єдналися в одну ідею – створити дослідницьку групу “XplaiNLP”, яка системно вивчатиме, як люди та машини здатні разом шукати правду у складному інформаційному світі.
Для медіабезпеки та перевірки фактів
На думку докторки, у майбутньому кількість спеціально створених дезінформаційних кампаній тільки зростатиме. Вони будуть націлені на конкретних людей, щоб використовувати їхні інтереси та дані. Вже не рідкість синтетичні зображення, відео та аудіозаписи, які називають “діпфейками” (Deepfakes).
Вони ще більше ускладнюють розуміння, що правда, а що – брехня, тому медіабезпека та цифрова безпека стають для світу ще важливішими. З часом люди бачитимуть світ через гіперперсоналізацію у соцмережах і так звані “фільтраційні бульбашки”. І тут штучний інтелект для медіа може допомогти: він знаходитиме брехню, показуватиме правду й робитиме інформаційний простір зрозумілішим для всіх.
Як працює платформа “VeraXtract”?
Ця розробка зосереджена на пошуку брехливих історій (дезінформаційних наративів), які створює контент за допомогою штучного інтелекту. Варто згадати, що наратив – це велика складна історія, яка часто поєднує кілька фрагментів брехні та різних теорій змови й може поширюватися через різні країни. Наприклад, існує так званий “наратив заміщення населення”, який стверджує, ніби таємна еліта використовує міграцію, щоб замінити корінних мешканців.
За допомогою інструментів штучного інтелекту програма “VeraXtract” здатна шукати такі історії, відстежувати, де вони поширюються. Команда створила спеціальний “Інструмент моніторингу наративів”, який допомагатиме журналістам та дослідникам краще розуміти неправдиві твердження й бачити, в якому контексті вони з’являються. Наприклад, цей інструмент можна встановити як плагін у браузері, щоб перевіряти заяви у соціальних мережах, чи належать вони до дезінформаційної історії.
Проти дезінформації у цифровому світі
Штучний інтелект пояснює, чому такі заяви можуть створювати проблеми, наводить докази на підтвердження своєї оцінки. Крім того, ШІ здатний підлаштовувати свої пояснення під користувача, щоб тому було легше зрозуміти, що відбувається. А також розтлумачує, чому інформація може вводити в оману, вчить розпізнавати фейки.
У довгостроковій перспективі команда “VeraXtract” вбачає створення великої бази проведених перевірок, фактів і структур дезінформаційних історій. Вона стане основою для пояснень і допоможе проводити ще глибший аналіз нових фейків і наративів. Завдяки такій роботі платформа зробить суспільство сильнішим і стійкішим до дезінформації, щоб люди навчилися відрізняти правду від брехні у медіа.
Проєкт “News-polygraph” – перевірка фактів у реальному часі
У цьому проєкті йдеться про спеціальну комп’ютерну програму, яка вміє знаходити дезінформацію. А ще – читати тексти, слухати аудіо, дивитися картинки та відео, розрізняти, що з цього може бути брехнею. Докторка Віра Шмітт пояснила, що програма здатна:
- допомогти журналістам розпізнавати фейки;
- захищати людей від брехливих новин.
“News-polygraph” вже заявила про себе як найбільша німецькомовна платформа штучного інтелекту для пошуку дезінформації. Команду цього проєкту фінансує Федеральне міністерство досліджень, технологій та космосу (Bundesministerium für Forschung, Technologie und Raumfahrt, BMFTR) через програму “RUBIN – Регіональні підприємницькі альянси для інновацій” (RUBIN – Regionale Unternehmensallianzen für Innovationen). Розробники пояснили, що головна проблема з дезінформацією полягає у тому, що люди такі новини бачать і читають ще до перевірки фактів. Це вже психологічний аспект: брехня залишається у пам’яті, і навіть прочитана пізніше правда вже не в змозі витіснити перше враження. Тому потрібен крок на упередження.
Чому перевірка фактів має бути в реальному часі?
На думку науковиці, оптимальним виходом була б програма, яка знаходила б брехливі новини одразу, поки вони ще не поширилися, й не давала їм розлітатися. Для цього потрібні спеціальні комп’ютерні розробки на основі штучного інтелекту, які швидко перевіряють, чи новина правдива. Наприклад, плагін для браузера, який показує у реальному часі, чи те, що читаєш в Інтернеті, є правдою. У сучасному світі новини поширюються дуже швидко і на багатьох сайтах, тому такі інструменти вкрай необхідні.
Штучний інтелект може допомагати людям спілкуватися та розуміти один одного, навіть якщо їхні погляди та позиції не збігаються. Це як Netflix, який пропонує серіали на основі того, що люди дивляться зазвичай, але іноді показує нові та несподівані фільми. Так само ШІ здатен демонструвати нові думки, теми або ідеї, які допомагають бачити світ із різних позицій. Це зменшує упередження й допомагає краще сприймати інформацію.
Німецький ШІ у боротьбі з дезінформацією
Докторка Віра Шмітт переконана, що реалізувати далекоглядні плани реально, якщо буде більше коштів для досліджень та сформується команда з представників різних галузей. Бо чимало проєктів сучасні фахівці розробляють відокремлено, без зв’язку між собою, і це витрачає цінні ресурси. Якщо ж об’єднати знання людей із різних галузей та працювати разом, можна створювати кращі й новіші способи боротися з брехливими новинами.
Проєкти такого масштабу, які пропонує “XplaiNLP”, важливі не лише для Німеччини, а й для всього світу. Вони допомагають швидко знаходити викривлену інформацію та перевіряти факти, щоб люди могли більше довіряти новинам і медіа. Німеччині це гарантує безпечніше цифрове середовище, де легше обговорювати важливі питання без фейків. Для світу – це доказ того, що ШІ здатен допомогти людям не лише краще порозумітися, а й швидше реагувати на проблеми. І не лише з дезінформацією, а й із перевіркою медичних даних чи розв’язанням юридичних проблем. Такий підхід зробить роботу з інформацією зрозумілішою та простішою для всіх, що є дуже важливим кроком на шляху прогресу.
Джерела: