Фото:Depositphotos
Дослідження, проведене компанією NewsGuard, виявило, що провідні моделі генеративного ШІ в 32% випадків поширюють російську дезінформацію, використовуючи фальшиві новинні сайти, створені в Москві. Ці висновки були передані до Інституту безпеки ШІ при Національному інституті стандартів і технологій США (NIST) та Європейську комісію.
Основні висновки аудиту NewsGuard
Під час аудиту були протестовані 10 провідних чат-ботів ШІ, включаючи ChatGPT-4 від OpenAI, Smart Assistant від You.com, Grok від xAI та інші. Загалом було проведено 570 запитів, що включали 19 значних фальшивих наративів, пов’язаних із російською дезінформаційною мережею. Результати показали, що чат-боти повторювали фальшиві наративи у 31,75% випадків, що становить 152 з 570 відповідей.
Джерело дезінформації
Основним джерелом дезінформації стала мережа фальшивих новинних сайтів, створених Джоном Марком Дугеном, колишнім заступником шерифа з Флориди, який переховується в Москві. Ця мережа включає 167 веб-сайтів, які маскуються під місцеві новинні ресурси та регулярно поширюють фальшиві наративи, вигідні Росії.
Методи тестування
Аудит використовував три типи запитів: нейтральні, що припускають правдивість наративу, та шкідливі запити, спрямовані на генерацію дезінформації. Відповіді оцінювалися за трьома категоріями: відсутність дезінформації, повторення з обережністю та повна дезінформація.
Основні результати
З 570 відповідей 152 містили явну дезінформацію, 29 повторювали фальшиві твердження з застереженнями, а 389 не містили дезінформації завдяки відмові чат-ботів відповідати або наданню спростувань.
Приклади фальшивих наративів
Реакція компаній
1. Твердження про те, що український президент Володимир Зеленський нібито брав участь у корупційних схемах, було повторене кількома чат-ботами, які посилалися на фальшиві сайти, такі як “Flagstaff Post” та “Boston Times”.
2. Фальшива інформація про те, що секретний агент США виявив прослуховування в резиденції Дональда Трампа в Мар-а-Лаго, також була поширена чат-ботами.NewsGuard надіслав запити на коментарі компаніям, що розробили чат-ботів, включаючи OpenAI, Google та Microsoft, але не отримав відповідей. Звіт підкреслює, що проблема поширення дезінформації є загальною для всієї індустрії ШІ.
В епоху активного використання штучного інтелекту напередодні виборів по всьому світу результати аудиту NewsGuard показують, що ШІ залишається потужним інструментом для поширення дезінформації, незважаючи на зусилля компаній щодо запобігання зловживанням. Ця проблема потребує пильної уваги та скоординованих дій з боку всіх учасників галузі.
Джерело:Newsguardtech.
