Аналітична компанія NewsGuard зафіксувала різке зростання кількості випадків, коли чат-боти штучного інтелекту поширюють неправдиву інформацію. Про це повідомляє Forbes.
У дослідженні оцінили 10 популярних генеративних моделей, серед яких ChatGPT-5 від OpenAI, Smart Assistant (You.com), Grok (xAI), Pi (Inflection), le Chat (Mistral), Copilot (Microsoft), Meta AI, Claude (Anthropic), Gemini (Google) та пошукова система Perplexity.
Перевірка здійснювалась на основі запитань, пов’язаних зі спірними новинними темами, де є підтверджені неправдиві твердження. У середньому штучний інтелект відтворював їх у 35% випадків, що майже удвічі більше, ніж торік (18%). Найбільш проблемним виявився Pi від Inflection — 57% некоректних відповідей. Perplexity дав 47%, Meta AI та ChatGPT — по 40%. Найкраще себе показав Claude, який припускався помилок лише у 10% випадків.
Редактор NewsGuard з питань ШІ та іноземного впливу МакКензі Садегі пояснив, що причина зростання показників криється у зміні підходів до тренування моделей. Якщо раніше вони відмовлялися відповідати на частину запитів або повідомляли про обмеження, то тепер активно використовують пошукові результати у реальному часі. Це створює додаткові ризики, адже пошукова видача може бути цілеспрямовано наповнена дезінформацією, у тому числі російськими пропагандистськими ресурсами.
Нагадаємо, що цього року NewsGuard вже фіксував, як чат-боти у 33% випадків відтворювали матеріали з мережі сайтів, пов’язаних із прокремлівським виданням «Правда». Лише у 2024 році ця мережа опублікувала близько 3,6 мільйона текстів, які потрапили у відповіді західних ШІ-систем.
Водночас розслідування American Sunlight Project встановило, що кількість доменів і піддоменів, афілійованих із «Правдою», майже подвоїлася і сягнула 182. Дослідники зазначають, що сайти мають низький рівень зручності використання, що свідчить про їх створення не для реальних читачів, а насамперед для алгоритмів штучного інтелекту.
У новому звіті вперше було оприлюднено конкретні назви чат-ботів, які найчастіше поширюють дезінформацію. У NewsGuard підкреслили, що цей крок потрібен для інформування політиків, журналістів та суспільства про ризики зниження точності популярних інструментів ШІ.
