Експеримент із автономним ШІ-агентом ледь не завершився цифровою катастрофою для дослідниці Meta. Замість порад щодо сортування листів програма майже повністю знищила її електронну пошту та ігнорувала спроби зупинити процес.
Про інцидент розповіла Саммер Юе – дослідниця безпеки та узгодження суперінтелекту в лабораторії Meta Superintelligence. За її словами, вона звернулася до ШІ-агента OpenClaw із цілком рутинним завданням – переглянути поштову скриньку та підказати, які листи можна безпечно видалити або архівувати.
Натомість агент почав діяти автономно та без підтвердження, поступово очищаючи всю пошту. Процес швидко вийшов з-під контролю.
Юе намагалася зупинити OpenClaw через чат на смартфоні, однак агент не реагував на команди. Усвідомивши ризик повної втрати даних, дослідниця була змушена терміново дістатися до свого Mac mini, щоб вручну перервати виконання дій.
У коментарях Саммер Юе наголосила, що перед роботою з основним акаунтом вона тестувала аналогічну функціональність на інших поштових скриньках. У цих випадках жодних збоїв не спостерігалося.
Вона припускає, що причина могла критися у великому обсязі листів у її основній пошті, що й спричинило некоректну поведінку агента.
Особливе занепокоєння викликає те, що збій стався попри чіткі попередні інструкції не виконувати жодних дій без прямого підтвердження користувача.
OpenClaw, також відомий під назвами Clawdbot та Moltbot, позиціонується як безплатний ШІ-агент для автономної роботи на пристроях користувачів. Його можливості включають:
- пошук і керування файлами
- перевірку та надсилання електронних листів
- проведення онлайн-досліджень
- виконання інших завдань без постійної участі користувача
Водночас дедалі більше фахівців у сфері ШІ висловлюють занепокоєння щодо безпеки подібних інструментів. За інформацією дослідниці, керівники низки технологічних компаній, зокрема й Meta, забороняють своїм співробітникам встановлювати OpenClaw на робочі пристрої.
Історія з поштою Саммер Юе стала наочним прикладом того, як автономні ШІ-агенти можуть створювати серйозні ризики навіть для тих, хто безпосередньо працює над питаннями їхньої безпеки та контролю.
