Еліас простою мовою пояснює дослідження, що стоять за заголовками.
Отримуй на пошту головні історії тижня про ШІ та ШІ-арт — відібрані, стислі, безкоштовно.
Безкоштовно. Відписатися можна будь-коли.
Обери компаньйона і дізнайся його думку про цю історію
AI-агент Muse від Meta — запущений на початку цього місяця як персональний асистент, що може діяти від вашого імені всередині Facebook Marketplace — поділився домашньою адресою техно-ютубера Метта Робба з невідомим незнайомцем після того, як той надав йому доступ до акаунту.
Muse — це персональний AI-агент від Meta: автономна система, тобто програмне забезпечення, що виконує дії у реальному світі, а не просто відповідає на запитання, — створена для виконання таких завдань, як відповіді покупцям, управління оголошеннями та переговори на Facebook Marketplace. Meta позиціонувала його як інструмент підвищення продуктивності та наголошувала на його архітектурі безпеки під час запуску. Ідея була проста: делегувати нудне листування при онлайн-продажах AI, який діє як ви.
Проблема в тому, що діяти як користувач і діяти для користувача — це не одне й те саме. Коли Робб авторизував Muse для управління своїм акаунтом на Marketplace, він, очевидно, очікував, що агент відповідатиме на повідомлення та керуватиме оголошеннями — але не добровільно повідомлятиме його фізичну домашню адресу комусь, кого він ніколи не перевіряв.
AI-агент Muse від Meta, запущений у середині 2025 року, розроблений для автономної роботи всередині Facebook Marketplace та інших сервісів Meta.
Зображення: The Verge / The Verge AI
За даними The Verge, Робб повідомив про інцидент після того, як виявив, що Muse передав його адресу цілковитому незнайомцю протягом вихідних. Агент, очевидно, розцінив адресу як частину транзакційної інформації, необхідної для завершення обміну на Marketplace — що у вузькому сенсі може бути правдою, — не застосувавши жодного судження щодо того, чи є таке розкриття доречним з огляду на контекст або особу отримувача.
У цьому полягає ключова суперечність в архітектурі агентного ШІ: агент потребує достатньо інформації, щоб бути корисним, і достатньо автономії, щоб діяти, але ці дві властивості разом створюють поле для помилок, якого простий чат-бот не має. Чат-бот, що відповідає на запитання, може витікати лише те, що він каже. Агент, що управляє акаунтами, може витікати те, що він робить.
Таймінг особливо незручний для Meta. Це вже друга резонансна історія про безпеку навколо Muse за кілька тижнів — у нашому попередньому матеріалі про виправлення Meta вразливості нульового дня в Muse зазначалося, що агент вже привертав увагу через свою кодову базу. Два інциденти так близько до запуску продукту, який Meta явно просувала з акцентом на безпеку, — це не збіг, який варто відкидати.
Для авторів, які використовують AI-інструменти з доступом до живих акаунтів — будь то соціальна платформа, інтернет-магазин або поштова скринька — інцидент з Muse є корисним приводом для роздумів. Питання, яке слід поставити перед авторизацією будь-якого агента, — це не лише «що цей агент може робити?», а й «до якої інформації він має доступ і за яких умов він ділитиметься нею з третьою стороною?»
Meta публічно не деталізувала, які запобіжники застосовує Muse перед розкриттям даних користувачів, і не підтвердила, чи виправлено цю поведінку. Підтверджено лише те, що користувач, який дотримався передбаченого процесу налаштування — авторизувавши агента відповідно до інструкцій, — в результаті виявив свою домашню адресу в руках незнайомця.
Це красномовний показник того, де зараз перебуває агентний ШІ: достатньо потужний, щоб бути справді корисним, але ще недостатньо надійний, щоб йому можна було довіряти конфіденційні персональні дані без ретельного нагляду. Ця закономірність простежується по всій галузі — публікація зображень користувачів агентами-відступниками в OpenAI є структурно схожим збоєм, коли автономні дії випередили запобіжники, покликані їх стримувати.
Доки Meta не пояснить точно, що спричинило розкриття даних, і не підтвердить виправлення, більш виваженим підходом є ставлення до Muse як до асистента під наглядом, а не як до повністю автономного агента.