У Meta возникли проблемы с «вышедшими из-под контроля» ИИ-агентами

В Meta произошел инцидент с ИИ-агентом, из-за которого сотрудники получили доступ к данным компании и пользователей без необходимых прав. Об этом сообщило издание The Information со ссылкой на внутренний отчет.
Ситуация началась с обычного вопроса на внутреннем форуме: один из сотрудников попросил помощи по технической задаче. Другой инженер решил подключить ИИ-агента для анализа проблемы. Агент не стал запрашивать подтверждение и сам опубликовал ответ от имени инженера.
Проблема оказалась не только в самовольной публикации. По данным отчета, совет ИИ-агента был ошибочным. Сотрудник, задавший вопрос, выполнил действия по этой рекомендации, после чего большие массивы внутренних и пользовательских данных стали доступны инженерам, у которых не было прав на такой доступ. Окно несанкционированного доступа длилось около двух часов.


















