Комментарии 10
По-моему, система тотального слежения, из которой можно убирать "избранные" лица - это еще хуже, чем просто система тотального слежения.
Если не ошибаюсь, методология распознавания лиц была разработана ещё в 1960-х годах благодаря исследованиям профессора Вудро Уилсона Бледсоу. Автоматизировали её Лоуренс Сирович и Майкл Кирби в 1987 году. С тех пор технология используется во всём мире. Естественно, что наряду с удобствами она приносит и риски. Это как "мирный атом" и его военный антипод. Всё зависит от людей.
Интересно, что проблема забывания оказывается сложнее, чем обучение, не думала, что нейронки настолько всё запоминают, и это всё оказывается так сложно
Да, статья как раз о том, что проблема машинного забывания глубже, чем простое удаление записи из базы данных. Она требует сложной и точной работы со скрытым пространством (latent space) модели. Без неё возникает иллюзия забывания. При следующем сканировании лица кодер генерирует такой же вектор, он ложится в тот же кластер и система снова распознает человека.
"""Она рассеивает векторы одного кластера, разрушая его компактность. """. Логично предположить, что предложенный алгоритм зашумляет пространство эмбеддингов. Логичнее не рассеивать, а занулять?
Если "занулять" вектора от изображений забытых идентичностей, то это дестабилизирует пространство представлений и "сломает" модель. При этом даже если от одной идентичности мы "занулили" все вектора, в ретривале эти вектора будет очень легко друг с другом сматчить, поэтому "зануление" не решает проблему.
В чём проблема удалить вектор (эмбеддинг) конкретного человека из базы? Нейронка, которая выводит эмбеддинги из изображений, не использует содержимое базы для обучения. А метод сравнения вектора против базы - это чистая математика, без нейромагии (расстояние между двумя векторами).
Кажется, тут описана какая-то теоретическая проблема, или я чего-то не понимаю
Тут описана курсовая студента МАИ, которого не возьмут ни в Visionlabs, ни в нтех, никуда. Особенно круто звучит «вот мы используем крутой новый лосс», а через пару строчек «мы ничего не переобучаем, поэтому сетка не портится». Ну если вы ничего не переобучаете, то вы ничего и не забываете 🤷♂️. Если автор навесил на эмбединнг ещё один слой и игрался с ним, то тоже сетка ничего не забыла. Глобально без переобучения всей сетки на кучу гпу-месяцев никого «забыть» не получится. Вот если заранее поставить задачу «обучите мне сетку, чтобы работала она круче всех на Нисте, но Владимира Владимировича не распознавала» - такое сделать можно, и то поведение на Владимире Владимировиче стабильностью обладать не будет
А, мне видится, что в России эта муля не будет востребована. Ведь общий тренд взять всех и вся под тотальный контроль, а тут - ишь, удаляться задумали
Альянс FVEY использует автоматическое распознавание лиц с конца девяностых. В Китае это открыто делается с нулевых годов, но только Россию ругают за "тотальный контроль". Это при том, что в статье как раз описана методика доработки системы, направленная на повышение приватности и реализацию права прекратить обработку биометрических данных. Самое забавное, что боящиеся слежки спокойно разблокируют смартфон "по лицу" и активно постят селфи в соцсети.
Право на забвение: как удалить образ человека из системы распознавания лиц и не сломать её