ИИ и эволюция систем наблюдения

Jun 21, 2023

В этом интервью Help Net Security Гервин ван дер Лугт, технический директор Oddity, обсуждает будущее слежки и влияние искусственного интеллекта. Он также углубляется в то, как организации могут предотвратить сохранение предубеждений или нарушений прав личности в своих системах.

Oddity — относительно молодая компания, и мы с самого начала смогли принять во внимание принципы сохранения конфиденциальности и этические принципы разработки программного обеспечения. Мы практикуем принципы «конфиденциальности по дизайну». Например, наше программное обеспечение вообще не хранит видеоданные в настройках по умолчанию, поскольку существующие системы управления видео уже имеют такую ​​функциональность.

Кроме того, мы не используем данные клиентов в целях обучения. В большинстве случаев наши установки не подключены к Интернету, и нам необходим физический доступ для обслуживания и устранения неполадок. Мы считаем, что, несмотря на эти неудобства, оно того стоит. Особенно когда речь идет о таких чувствительных местах, как центры содержания под стражей, где лица, находящиеся под наблюдением, практически не контролируют свою частную жизнь. В конце концов, наше программное обеспечение предназначено для помощи и защиты людей, и наша цель — сделать это с минимальным воздействием на конфиденциальность.

Успешное развертывание камер наблюдения требует деликатного взаимодействия между камерами безопасности, датчиками и другим оборудованием, системой управления видео и самой сетью. Самой большой проблемой является создание сетевой инфраструктуры, способной удовлетворить постоянно растущие требования к пропускной способности современных камер.

Установки видеонаблюдения имеют тенденцию со временем расти, и по мере увеличения количества камер достигается предел пропускной способности сети. Замена неисправной камеры — это простая операция по обслуживанию, поскольку она затрагивает только одну камеру. Заменить сетевую инфраструктуру для увеличения пропускной способности вдвое или втрое гораздо сложнее и требует проверки и замены сетевого оборудования на протяжении всей установки.

Мы часто видим, как интеграторы пытаются обойти эту проблему, уменьшая настройки частоты кадров или битрейта камер, чтобы уменьшить необходимую им полосу пропускания. Хотя на первый взгляд это решение кажется работоспособным, для наблюдения с помощью искусственного интеллекта оно может вызвать проблемы. Модели машинного обучения чувствительны к незначительным визуальным различиям, которые человеческий глаз едва может обнаружить. Особенно если алгоритм был обучен на входных данных высокого качества, у него могут возникнуть проблемы с видеопотоками низкого качества.

Таким образом, при создании инфраструктуры сети наблюдения с нуля рекомендуется заранее спланировать ее и построить ее с достаточным пространством для расширения пропускной способности. Это сэкономит затраты в долгосрочной перспективе и обеспечит готовность установки к будущему, основанному на искусственном интеллекте!

Что касается физического оборудования, в соответствии с моей рекомендацией выше, резервирование достаточной пропускной способности является решающим фактором.

Что еще более важно, будущее наблюдения — за ИИ, и организации должны разрабатывать свои системы наблюдения с учетом ИИ. В то время как в типичном центре камерного наблюдения люди все еще могут смотреть на стены матричных экранов с видеопотоками, вскоре они могут быть заблаговременно предупреждены о возникновении инцидента. При том же количестве персонала они будут гораздо эффективнее.

Первый шаг — определить типы инцидентов, которые вас больше всего интересуют. ИИ-решения существуют для многих типов инцидентов. Важно учитывать ИИ с самого начала и как можно скорее привлечь поставщиков ИИ. По состоянию на 2023 год ИИ еще не готов полностью заменить человека. Организациям было бы разумно организовать гибридное развертывание с участием людей, одновременно отслеживая и заполняя пробелы.

На модели ИИ влияют наборы данных, используемые для их обучения. Крайне важно, чтобы поставщики ИИ тщательно настраивали и балансировали свои наборы данных, чтобы предотвратить возникновение систематических ошибок. Балансировка наборов данных — это ручной процесс, который требует убедиться, что люди, видимые в наборах данных, хорошо отражают реальность и не имеют предвзятости в отношении определенных человеческих качеств. В нашем случае мы используем различные группы актеров со всего мира, чтобы разыграть насилие в наших наборах обучающих данных, чтобы обеспечить их сбалансированность. Более того, регулярное тестирование на наличие таких предубеждений может иметь большое значение.