Контроль за ИИ-контролером

Сегодня нейросети контролируют городскую инфраструктуру, беспилотники выявляют нарушения, а интеллектуальные алгоритмы оптимизируют управленческие процессы. Однако цифровизация порождает серьезные риски: киберугрозы становятся изощреннее, а феномен «галлюцинаций» ИИ создает дополнительные сложности при принятии решений. Когда искусственный интеллект может реально помочь справляться с задачами, а когда его нужно контролировать, обсудили участники сессии «Контроль за ИИ-контролером» на форуме «Облачные города. Обратная сторона города будущего». Форум прошел в Москве в сентябре этого года.

Контроль за недвижимостью

В Государственной инспекции по контролю за недвижимостью Москвы активно внедряются современные технологии искусственного интеллекта. Система выявления нарушений работает по трехуровневому принципу, где каждый этап тщательно продуман и отлажен. Подробнее о взаимодействии с искусственным интеллектом рассказал руководитель инспекции Иван Бобров.

На первом уровне происходит масштабный сбор данных. В работу включена 31 камера кругового обзора, охватывающие 30% территории столицы. Информацию также собирают беспилотные летательные аппараты, работающие как в ручном режиме с оператором, так и через автоматизированную систему дронопортов. Последние особенно эффективны — они выполняют съемку дистанционно, отправляя результаты в тот же день без участия человека.

Важную роль играют спутниковые группировки, предоставляющие данные об изменениях городского ландшафта. Автомобильные видеорегистраторы анализируют обстановку на улицах, выявляя такие нарушения, как незаконное строительство, формируя визуальную картину состояния зданий. Кроме того, система агрегирует информацию из закрытых и открытых информационных систем — от городских до федеральных.

На втором уровне массив данных обрабатывается искусственными нейросетями. В системе функционируют четыре специализированных детектора, нацеленных на выявление основных видов нарушений. Алгоритмы сопоставляют информацию из различных источников, выстраивая бизнес-процессы выявления рисков.

Но, как сказал руководитель инспекции, ключевым звеном системы контроля остается человек. На третьем уровне все обработанные данные поступают к инспектору, который принимает окончательное решение. «Важно отметить, что на текущий момент искусственный интеллект не влияет напрямую на юридически значимые действия — все решения остаются за человеком», — подчеркнул Иван Бобров.