Преимущества умного города бесчисленны: низкий уровень преступности, слаженная работа общественного транспорта и грамотно распределенный трафик. Но у всего есть цена. Концепция умного города может включать в себя множество оборудования с датчиками для сбора данных. Это и транспорт без водителя, беспилотники, городские камеры, светофоры и любое другое оборудование. А где есть сбор персональных данных, появляются опасения доступа к ним третьих лиц. Поэтому разработчики умного города регулярно сталкиваются с рядом этических вопросов. Специалисты Intetics рассмотрели, как можно решить основные из них.
Повсеместный сбор данных vs приватность
Тотальный мониторинг, с одной стороны, является лучшим техническим решением для предотвращения и раскрытия преступлений. С другой стороны, правозащитные организации на законных основаниях обеспокоены сбором персональных данных с датчиков как угрозой гражданским свободам. Не каждая государственная система может гарантировать достойную защиту личной информации граждан. Следовательно, социальная инженерия и шантаж могут стать серьезной проблемой.
Разработчикам умной среды стоит заранее думать о снижении угрозы тотальной слежки. В этом помогут следующие три концепции:
- Осведомленность. Обозначает, что необходимо ввести политику прозрачности данных для жителей. Когда люди будут точно знать какие части их жизни известны властям и как они их используют, они смогут больше доверять системе.
- Вовлеченность. В процессе принятия решений должны принимать участие граждане. Это позволит им определить, какими подробностями жизни они могут поделиться с органами надзора.
- Баланс. По иронии судьбы, сбор и хранение личной информации для более высокой безопасности создает для нее же дополнительные угрозы. Убедитесь в том, что вы достигли приемлемого баланса между безопасностью и конфиденциальностью.
Правила владения данными
Когда вы взаимодействуете с автоматизированными системами, которые обрабатывают ваши данные несколько раз в день, модель уведомления и согласия перестает работать. Как часто люди читают условия обслуживания? А ведь на каждом веб-сайте изложены правила, которые большинство автоматически принимает, продолжая работу с ним. Аппаратные средства умного города в этом отношении ничем не отличаются. Разница в том, что они обрабатывают куда более конфиденциальные данные, чем файлы cookie. Кроме того, эти правила встроены в исходный код общедоступной системы IoT, что затрудняет обеспечение осведомленности людей, каждый раз, когда они меняются.
Единого ответа, что с этим делать, пока нет. Но разработчики решений для умного города могут установить более длительные периоды реализации, которые позволят уведомить каждого пользователя и проанализировать реакцию общественности, прежде чем внедрять новое решение.
Неравная вовлеченность граждан
Концепция умного города носит технократический характер. Это дает технически подкованным людям преимущество перед теми, чей доступ к технологиям ограничен. В итоге может появиться опасный разрыв между различными группами в обществе, который станет базой для последующей цифровой сегрегации.
В своем руководстве «Повседневная этика искусственного интеллекта» компания IBM советует: пользователь должен иметь возможность спросить, почему ИИ делает то, что он делает, на постоянной основе. Это должно быть ясно и заранее прописано в пользовательском интерфейсе.
Чтобы решить данную проблему, разработчики умного города должны использовать следующие методы:
- Демократизация. Упрощение процесса участия граждан для обеспечения равного участия.
- Обратная связь. Сбор и обработка обратной связи от всех.
- Проактивное обучение. Предоставление доступа к простым и понятным учебным материалам (игры, подкасты, видео, документы и т. д.), чтобы умные системы стали неотъемлемой частью жизни всех горожан.
Предвзятость правоохранительных органов
Деятельность аппарата МВД является мощным механизмом по предупреждению преступности, используемым наряду с массовым надзором. И, подобно последнему, у этой практики есть и темная сторона: предвзятость. Когда вы обучаете ИИ шаблонам действий полицейских, вы рискуете ввести в алгоритмы предвзятость человека. Это противоречит самой идее автоматизированного и точного принятия решений, основанного на беспристрастности больших данных.
Главное решение этой проблемы заключается в использовании свободных от предвзятости данных для построения ИИ. Достичь этого можно с помощью демографического и культурного разнообразия команды разработчиков. Но и это не сможет полностью исключить человеческие ошибки, которые могут проникнуть в набор данных. Поэтому система интеллектуального прогнозирования, основанная на ИИ, должна всегда фокусироваться на предотвращении, а не на насильственном правоприменении.
Технологии умного города уже внедрены в нашу жизнь и будут развиваться дальше. И ваша задача при их развитии попытаться завоевать доверие всех слоев общества, ослабив основные проблемы. В первую очередь обратите внимание на осведомление граждан, равное включение в процесс принятия решений различных демографических групп и увеличение прозрачности интеллектуальной общественной инфраструктуры.