18 сентября 2020, пятница, 09:54
VK.comFacebookTwitterTelegramInstagramYouTubeЯндекс.ДзенОдноклассники

НОВОСТИ

СТАТЬИ

PRO SCIENCE

МЕДЛЕННОЕ ЧТЕНИЕ

ЛЕКЦИИ

АВТОРЫ

Лицемерная безопасность

Митинг на проспекте Сахарова
Митинг на проспекте Сахарова

«На проспекте Академика Сахарова стоят сканирующие камеры высокого разрешения. Мне приходилось видеть файл-панораму оттуда — представь фотку митинга, где у всех можно зазумить лица», — сказал мне знакомый сотрудник крупной российской телекоммуникационной компании после того, как в середине августа я написала в фейсбуке о том, что мой телефон и номер паспорта оказались в слитой «Товарищем майором» базе данных «сторонников Навального».

На мой вопрос, где еще в Москве установлены камеры высокого разрешения, Игорь (имя изменено) отвечать отказался, сославшись на то, что подписал с работодателем соглашение о неразглашении.

Меня ни разу не задерживали на митингах, я не сотрудничала ни с Фондом борьбы с коррупцией Алексея Навального, ни со штабами оппозиционных кандидатов. Разумеется, в рунете можно достаточно легко и недорого купить практически любые личные данные россиян, и уж тем более все это не секрет для МВД, но почему я оказалась в этом списке?

В слитой базе я также нашла телефон и номер паспорта знакомого, который, как и я, «не состоял и не привлекался», он просто ходил этим летом на все уличные акции протеста — согласованные и нет.

Возможно, мобильные операторы передали МВД данные абонентов, которые находились в зоне акций протеста. Эта версия выглядит вполне правдоподобной, учитывая то, что операторы — очевидно, по требованию силовиков — в последнее время глушили связь даже на согласованных на митингах.

 
Молодые люди со смартфонами / АГН "Москва" / фото: Любимов Андрей

Но возможно ли, что мое лицо зафиксировали камеры наружного наблюдения, автоматически сопоставили с базой МВД (предположим, я действительно похожа на фотографию в паспорте) и в список неблагонадежных граждан я попала именно таким образом? Этот вопрос я адресовала Виктории (имя изменено), специалистке по цифровой обработке изображений и глубокому обучению, из крупной IT-компании в Сан-Франциско.

«Конечно. Вообще не проблема. Более того, подобные технологии существуют уже по меньшей мере лет 20. Впрочем, до сих пор этот процесс не полностью автоматизирован. Алгоритм предлагает ряд похожих лиц из базы, но окончательное решение остается за техническим сотрудником. Любые алгоритмы могут ошибаться, поэтому доверять им на 100% нельзя, это может привести к ложным обвинениям».

А что насчет этической стороны вопроса? Право на неприкосновенность частной жизни? Кстати, Сан-Франциско, где сейчас живет Виктория, в этом году стал первым городом США, где полиции и городским учреждениям официально запретили использовать технологии распознавания лиц. Такое решение приняли из-за беспокойства общественности по поводу того, что применение технологии может привести к нарушению неприкосновенности частной жизни и гражданских прав жителей, в первую очередь афроамериканцев и этнических меньшинств, чьи лица алгоритмы распознают хуже.

«Этические вопросы безусловно кого-то волнуют, но это не особо мешает государствам и корпорациям собирать о нас информацию, — в голосе Виктории слышится скепсис. — Лидеры в области сбора, обработки и хранения персональной информации — это так называемая большая четверка или GAFA, то есть компании Google, Amazon, Facebook и Apple. Они инвестируют миллиарды в системы распознавания лиц и речи и хотят знать о нас буквально все. Например, ты загружаешь фотографию, на ней лица десяти человек, но ты никого не затегала. Однако при помощи алгоритма распознавания лиц все равно можно легко определить, кто с кем тусуется, кому ты нравишься, а кому нет, кто веселится, а кто грустит, что вы все вместе делаете, и исходя из этого автоматически предлагать подходящую рекламу».

 
Страница Фейсбук на мониторе / pixabay.com

В начале июня в фейсбуке произошел сбой — вместо фотографий соцсеть стала показывать подписи примерно такого содержания: «на этой фотографии могут быть дети», «на этой фотографии могут быть три человека, люди улыбаются, люди стоят в помещении», «на этой фотографии может быть небо и море», «на этой фотографии может быть дом, люди улыбаются» и т. п. Вплоть до «на этой фотографии обувь». При этом сеть почти никогда не ошибалась.

«Аналогичные алгоритмы используют полиция и другие службы безопасности, чтобы распознавать, например, людей с оружием, людей, которые дерутся, пытаются угнать автомобиль или совершить кражу... Подытоживая наш разговор, я могу сказать, что за всеми нами уже давно следят — Facebook прослушивает наши телефоны, Google читает почту, а голосовые помощники вроде яндексовской Алисы или амазоновской Алексы слушают, о чем мы говорим дома. И все это для того, чтобы увеличить продажи. А полиция для нашего же блага следит за нами на улицах, чтобы все это было максимально безопасно», — ухмыльнувшись заключила Виктория.

Об этичности широкого внедрения алгоритмов распознавания лиц мне также удалось пообщаться с Яковом (имя изменено), программистом из Израиля, который специализируется на таких системах.

«Об этической стороне распознавания лиц мне приходилось говорить немало, причем в основном на собеседованиях. Разработчики такого рода софта обычно заворачивают это в фантик «борьбы с преступностью». Я как-то напрямую спросил владельца одной компании: «А тебя не смущает, что такого рода софт, попадая в неправильные руки, например, в Китай, становится орудием борьбы с инакомыслящими, а не с преступниками?» Ответ был в духе «Ну, это когда еще будет, кроме того, если мы продадим нашу систему израильским правоохранительным органам, потребуется их разрешение на каждого потенциального покупателя софта». Между тем, в последние годы было немало публикаций о так называемых «лагерях перевоспитания» в китайской провинции Синьцзянь, через которые проходят сотни тысяч, если не миллионы людей. Большинство из них уйгуры-мусульмане, но есть представители и других этнических меньшинств, например, казахи. Конечно, все это называют за борьбой с экстремизмом и терроризмом. Но, как журналисты и правозащитники описывают даже не в сами лагеря, а обстановку в городах Синьцзян-Уйгурского автономного района, отдает мрачнейшей антиутопией.

 
Угурский округ в КНР  / flickr.com

В докладе Human Rights Watch «Алгоритмы репрессий в Китае» сообщалось, что в Китае всю информацию с камер наружного наблюдения анализирует система искусственного интеллекта IJOP. Нейросеть разработала армия Китая, и она является частью национальной программы «Зоркий взгляд», которая в ближайшем будущем должна охватить всю страну сетью технологий слежения.

Искусственный интеллект оперирует системами распознавания лиц. Американский журналист Пол Мозур (Paul Mozur) писал в своем расследовании, опубликованном в New York Times, что нейросеть умеет определять по лицам уйгуров по всему Китаю. Причем об этом прямо говорится не только в полицейских отчетах, но и в рекламе компаний, которые занимаются разработкой и поставками соответствующего оборудования и программного обеспечения. Китайские власти открыто говорят о том, что тибетцы, уйгуры, казахи и другие меньшинства считаются подозрительными категориями населения. Нейросеть анализирует перемещение людей и принимает решение, как реагировать. «Например, если в месте, где живет один уйгур, вдруг будет зафиксировано шестеро, система незамедлительно вышлет туда полицейских».

Яков не знает, продавали ли израильские компании системы распознавания лиц Китаю. «Мое личное мнение — это рынок, и моральные принципы тут работают, пока не светит реально большое бабло. Как только находится покупатель, который с лихвой окупает вложения и сулит хорошую прибыль, возникают уже другие этические соображения — насчет обязательств перед сотрудниками, которые впахивали на этот продукт несколько лет. И они перевешивают. Знаю нескольких программистов, которые отказывались работать на таких продуктах. Но задачи, технологии, алгоритмы там все же уж слишком заманчивые. Поэтому программистам очень тяжело не скатиться в разработку "контролирующего" софта», — вздыхает Яков.

Кстати, недавно сообщалось, что российские силовики использовали израильскую программу для взлома смартфонов, изъятых у протестующих в Москве.

Бывают ли проекты, на которых программистов используют в темную, и разработчики вообще не в курсе над чем конкретно работают, каким будет конечный продукт и для кого он предназначен? «Я ни о чем подобном никогда не слышал, но в принципе это возможно. Технически это реализовать не так просто, одним программистам придется заказывать имплементацию какой-то узкой задачи, а другим — немного дорабатывать это напильником и лепить из этого конечный продукт. Лично я таких прецедентов не видел, но это возможно. При этом обычно как раз рядовые кодеры прекрасно понимают, что они делают. Иначе просто тяжело сделать именно то, что нужно под конкретный заказ», — объясняет Яков.

 
Мальчик в детском саду  / pixabay.com

«Поясню на примере. Одному программисту можно поставить задачу — написать для детского сада нейронную сеть, которая будет распознавать эмоции на лицах детей, чтобы родители были спокойны, что с их ребенком все в порядке. Тот же самый код сработает и на взрослых. Нужно просто поменять базу данных фотографий с детей на взрослых, заново обучить эту же самую нейронную сеть и запустить ее уже не в детском саду, а, например, на предприятии, чтобы контролировать работников. Заодно можно доцепить дополнительный модуль, который будет каждый час писать отчеты с фамилиями работников и отправлять руководству», — так безобидная, на первый взгляд, технология превратится в систему жесткого контроля.

Этим летом пользователи соцсетей активно постили фотографии состаренные при помощи приложения FaceApp, разработанного российской компанией Wireless Lab. За десять дней пикового спроса создатели приложения заработали более миллиона долларов. Но вскоре восторг пользователей, разглядывавших свои и чужие портреты в глубоких морщинах, сменился легкой паникой: где находятся серверы, на которые приложение загружает фотографии? Долго ли оно их там хранит? Зачем вообще все это нужно? Уж не для обкатки ли очередных алгоритмов распознавания лиц, чтобы участника несанкционированного митинга в далеком Китае можно было спустя тридцать лет задержать на проспекте Сахарова в Москве? Компания, разработавшая FaceApp, на запросы журналистов не отвечала.

Точно так же не ответил на мой запрос и Следственный комитет Российской Федерации, куда я направила обращение с просьбой провести проверку по факту распространения моих личных данных в сети «Интернет» при помощи телеграм-канала «Товарищ майор», хотя отведенные на проверку десять суток уже давно истекли.

Между тем в Гонконге, уже больше месяца не стихают протесты, переросшие из мирных уличных демонстраций в уличные бои. Несмотря на запрет полиции, сотни тысяч протестующих вышли на марш. Одно из требований митингующих — убрать с улиц столбы с электронной аппаратурой, которая, по заявлениям китайских властей, нужна для измерения чистоты воздуха. Оппозиция подозревает, что на самом деле это камеры системы слежения. Столбы валят. По всему городу срывают камеры наружного наблюдения.

Обсудите в соцсетях

Главные новости

09:34 Путин, Трамп и Лукашенко получили Шнобелевскую премию из-за пандемии COVID-19
17.09 21:58 В российских аптеках начнут продавать два препарата от ковида
17.09 21:14 Узбекистан откроет границы с 1 октября
17.09 20:31 «Пол-армии поставить под ружье»: Лукашенко закрыл границу с Западом и усилил границу с Украиной
17.09 20:21 Экс-модель обвинила Трампа в сексуальном насилии
17.09 19:51 Губернатор Белгородской области Евгений Савченко ушел в отставку. Он занимал этот пост с 1993 года
17.09 19:05 «Пiшов ти!»: Сэмюэл Л. Джексон две минуты ругался на разных языках, чтобы привлечь подписчиков к голосованию на президентских выборах
17.09 18:42 Собянин объяснил рост заболеваемости ковидом в столице количеством сделанных тестов
17.09 18:21 В Германии футбольный матч закончился со счетом 37:0. Проигравшая команда соблюдала социальное дистанцирование
17.09 18:15 Комитет по безопасности и правоведы Думы раскритиковали поправки Мизулиной об укреплении института семьи
17.09 17:28 Минкульт Украины исключил российского рэпера Басту из черного списка
17.09 16:50 Памфилова предложила противникам трехдневного голосования найти ему «разумную альтернативу»
17.09 16:31 СК заявил, что перед смертью Марцинкевич признался в убийствах. Следствие считает — он покончил с собой
17.09 15:59 Бэнкси лишился права на одну из своих самых известных работ из-за анонимности
17.09 15:43 Навального выдвинули на Нобелевскую премию мира
17.09 15:13 Мосгорсуд отменил заочный арест россиянки, трижды голосовавшей по поправкам в Конституцию
17.09 15:09 Европарламент отказался признавать Лукашенко президентом. Депутаты осудили вмешательство России во внутренние дела Белоруссии
17.09 14:25 КП: Сын Лукашенко будет учиться в МГУ под псевдонимом
17.09 14:09 Европарламент призвал ужесточить санкции против России и начать международное расследование отравления Навального
17.09 14:00 Возраст и пол авторов наскальных рисунков определяют по отпечаткам пальцев
17.09 13:02 Соратники Навального показали, откуда взялась бутылка со следами «Новичка»
17.09 12:46 Причиной пожара в клинике в Красноярске стал поджог. Виноват один из пациентов
17.09 12:15 Россия столкнулась с нехваткой рабочих на стройках. Безработным предлагают сменить профиль
17.09 12:02 ФОМ: Треть россиян не доверяют данным соцопросов, особенно тем, которые касаются власти
17.09 12:00 Исследование выявило генетическую разнородность викингов
17.09 11:20 «Яндекс.Деньги» сменит название и превратится в «ЮMoney»
17.09 10:58 Число заразившихся коронавирусом в России вновь выросло. За сутки зарегистрировали 5762 новых случая
17.09 10:31 «Проект»: Навального отравили до выезда в аэропорт Томска
17.09 10:20 Яд австралийского жалящего дерева оказался похожим на токсины пауков и моллюсков
17.09 10:05 В Ленобласти нашли захоронение 134 человек времен войны и возбудили уголовное дело
17.09 09:48 СК не возбуждал дело о смерти Марцинкевича. Проводится стандартная проверка
17.09 09:28 В Красноярске во время пожара погибли четыре пациента наркологической клиники. Ее директора задержали
16.09 21:54 «Ъ»: посольство России запросило у МИД Германии разрешение на посещение Навального в больнице
16.09 21:27 Znak.com: СК возбудил уголовное дело по факту смерти Тесака
16.09 20:26 Американский художник заявил о готовности выкупить тело Ленина за миллиард долларов
16.09 20:01 Правительство утвердило повышение акциза на табак на 20%. Все сигареты в среднем подорожают на 20 рублей
16.09 19:29 11% молодых американцев считают евреев виновниками Холокоста
16.09 19:03 Лукашенко попросил у Путина «некоторые типы вооружений»
16.09 18:40 Новосибирский депутат горсовета вступил в «Единую Россию». Его избрали при поддержке «Умного голосования» Навального
16.09 18:00 Джо Байден на встрече с латиноамериканским электоратом включил Despacito. Песня поется от лица парня, желающего заняться сексом с подругой
16.09 17:54 Spotify обвинил Apple в неконкурентном поведении из-за новой единой подписки на все сервисы компании
16.09 17:29 Марии Колесниковой предъявили обвинение в публичных призывах к захвату власти
16.09 16:52 Суд Парижа приговорил экс-главу ВФЛА Балахничева к трем годам тюрьмы
16.09 16:37 Родители «Тесака» Марцинкевича потребовали возбудить уголовное дело об убийстве их сына
16.09 16:27 Лукашенко заявил, что текущий сценарий белорусских протестов Запад готовил 10 лет
16.09 16:18 80% россиян не ездили в отпуск летом 2020 года
16.09 15:55 Кабмин РФ направит почти 43 млн рублей на борьбу с воронами на крыше Белого дома
16.09 15:45 «Шарите» вернула Пригожину 1 млн рублей. Он отправил деньги клинике на лечение Навального
16.09 15:02 Владелец автомобиля, в который врезался Ефремов, потребовал отменить приговор актеру
16.09 15:00 Скончался отец Билла Гейтса
«АвтоВАЗ» «ВКонтакте» «Газпром» «Зенит» «Мемориал» «Мистраль» «Оборонсервис» «Роснефть» «Спартак» «Яблоко» Абхазия Австралия Австрия Азербайджан Антимайдан Аргентина Арктика Армения Афганистан Аэрофлот Башкирия Белоруссия Бельгия Болгария Бразилия ВВП ВКС ВМФ ВПК ВТБ ВЦИОМ Ватикан Великобритания Венгрия Венесуэла Владивосток Внуково Волгоград ГИБДД ГЛОНАСС Генпрокуратура Германия Голливуд Госдеп Госдума Греция Гринпис Грузия ДТП Дагестан Домодедово Донецк ЕГЭ ЕСПЧ Евровидение Еврокомиссия Евромайдан Евросоюз Египет Екатеринбург ЖКХ Израиль Ингушетия Индия Индонезия Интерпол Ирак Иран Испания Италия Йемен КНДР КПРФ Казань Казахстан Калининград Камчатка Канада Каталония Кемерово Киев Кипр Киргизия Китай Коми Конституция Красноярск Кремль Крым Куба Курилы ЛГБТ ЛДПР Латвия Ливия Литва Лондон Луганск МВД МВФ МГУ МКС МОК МЧС Малайзия Мексика Минздрав Минкомсвязи Минкульт Минобороны Минобрнауки Минпромторг Минсельхоз Минск Минтранспорта Минтруд Минфин Минэкономразвития Минэнерго Минюст Молдавия Мосгордума Мосгорсуд Москва НАСА Нигерия Нидерланды Новосибирск Норвегия ОБСЕ ООН ОПЕК Одесса ПДД Пакистан Паралимпиада Париж Пентагон Польша Приморье РАН РЖД РПЦ РФС Росавиация Росгвардия Роскомнадзор Роскосмос Роспотребнадзор Россельхознадзор Россия Росстат Ростех Ростуризм СМИ СССР США Сахалин Сбербанк Севастополь Сербия Сирия Сколково Славянск Сочи Таджикистан Таиланд Татарстан Трансаэро Турция УЕФА Узбекистан Украина ФАС ФБР ФИФА ФСБ ФСИН ФСКН Филиппины Финляндия Франция Хакасия Харьков ЦИК ЦРУ ЦСКА Центробанк Чехия Чечня Швейцария Швеция Шереметьево Эбола Эстония ЮКОС Якутия Яндекс Япония авиакатастрофа автопром алкоголь амнистия арест армия археология астрономия аукционы бактерии банкротство беженцы безработица бензин беспилотник беспорядки биатлон бизнес благотворительность блогосфера бокс болельщики вандализм взрыв взятка вирусы вузы выборы гаджеты генетика гомосексуализм госбюджет госзакупки госизмена деньги дети доллар допинг драка евро журналисты законотворчество здоровье землетрясение изнасилование импорт инвестиции инновации интернет инфляция ипотека искусство ислам исследования история казнь кино кораблекрушение коронавирус коррупция космос кража кредиты культура лингвистика литература математика медиа медицина метро мигранты монархия мошенничество музыка наводнение налоги нанотехнологии наркотики наука недвижимость нейробиология некролог нефть образование обрушение общество ограбление оппозиция опросы оружие офшор палеонтология педофилия пенсия пиратство планетология погранвойска пожар полиция похищение правительство право православие преступность продовольствие происшествия ракета рейтинги реклама религия ретейл робототехника рубль санкции связь сепаратизм следствие смартфоны смертность социология спецслужбы спутники статистика страхование стрельба строительство суды суицид тарифы театр телевидение теракт терроризм технологии транспорт туризм убийство фармакология физика фоторепортаж футбол хакеры химия хоккей хулиганство цензура школа шпионаж экология экономика экспорт экстремизм этология «Единая Россия» «Исламское государство» «Нафтогаз Украины» «Правый сектор» «Северный поток» «Справедливая Россия» «болотное дело» Александр Лукашенко Александр Новак Александр Турчинов Алексей Кудрин Алексей Навальный Алексей Улюкаев Амурская область Анатолий Сердюков Ангела Меркель Антон Силуанов Аркадий Дворкович Арсений Яценюк Астраханская область Барак Обама Басманный суд Башар Асад Белый дом Борис Немцов Бутовский полигон Валентина Матвиенко Верховная Рада Верховный суд Виктор Янукович Виталий Мутко Владимир Жириновский Владимир Зеленский Владимир Маркин Владимир Мединский Владимир Путин Вячеслав Володин Дальний Восток День Победы Дмитрий Медведев Дмитрий Песков Дмитрий Рогозин Дональд Трамп Евгения Васильева Забайкальский край Интервью ученых Ирина Яровая Иркутская область История человечества Калужская область Кирилл Серебренников Кировская область Конституционный суд Космодром Байконур Краснодарский край Красноярский край Ксения Собчак Ленинградская область МИД России Мария Захарова Михаил Прохоров Михаил Саакашвили Михаил Ходорковский Московская область Мурманская область Надежда Савченко Наталья Поклонская Нижний Новгород Николас Мадуро Нобелевская премия Новосибирская область Новый год Олег Дерипаска Олимпийские игры Ольга Голодец Павел Дуров Палестинская автономия Папа Римский Первый канал Пермский край Петр Порошенко Почта России Приморский край Рамзан Кадыров Реджеп Эрдоган Республика Карелия Ростовская область Саратовская область Саудовская Аравия Свердловская область Сергей Лавров Сергей Нарышкин Сергей Полонский Сергей Собянин Сергей Шойгу Следственный комитет Совбез ООН Совет Федерации Ставропольский край Счетная палата Тереза Мэй Франсуа Олланд Хабаровский край Хиллари Клинтон Человек дня Челябинская область Черное море Эдвард Сноуден Элла Памфилова Эльвира Набиуллина Южная Корея Юлия Тимошенко Юрий Чайка авторское право администрация президента акции протеста атомная энергия баллистические ракеты банковский сектор биология большой теннис визовый режим военная авиация выборы губернаторов газовая промышленность гражданская авиация гуманитарная помощь декларации чиновников дороги России информационные технологии климат Земли компьютерная безопасность космодром Восточный крушение вертолета легкая атлетика лесные пожары междисциплинарные исследования мобильные приложения морской транспорт некоммерческие организации общественный транспорт патриарх Кирилл пенсионная реформа пищевая промышленность права человека правозащитное движение преступления полицейских публичные лекции российское гражданство русские националисты русский язык сельское хозяйство сотовая связь социальные сети стихийные бедствия телефонный терроризм уголовный кодекс фигурное катание финансовый рынок фондовая биржа химическое оружие хроники обнуления эволюция экономический кризис ядерное оружие Великая Отечественная война Вторая мировая война Ирак после войны Ким Чен Ын Революция в Киргизии Российская академия наук Стихотворения на случай Федеральная миграционная служба Федеральная таможенная служба борьба с курением выборы мэра Москвы здравоохранение в России связь и телекоммуникации тюрьмы и колонии Совет по правам человека аварии на железной дороге естественные и точные науки закон об «иностранных агентах» компьютеры и программное обеспечение видеозаписи публичных лекций «Полит.ру» Новые технологии, инновации Сочи 2014 рейтинг Forbes Кабардино-Балкария Левада-Центр Нью-Йорк Санкт-Петербург отставки-назначения шоу-бизнес Ростов-на-Дону ЧМ-2018 Книга. Знание ВИЧ/СПИД новость20летназад Apple Bitcoin Boeing Facebook G20 Google iPhone IT Microsoft NATO PRO SCIENCE видео ProScience Театр Pussy Riot Telegram Twitter Wikileaks YouTube

Редакция

Электронная почта: polit@polit.ru
Телефон: +7 929 588 33 89
Яндекс.Метрика Top.Mail.Ru
Свидетельство о регистрации средства массовой информации
Эл. № 77-8425 от 1 декабря 2003 года. Выдано министерством
Российской Федерации по делам печати, телерадиовещания и
средств массовой информации. Выходит с 21 февраля 1998 года.
При любом использовании материалов веб-сайта ссылка на Полит.ру обязательна.
При перепечатке в Интернете обязательна гиперссылка polit.ru.
Все права защищены и охраняются законом.
© Полит.ру, 1998–2020.