17 апреля 2021, суббота, 11:58
VK.comFacebookTwitterTelegramInstagramYouTubeЯндекс.ДзенОдноклассники

НОВОСТИ

СТАТЬИ

PRO SCIENCE

МЕДЛЕННОЕ ЧТЕНИЕ

ЛЕКЦИИ

АВТОРЫ

Китай внедряет технологии распознавания эмоций. Чем это грозит остальному миру?

Photo by Lianhao Qu on Unsplash
Photo by Lianhao Qu on Unsplash

Китайские власти активно внедряют технологию распознавания эмоций. Темпы, которыми продвигается этот процесс, откровенно пугают правозащитников. Инструменты и критерии наблюдения выглядят антинаучными и расово предвзятыми, поэтому противники подобных «инноваций» требуют их запретить прежде, чем они распространятся за пределы Китая. Рассказываем, как IT-компании помогают властям КНР следить за проявлениями гнева и печали своих сограждан и чем это грозит всему остальному миру. 

Системы распознавания эмоций, по замыслу их создателей, должны выявлять на лицах выражения гнева, печали, счастья и скуки, а также собирать и анализировать другие биометрические данные. Что именно чувствует тот или иной человек, определяют на основе движения лицевых мышц, тона голоса, положения тела и так далее. Эти системы гораздо сложнее, чем уже привычные технологии распознавания лиц, которые просто сравнивают картинки и ищут совпадения. Новые методы тоже включают в себя массовый сбор персональных данных для отслеживания, мониторинга и характеристики людей, используется машинное обучение.

Критики новой технологии утверждают, что она основана на псевдонаучных стереотипах. Все большее число исследователей, юристов и правозащитников опасаются, что она будет иметь серьезные последствия для прав человека, конфиденциальности и свободы выражения мнений во всем мире. По прогнозам, мировая отрасль распознавания эмоций к 2023 году будет стоить около $36 млрд и будет расти почти на 30 % в год, поэтому действовать необходимо немедленно.

В январе 2021 года британская правозащитная группа Article 19 выпустила доклад, посвященный разработкам и использованию технологий распознавания эмоций в Китае. Авторы документа призвали гражданское общество как можно быстрее начать информационную кампанию против продажи и применения этих технологий. Они призвали запретить их до того, как распознавание эмоций получит широкое, в том числе коммерческое, распространение. По мнению правозащитников, разработки в области отслеживания эмоций обладают «огромным потенциалом негативного воздействия на жизнь и средства к существованию людей и принципиально и внутренне несовместимы с международными стандартами в области прав человека». Как минимум они нарушают право на свободу самовыражения, вынуждая людей соответствовать «хорошим» характеристикам, право на протест и на свободу не свидетельствовать против себя, ведь любое выражение лица может быть расценено как «изобличающее» замыслы или подтверждающее виновность.   

Слежка под видом заботы о безопасности

В докладе Article 19 упоминались 27 китайских компаний, занимающихся разработками в области распознавания эмоций. Лишь в одной из них согласились пообщаться с журналистами The Guardian. 

«Обычные жители Китая не очень довольны новыми технологиями, но у них нет выбора. Если полиция скажет, что в общине должны быть камеры, людям просто придется с этим жить. Спрос есть всегда, и мы здесь, чтобы его удовлетворить», —  рассказал Чен Вэй из компании Taigusys.

Офис Taigusys спрятан за несколькими малоэтажными офисными зданиями в Шэньчжэне. Посетителей встречает серия камер, показывающих их изображения на большом экране, который отображает температуру тела, а также оценку возраста и другую статистику. Чен, генеральный менеджер компании, говорит, что система, установленная на входе в офис, — бестселлер компании. Спрос на эту разработку вырос во время пандемии коронавируса.

Чен приветствует распознавание эмоций как способ прогнозировать опасное поведение заключенных, обнаруживать потенциальных преступников, проблемных учеников в школах и пожилых людей, страдающих слабоумием, в домах престарелых. 

Системы Taigusys уже установлены примерно в 300 тюрьмах, спецприемниках и следственных изоляторах по всему Китаю, к ним подключены 60 тыс. камер.

«Насилие и самоубийства очень распространены в центрах заключения. Даже если в наши дни полиция не избивает заключенных, их часто пытаются измотать, не давая уснуть. В результате у некоторых заключенных наступает психическое расстройство и они стремятся покончить с собой. И наша система поможет предотвратить это», — говорит Чен.

По его словам, заключенные становятся более послушными, если знают, что они находятся под наблюдением этой системы — 24 часа в сутки в режиме реального времени.

Помимо тюрем и полицейских контрольно-пропускных пунктов, Taigusys развернула свои системы в школах для наблюдения за учителями, учениками и персоналом, в домах престарелых — для выявления падений и изменений эмоционального состояния пациентов, а также в торговых центрах и на автостоянках. 

Хотя использование технологии распознавания эмоций в школах Китая вызвало некоторую критику, ее использование властями в отношении граждан почти не обсуждалось. Признавая эту проблему, Чен тем не менее подчеркивает потенциал системы в предотвращении происшествий с применением насилия. Он напомнил случай в провинции Гуанси на юге Китая в июне прошлого года, когда охранник ранил ножом 41 человека. По мнению представителя компании, преступление можно было предотвратить с помощью новых технологий.

Его позицию ставит под сомнение сотрудница Article 19, юрист, специализирующийся на социально-правовых последствиях появления новых технологий, Видуши Марда. 

«Знакомый и немного разочаровывающий рассказ, который часто используют, когда новые, "блестящие" технологии вводят под видом заботы о безопасности. Но на самом деле видеонаблюдение мало связано с безопасностью, и я не уверена, что обратная связь в реальном времени устранит насилие», — говорит правозащитница. По ее мнению, большая часть биометрического наблюдения, в том числе и распознавание эмоций, тесно связана с запугиванием и цензурой.

Возможность ошибочного использования

Другая проблема заключается в том, что системы распознавания обычно основаны на действиях позировавших при разработке актеров и их представлениях о том, что они считают счастливым, грустным, злым и другими эмоциональными состояниями. Выражение лица также может широко варьироваться в зависимости от культуры, что приводит к дальнейшим неточностям и этническим предубеждениям. Система Taigusys, которая используется полицией в Китае, а также службами безопасности в Таиланде и некоторых африканских странах, включает такие идентификаторы, как «желтый, белый, черный» и даже «уйгурский».

«Население в этих странах более разнообразно в расовом отношении, чем в Китае, а в Китае это также используется для отличия уйгуров от ханьских китайцев. Если появится уйгур, он будет помечен, но система не будет отмечать ханьского китайца», — говорит Чен.

На вопрос, не беспокоит ли его, что эти функции используются властями не по назначению, Чен отвечает отрицательно, так как программное обеспечение используется полицией, подразумевая, что таким учреждениям следует автоматически доверять. Для Шазеды Ахмед, исследователя из Института AI Now при Нью-Йоркском университете, которая участвовала в создании отчета Article 19, это «ужасные аргументы».

«То, что китайские представления о расе будут встроены в технологии и экспортированы в другие части мира, действительно вызывает беспокойство, особенно потому, что в Китае нет того критического дискурса о расизме и этнической принадлежности, который есть у нас в Соединенных Штатах», — говорит Шазеда Ахмед.

По ее словам, исследования за последние несколько лет показали, что сбор конфиденциальной личной информации особенно опасен, когда находится в руках государства — с учетом широкой сферы их возможного использования государственными структурами. В Китае по сути нет никаких законов, ограничивающих доступ властей к биометрическим данным, что дает таким компаниям, как Taigusys, полную свободу разрабатывать и внедрять эти продукты, в то время как аналогичные предприятия в США, Японии или Европе не могут этого делать, соглашается Чен.

«Таким образом, у нас есть возможность собрать как можно больше информации и найти наилучшие сценарии использования этих данных», — говорит он.

Любопытно, что, продвигая свои разработки, китайские компании ссылаются на положительный зарубежный опыт, отмечают докладчики Article 19. Аналоги таких программ действительно тестировали в США, Венгрии, Латвии и Греции. Однако разработчики из Китая умалчивают, что большая часть их предшественников из западных стран, наоборот, подверглась критике за расизм, ложноположительные результаты и нарушение прав человека.

Еще один аргумент противников распознавания чувств и настроений заключается в том, что технология опирается на по сути антинаучные теории. «Три ошибочных предположения лежат в основе обоснования использования и продажи технологий распознавания эмоций: что выражения лица универсальны, что эмоциональные состояния могут быть извлечены из них и что такие выводы достаточно надежны, чтобы их можно было использовать для принятия решений. Ученые по всему миру десятилетиями дискредитировали все три гипотезы, но это, похоже, не мешает экспериментам и продаже технологий», — констатируют авторы доклада Article 19.

Обсудите в соцсетях

Главные новости

11:21 В России выявили 9,3 тыс. новых случаев коронавируса
10:45 Том Йорк, Джоан Роулинг, Джуд Лоу и еще более 70 известных артистов потребовали допуска врачей к Навальному
10:00 ФСБ задержала консула Украины в Санкт-Петербурге
09:28 Госдеп характеризовал ответные санкции России эскалацией
16.04 22:10 Рауль Кастро покинул пост руководителя коммунистической партии Кубы
16.04 21:32 Российские власти закрыли въезд в страну генпрокурору США и директору ФБР
16.04 20:41 В Петербурге отменили обязательное требование носить перчатки в общественных местах
16.04 20:08 «Наступает самое мрачное время»: руководители ФБК и штабов Навального заявили, что 2021 год будет трудным
16.04 19:41 Прокуратура Москвы потребовала признать ФБК и штабы Навального экстремистскими организациями
16.04 19:15 Путин задекларировал доход в 9,9 млн рублей и две квартиры
16.04 18:36 Песню Манижи «Русская женщина» номинировали на лучший текст «Евровидения»
16.04 18:10 Экс-фигурант «московского дела» Константин Котов – о цензуре и книгах в СИЗО
16.04 17:59 «Яндекс.Лавка» начнет работать в Париже и Лондоне
16.04 17:13 ТАСС: деньги, выделенные властями на туристический кешбэк, закончились, но туры продолжают продавать
16.04 17:10 Певец Тима Белорусских получил два года ограничения передвижений по делу о наркотиках
16.04 16:41 В Думу внесли проект о втором бесплатном высшем образовании по творческим специальностям
16.04 16:40 Ангела Меркель получила первый компонент вакцины против ковида AstraZeneca
16.04 16:15 Видеооператор ФБК Зеленский получил два года колонии за два твита об Ирине Славиной
16.04 16:00 Открытая в пещерах Черногории улитка получила название в честь теннисиста Новака Джоковича
16.04 15:59 Прокуратура запросила для офицера ФСБ Кирилла Черкалина 11 лет колонии
16.04 15:47 В СК решили допрашивать редакторов журнала Doxa каждый рабочий день в течение месяца
16.04 15:27 «Мы готовы перейти к принудительному кормлению уже сейчас». Навальный рассказал о разговоре с полковником в колонии
16.04 15:00 Впервые ядерную ДНК неандертальцев сумели выделить из грунта пещер
16.04 14:48 Житель Мурманска получил 14 лет колонии по обвинению в подготовке взрыва у здания администрации
16.04 14:41 Экс-фигурант «московского дела» Андрей Баршай – о цензуре и книгах в СИЗО
16.04 14:11 МВД России потребовало от стран СНГ забрать своих мигрантов и пригрозило закрыть границы
16.04 14:08 В Астрахани участники праймериз «Единой России» представили «Манифест новых путинцев»
16.04 14:00 Жители Западной Африки собирали мед диких пчел 3500 лет назад
16.04 13:55 В России завели 82 уголовных дела из-за намеренного заражения коронавирусом
16.04 13:37 Лукашенко анонсировал встречу с Путиным после послания Федеральному Собранию
16.04 13:33 «Самый сложный пожар в истории»: в Петербурге пятый день тушат «Невскую мануфактуру»
16.04 13:27 Захватчик отделения «Банка Грузии» в Тбилиси задержан
16.04 13:15 «Радио Свобода» пожаловалось в ЕСПЧ на нарушение российской властью права на выражение мнения
16.04 12:59 В российские регионы отправили первые партии вакцины центра Чумакова
16.04 12:39 Посол Великобритании посетила МИД России после того, как королевство обвинило РФ в кибератаках
16.04 12:32 В Тбилиси захватили заложников в банке. Это уже третий случай за полгода
16.04 12:00 У тайваньской лягушки оказалось три пары половых хромосом
16.04 11:50 Голикова: вакцину против коронавируса в России получили «существенно больше» 8 млн человек
16.04 11:49 Более 250 ученых со всего мира подписались под письмом в поддержку редакторов журнала Doxa
16.04 11:26 В России зарегистрировали 8,9 тыс. новых случаев COVID-19 за сутки
16.04 11:09 В высказываниях Соболь и Милова компания «Конкорд» увидела клевету на Пригожина
16.04 10:37 Правительство предложило автоматически регистрировать на госуслугах с рождения
16.04 10:03 Южная Корея начнет производить «Спутник V»
16.04 10:00 На Корсике обнаружены нестандартные древние погребения
16.04 09:30 РБК: компания мэрии Москвы стала обладательницей «платиновых апартаментов» на 93 и 94 этажах в башне «Федерация»
16.04 09:26 В США на складе FedEx открыли стрельбу. Есть раненые
16.04 08:56 Группа «Ногу свело» объявила об отмене гастролей по Сибири после того, как «организаторов вызвали в важные кабинеты»
16.04 08:35 В интернет слили базу данных зарегистрировавшихся на акцию «Свободу Навальному!»
16.04 08:13 «Пытается подыграть США»: посольство РФ ответило на обвинения Великобритании в хакерских атаках на американскую компанию
16.04 07:40 Депутат Мосгордумы потребовал зарплатного равенства оппозиции с «единороссами»
«АвтоВАЗ» «ВКонтакте» «Газпром» «Зенит» «Мемориал» «Мистраль» «Оборонсервис» «Роснефть» «Спартак» «Яблоко» Абхазия Австралия Австрия Азербайджан Антимайдан Аргентина Арктика Армения Афганистан Аэрофлот Башкирия Белоруссия Бельгия Болгария Бразилия ВВП ВКС ВМФ ВПК ВТБ ВЦИОМ Ватикан Великобритания Венгрия Венесуэла Владивосток Внуково Волгоград ГИБДД ГЛОНАСС Генпрокуратура Германия Голливуд Госдеп Госдума Греция Гринпис Грузия ДТП Дагестан Дания Домодедово Донецк ЕГЭ ЕСПЧ Евровидение Еврокомиссия Евромайдан Евросоюз Египет Екатеринбург ЖКХ Израиль Ингушетия Индия Индонезия Интерпол Ирак Иран Испания Италия Йемен КНДР КПРФ Казань Казахстан Калининград Камчатка Канада Каталония Кемерово Киев Кипр Киргизия Китай Коми Конституция Красноярск Кремль Крым Куба Курилы ЛГБТ ЛДПР Латвия Ливия Литва Лондон Луганск МВД МВФ МГУ МКС МОК МЧС Малайзия Мексика Минздрав Минкульт Минобороны Минобрнауки Минпромторг Минсельхоз Минск Минтранспорта Минтруд Минфин Минцифры Минэкономразвития Минэнерго Минюст Молдавия Мосгордума Мосгорсуд Москва НАСА Нигерия Нидерланды Новосибирск Норвегия ОБСЕ ООН ОПЕК Одесса Омск ПДД Пакистан Паралимпиада Париж Пентагон Польша Приморье РАН РЖД РПЦ РФС Росавиация Росгвардия Роскомнадзор Роскосмос Роспотребнадзор Россельхознадзор Россия Росстат Ростех Ростуризм СМИ СССР США Сахалин Сбербанк Севастополь Сербия Сирия Сколково Славянск Сочи Таджикистан Таиланд Татарстан Трансаэро Турция УЕФА Узбекистан Украина ФАС ФБР ФИФА ФСБ ФСИН ФСКН Филиппины Финляндия Франция Хакасия Харьков ЦИК ЦРУ ЦСКА Центробанк Чехия Чечня Швейцария Швеция Шереметьево Эбола Эстония ЮКОС Якутия Яндекс Япония авиакатастрофа автопром алкоголь амнистия арест армия археология астрономия аукционы бактерии банкротство беженцы безработица бензин беспилотник беспорядки биатлон бизнес благотворительность блогосфера бокс болельщики вандализм взрыв взятка вирусы вузы выборы гаджеты генетика гомосексуализм госбюджет госзакупки госизмена деньги дети доллар допинг драка евро журналисты законотворчество здоровье землетрясение изнасилование импорт инвестиции инновации интернет инфляция ипотека искусство ислам исследования история казнь кино кораблекрушение коронавирус коррупция космос кража кредиты культура лингвистика литература математика медиа медицина метро мигранты монархия мошенничество музыка наводнение налоги нанотехнологии наркотики наука недвижимость нейробиология некролог нефть образование обрушение общество ограбление оппозиция опросы оружие офшор палеонтология педофилия пенсия пиратство планетология погранвойска пожар полиция похищение правительство право православие преступность продовольствие происшествия психология пытки ракета рейтинги реклама религия ретейл робототехника рубль санкции связь сепаратизм следствие смартфоны смертность социология спецслужбы спутники статистика страхование стрельба строительство суды суицид тарифы театр телевидение теракт терроризм технологии транспорт туризм убийство фармакология физика фоторепортаж футбол хакеры химия хоккей хулиганство цензура школа шпионаж экология экономика экспорт экстремизм этология «Единая Россия» «Исламское государство» «Нафтогаз Украины» «Правый сектор» «Северный поток» «Справедливая Россия» «болотное дело» Александр Бастрыкин Александр Лукашенко Александр Новак Александр Турчинов Алексей Кудрин Алексей Навальный Алексей Улюкаев Алтайский край Амурская область Анатолий Сердюков Ангела Меркель Антон Силуанов Аркадий Дворкович Арсений Яценюк Астраханская область Барак Обама Басманный суд Башар Асад Белый дом Борис Немцов Бутовский полигон Валентина Матвиенко Верховная Рада Верховный суд Виктор Янукович Виталий Милонов Виталий Мутко Владимир Жириновский Владимир Зеленский Владимир Маркин Владимир Мединский Владимир Путин Вячеслав Володин Дальний Восток День Победы Дмитрий Медведев Дмитрий Песков Дмитрий Рогозин Дональд Трамп Евгения Васильева Забайкальский край Интервью ученых Ирина Яровая Иркутская область История человечества Калужская область Кирилл Серебренников Кировская область Конституционный суд Космодром Байконур Краснодарский край Красноярский край Ксения Собчак Ленинградская область МИД России Мария Захарова Михаил Прохоров Михаил Саакашвили Михаил Ходорковский Московская область Мурманская область Надежда Савченко Наталья Поклонская Нижний Новгород Николас Мадуро Нобелевская премия Новосибирская область Новый год Олег Дерипаска Олимпийские игры Ольга Голодец Павел Дуров Палестинская автономия Папа Римский Первый канал Пермский край Петр Порошенко Почта России Приморский край Рамзан Кадыров Реджеп Эрдоган Республика Карелия Ростовская область Самарская область Саратовская область Саудовская Аравия Свердловская область Сергей Лавров Сергей Нарышкин Сергей Полонский Сергей Собянин Сергей Шойгу Следственный комитет Совбез ООН Совет Федерации Ставропольский край Счетная палата Тереза Мэй Тюменская область Франсуа Олланд Хабаровский край Хиллари Клинтон Человек дня Челябинская область Черное море Эдвард Сноуден Элла Памфилова Эльвира Набиуллина Эммануэль Макрон Южная Корея Юлия Тимошенко Юрий Чайка авторское право администрация президента акции протеста атомная энергия баллистические ракеты банковский сектор биология большой теннис визовый режим военная авиация выборы губернаторов газовая промышленность гражданская авиация гуманитарная помощь декларации чиновников домашние животные дороги России информационные технологии климат Земли компьютерная безопасность космодром Восточный крушение вертолета легкая атлетика лесные пожары междисциплинарные исследования мобильные приложения морской транспорт некоммерческие организации общественный транспорт патриарх Кирилл пенсионная реформа пищевая промышленность права человека правозащитное движение преступления полицейских публичные лекции российское гражданство русские националисты русский язык сельское хозяйство сотовая связь социальные сети стихийные бедствия телефонный терроризм уголовный кодекс фигурное катание финансовый рынок фондовая биржа химическое оружие хроники обнуления эволюция экономический кризис ядерное оружие Великая Отечественная война Всемирная организация здравоохранения Вторая мировая война Ирак после войны Ким Чен Ын Революция в Киргизии Российская академия наук Стихотворения на случай Федеральная миграционная служба Федеральная таможенная служба борьба с курением выборы мэра Москвы здравоохранение в России связь и телекоммуникации тюрьмы и колонии Совет по правам человека аварии на железной дороге естественные и точные науки закон об «иностранных агентах» компьютеры и программное обеспечение видеозаписи публичных лекций «Полит.ру» Новые технологии, инновации Сочи 2014 рейтинг Forbes Аль-Каида Кабардино-Балкария Левада-Центр Нью-Йорк Санкт-Петербург отставки-назначения шоу-бизнес Ростов-на-Дону ЧМ-2018 Книга. Знание ВИЧ/СПИД Путин20летназад новость20летназад Apple Bitcoin Boeing Facebook G20 Google iPhone IT Microsoft NATO PRO SCIENCE видео ProScience Театр Pussy Riot Telegram Twitter Wikileaks YouTube

Редакция

Электронная почта: polit@polit.ru
Телефон: +7 929 588 33 89
Яндекс.Метрика Top.Mail.Ru
Свидетельство о регистрации средства массовой информации
Эл. № 77-8425 от 1 декабря 2003 года. Выдано министерством
Российской Федерации по делам печати, телерадиовещания и
средств массовой информации. Выходит с 21 февраля 1998 года.
При любом использовании материалов веб-сайта ссылка на Полит.ру обязательна.
При перепечатке в Интернете обязательна гиперссылка polit.ru.
Все права защищены и охраняются законом.
© Полит.ру, 1998–2021.