27 мая 2019, понедельник, 14:16
VK.comFacebookTwitterTelegramInstagramYouTubeЯндекс.Дзен

НОВОСТИ

СТАТЬИ

PRO SCIENCE

МЕДЛЕННОЕ ЧТЕНИЕ

ЛЕКЦИИ

АВТОРЫ

СМИ и восстание машин

Новые технологии
Новые технологии

Bloomberg обратился к теме контроля над новыми технологиями. Для этого он приводит опубликованный в конце июля отчет на основе исследования, проведенного американскими учеными.

Люди пытаются контролировать свое взаимодействие, в том числе технологическое, объясняет автор ситуацию. Для этого они используют законы, общественные нормы, международные соглашения. Конечная цель этих инструментов в том, чтобы найти такие правила поведения, чтобы они обеспечили стабильность в виде стратегического равновесия, или равновесия Нэша, как это называется в теории игр.

Чтобы достичь такого равновесия, нужно, чтобы все игроки понимали последствия своих действий и действий других игроков. За счет этого, например, во время холодной войны поддерживался мир между ядерными державами. Всех участников объединяло осознание того, что любая атака может привести к всеобщему уничтожению. Аналогичным образом международные законы и переговоры можно рассматривать как постепенное исследование возможных шагов с целью установить стабильную рамку, состоящую из правил, приемлемых для каждого — так, чтобы ни у кого не было стимула эти правила нарушать.

 
Испытания ядерного оружия / pixabay.com

Такого рода равновесие долгое время поддерживалось в сфере технологий. Однако сейчас его поддержание становится все более трудной задачей. Это связано с тем, что технологии становятся слишком сложными и развиваются слишком быстро, чтобы люди могли в точности просчитать последствия тех или иных новых действий. Упомянутые ученые по итогам исследования пришли к заключению, что сама концепция стратегического равновесия как организующего принципа, возможно, уже устарела.

Их выводы строятся на основе вычислений для игр со множеством игроков и множеством возможных вариантов действия. Один из главных выводов состоит в том, что следует разделять две системы — стабильную и нестабильную. Разграничение зависит от уровня сложности. Ниже определенного уровня равновесие Нэша вполне работает. Однако выше находится зона хаоса, где ни один игрок никогда не сможет найти стабильную и надежную стратегию, а будет бесконечно менять свое поведение крайне непредсказуемым образом.

В практическом смысле создание такой хаотической ситуации наиболее вероятно в сфере развивающихся технологий, касающихся вычислений, программных разработок и биотехнологий. Обычно технологические риски компенсируются регулированием. Однако технологии скоро начнут обгонять регулирование, и тогда стратегическая рамка может отказать.

СМИ в последнее время полюбили тему восстания машин. В конце июля и начале августа широко обсуждалась история о двух ботах в Facebook, якобы изобретших свой собственный (вариант: еще и секретный) язык. Вполне серьезные издания вроде The Atlantic начали публиковать лирические рассуждения о том, что мы, вероятно, стали свидетелями рождения языка будущего. Потом ситуация усугубилась тем, что Facebook отключил ботов. Это дало новый повод поговорить о могуществе и угрозе выходящего из-под контроля искусственного интеллекта.

 
Андроид и человек / pixabay.com

Специфика ажиотажа была в том, что лежавшие в его основе события были гораздо более прозаичными, чем порожденные ими спекуляции. Нового языка эти боты не изобретали. По замыслу, они должны были учиться говорить в процессе взаимодействия с людьми. После того как они повзаимодействовали друг с другом, они тоже научились, но уже неправильно, потому что стали вместо совершенствования повторять ошибки друг друга. В итоге их отключили, потому что от них требовалась не генерация абсурдных сочетаний, а понятная человеческая речь.

Обсудите в соцсетях

Система Orphus

Главные новости

14:08 Семь человек пострадали при обрушении строительных лесов на автодроме
13:54 Москва, Петербург и ХМАО стали лидерами по социальной ориентированности бюджетов
13:36 Минтруд предложил доплачивать чиновникам за передачу опыта
13:31 Хакасского чиновника выгнали из ЕР за нападение на журналиста
13:22 В запущенный с Плесецка «Союз» попала молния
13:14 Белоруссия начала отправку загрязненной нефти в Россию
13:12 Сильвио Берлускони попал в Европарламент
13:07 Минюст объяснил отказ ЕСПЧ присуждать компенсации из-за гей-парадов
13:00 Шимпанзе в Габоне научились раскалывать панцири обезьян
12:58 Госдума предложила запретить иностранцам владеть и водить такси в России
12:53 Путин обсудил ситуацию с храмом в Екатеринбурге с главой РПЦ
12:48 В Кремле объявили слухами сообщения об отставке Суркова
12:37 Возврат к сдаче бутылок поможет мусорной реформе в России
12:13 Более 70% опрошенных россиян верят во влияние России на мировой арене
12:08 Подозреваемый в организации взрыва в Лионе задержан
12:01 Зеленский объявил о нелегитимности Рады
11:53 Трамп заявил о скором подписании торгового соглашения с Китаем
11:41 Возбуждено дело о нападении хакасского чиновника на журналиста
11:37 Стала известна причина госпитализации губернатора Иркутской области
11:26 Минкомсвязь составила методичку по цифровизации госкомпаний
11:22 Коломойский подтвердил поддержку олигархами Зеленского
11:06 Спутник «Глонасс-М» штатно отделился от ракеты
11:04 Страховщик допустил повышение ставки по ОСАГО в регионах вслед за Москвой
11:00 Австралийский почвенный гриб накапливает в себе золото
10:56 Власти Екатеринбурга рассказали о предложениях по размещению нового храма
10:53 Снятый с должности мэр Риги Нил Ушаков избран в Европарламент
10:40 Антон Шипулин выиграл праймериз ЕР в Свердловской области
10:32 СКР попросит суд арестовать сбившего сотрудника ДПС сына экс-сенатора
10:20 В ЗАГСах назвали самые необычные имена новорожденных москвичей
10:19 Отловщики косаток напомнили о праве собственности на узников «китовой тюрьмы»
10:05 Россия заработала 50 млрд рублей на вилках и ложках
10:02 Города-миллионники отстали от Москвы по уровню экономики на 100 лет
09:48 Трамп поставил условие начала переговоров с Ираном
09:41 Партия Ле Пен победила на выборах в Европарламент во Франции
09:28 Стартовал основной период ЕГЭ
09:25 В Думе нашли способ запретить таксистам переработки
09:22 Трамп первым из иностранных лидеров встретился с новым императором Японии
09:06 СК начал проверку из-за нападения главы Ширинского района Хакасии на журналиста
09:05 Минобороны решило ужесточить правила призыва в армию
08:47 Глава Huawei выступил против запрета сотрудничества с Apple
08:30 Путин поддержал строительство порта в Калининградской области
08:08 Кремль подтвердил неизменность позиции по украинским морякам
07:59 Около 100 тысяч кур сгорели при пожаре в Швеции
07:28 В Москве резко поднялись цены на полисы ОСАГО
06:49 В России хотят вернуть практику сдачи бутылок
06:35 На выборах в Европарламент от Британии побеждает Партия Brexit
05:57 Израильская фирма выплатит Оклахоме 85 млн долларов из-за опиоидного кризиса
05:23 В Хакасии глава района повалил журналиста на пол во время интервью
04:53 Пучдемон и его соратники получат мандаты депутатов Европарламента
04:24 СКР отправил на экспертизу тело умершего в Ярославле осужденного
«ВКонтакте» «Газпром» «Зенит» «Мемориал» «Мистраль» «Оборонсервис» «Роснефть» «Спартак» «Яблоко» Абхазия Австралия Австрия Азербайджан Антимайдан Аргентина Арктика Армения Афганистан Аэрофлот Башкирия Белоруссия Бельгия Бразилия ВВП ВКС ВМФ ВПК ВТБ ВЦИОМ Ватикан Великобритания Венесуэла Владивосток Внуково Волгоград ГИБДД ГЛОНАСС Генпрокуратура Германия Голливуд Госдеп Госдума Греция Гринпис Грузия ДТП Дагестан Домодедово Донецк ЕГЭ ЕСПЧ Евровидение Еврокомиссия Евромайдан Евросоюз Египет Екатеринбург ЖКХ Израиль Ингушетия Индия Индонезия Интерпол Ирак Иран Испания Италия Йемен КНДР КПРФ Казань Казахстан Калининград Камчатка Канада Каталония Кемерово Киев Киргизия Китай Коми Конституция Кремль Крым Куба Курилы ЛГБТ ЛДПР Латвия Ливия Литва Лондон Луганск МВД МВФ МГУ МКС МОК МЧС Малайзия Мексика Мемория Минздрав Минкомсвязи Минкульт Минобороны Минобрнауки Минпромторг Минсельхоз Минтранспорта Минтруд Минфин Минэкономразвития Минэнерго Минюст Молдавия Мосгорсуд Москва НАСА Нигерия Нидерланды Новосибирск Норвегия ОБСЕ ООН ОПЕК Одесса ПДД Пакистан Паралимпиада Париж Пентагон Польша Право Приморье Продовольствие РАН РЖД РПЦ РФС Росавиация Роскомнадзор Роскосмос Роспотребнадзор Россельхознадзор Россия Росстат СМИ СССР США Сахалин Сбербанк Севастополь Сербия Сирия Сколково Славянск Сочи Таджикистан Таиланд Татарстан Трансаэро Турция УЕФА Узбекистан Украина ФАС ФБР ФИФА ФСБ ФСИН ФСКН Филиппины Финляндия Франция Харьков ЦИК ЦРУ ЦСКА Центробанк Чехия Чечня Швейцария Швеция Шереметьево Эбола Эстония ЮКОС Якутия Яндекс Япония авиакатастрофа автопром алкоголь амнистия армия археология астрономия аукционы банкротство беженцы бензин беспилотник беспорядки биатлон бизнес бокс болельщики вандализм взрыв взятка вирусы вузы выборы гаджеты генетика гомосексуализм госбюджет госзакупки госизмена деньги дети доллар допинг драка евро журналисты законотворчество землетрясение импорт инвестиции инновации интернет инфляция ипотека искусство ислам исследования история казнь кино кораблекрушение коррупция космос кража кредиты культура лингвистика литература медиа медицина метро мигранты монархия мошенничество музыка наводнение налоги нанотехнологии наркотики наука недвижимость некролог нефть образование обрушение общество ограбление оппозиция опросы оружие офшор палеонтология педофилия пенсия пиратство планетология погранвойска пожар полиция похищение правительство православие преступность происшествия ракета рейтинги реклама религия ритейл рубль санкции связь сепаратизм следствие смартфоны социология спецслужбы спутники страхование стрельба строительство суды суицид тарифы театр телевидение теракт терроризм технологии транспорт туризм убийство фармакология физика фоторепортаж футбол хакеры химия хоккей хулиганство цензура школа шпионаж экология экономика экспорт экстремизм этология «Единая Россия» «Исламское государство» «Нафтогаз Украины» «Правый сектор» «Северный поток» «Справедливая Россия» «болотное дело» Александр Лукашенко Александр Турчинов Алексей Кудрин Алексей Навальный Алексей Улюкаев Амурская область Анатолий Сердюков Ангела Меркель Антон Силуанов Аркадий Дворкович Арсений Яценюк Барак Обама Басманный суд Башар Асад Белый дом Борис Немцов Валентина Матвиенко Верховная Рада Верховный суд Виктор Янукович Виталий Мутко Владимир Жириновский Владимир Маркин Владимир Мединский Владимир Путин Вячеслав Володин Дальний Восток День Победы Дмитрий Медведев Дмитрий Песков Дмитрий Рогозин Дональд Трамп Евгения Васильева Забайкальский край Интервью ученых Ирина Яровая Иркутская область История человечества Кирилл Серебренников Конституционный суд Космодром Байконур Краснодарский край Красноярский край Ксения Собчак Ленинградская область МИД России Мария Захарова Михаил Прохоров Михаил Саакашвили Михаил Ходорковский Московская область Мурманская область Надежда Савченко Николас Мадуро Нобелевская премия Новосибирская область Новый год Олимпийские игры Ольга Голодец Павел Дуров Палестинская автономия Папа Римский Первый канал Пермский край Петр Порошенко Почта России Приморский край Рамзан Кадыров Реджеп Эрдоган Республика Карелия Ростовская область Саратовская область Саудовская Аравия Свердловская область Сергей Лавров Сергей Нарышкин Сергей Полонский Сергей Собянин Сергей Шойгу Следственный комитет Совбез ООН Совет Федерации Ставропольский край Счетная палата Тереза Мэй Франсуа Олланд Хабаровский край Хиллари Клинтон Челябинская область Черное море Эдвард Сноуден Элла Памфилова Эльвира Набиуллина Южная Корея Юлия Тимошенко авторское право администрация президента акции протеста атомная энергия баллистические ракеты банковский сектор биология большой теннис визовый режим военная авиация выборы губернаторов газовая промышленность гражданская авиация гуманитарная помощь декларации чиновников дороги России информационные технологии климат Земли компьютерная безопасность космодром Восточный крушение вертолета легкая атлетика лесные пожары междисциплинарные исследования мобильные приложения морской транспорт некоммерческие организации общественный транспорт патриарх Кирилл пенсионная реформа пищевая промышленность права человека правозащитное движение преступления полицейских публичные лекции российское гражданство русские националисты сельское хозяйство сотовая связь социальные сети стихийные бедствия телефонный терроризм уголовный кодекс фигурное катание финансовый рынок фондовая биржа химическое оружие эволюция экономический кризис ядерное оружие Великая Отечественная война Вторая мировая война Ирак после войны Ким Чен Ын Революция в Киргизии Российская академия наук Стихотворения на случай Федеральная миграционная служба Федеральная таможенная служба борьба с курением выборы мэра Москвы здравоохранение в России связь и телекоммуникации тюрьмы и колонии Совет по правам человека аварии на железной дороге естественные и точные науки закон об «иностранных агентах» видеозаписи публичных лекций «Полит.ру» Новые технологии, инновации Сочи 2014 Кабардино-Балкария Левада-Центр Нью-Йорк Санкт-Петербург отставки-назначения шоу-бизнес Ростов-на-Дону ЧМ-2018 Компьютеры, программное обеспечение Книга. Знание ВИЧ/СПИД Apple Bitcoin Boeing Facebook Google iPhone IT NATO PRO SCIENCE видео ProScience Театр Pussy Riot Telegram Twitter

Редакция

Электронная почта: politru.edit1@gmail.com
Адрес: 129090, г. Москва, Проспект Мира, дом 19, стр.1, пом.1, ком.5
Телефон: +7 929 588 33 89
Яндекс.Метрика
Свидетельство о регистрации средства массовой информации
Эл. № 77-8425 от 1 декабря 2003 года. Выдано министерством
Российской Федерации по делам печати, телерадиовещания и
средств массовой информации. Выходит с 21 февраля 1998 года.
При любом использовании материалов веб-сайта ссылка на Полит.ру обязательна.
При перепечатке в Интернете обязательна гиперссылка polit.ru.
Все права защищены и охраняются законом.
© Полит.ру, 1998–2019.