Между светлым будущим и цифровым Средневековьем

Человека всегда интересовало будущее, образ которого неразрывно связан с настоящим. Если в 50-х–начале 60-х годов прошлого века из-за угрозы ядерной войны казалось, что будущее будет обильно присыпано ядерным пеплом, то уже в середине 60-х на волне космических успехов люди верили в яблоневые сады на Марсе.

Теперь же будущее вызывает тревогу: 41% россиян полагает, что самые тяжёлые времена для них и страны ещё впереди (31% ответил, что они уже позади). Виной тому и мировой финансово-экономический кризис, и кризис национальных государств с кризисом международных организаций, а также смена мирового лидера с США на Китай.

Подобная ситуация и с восприятием научно-технического прогресса: 53% россиян прогресс не пугает, а оставшиеся 43% испытывают страх и тревогу перед теми или иными научными открытиями и изобретениями. Наибольший страх после оружия массового уничтожения (18% респондентов) у граждан России вызывают роботы, информационные технологии и компьютеризация (8%). Поддерживают этот страх как массовая культура, в частности кинематограф, так и руководители IT-корпораций, которые с определённой периодичностью заявляют об угрозе человечеству со стороны ещё не изобретённого искусственного интеллекта (ИИ), который может испепелить планету, как «Скайнет» в киновселенной «Терминатор».

И роль новых технологий в жизни сложно не заметить, например, 42% взрослого населения США считают, что развитие технологий оказало на их жизнь большее влияние, чем медицинские достижения, расширение гражданских прав и свобод или экономика за последние 50 лет.

Однако техника и технологи развиваются так же, как и наука: отвечая на один вопрос, они порождают десяток других, требующих ответа.

Потому самое время найти ответ на вопрос, угрожают ли человечеству стремительная информатизация и внедрение нейронных сетей, а также какова вероятность того, что человечество на Т-образном перекрёстке будущего повернёт не в светлый мир прогресса, а в цифровой тоталитаризм.

На пороге цифрового тоталитаризма

Традиционными слугами режимов идеологизованных государств образца XX века можно назвать врачей, священников и сотрудников правоохранительных органов. Первые лечили и сообщали о ранениях и травмах, вторые отпускали грехи и писали докладные по итогам исповедей, а третьи ловили преступников и проводили разъяснительные «беседы». Ну и, конечно же, без вклада чиновников не обходилось.

При этом построить тоталитарный режим вполне можно и без последних достижений в сфере информации и телекоммуникаций: в Третьем рейхе из доступных средств пропаганды были газеты, радио (руководство Рейха активно продвигало развитие радио), а телевидение было лишь в зачаточном состоянии — его продукты показывали в кинотеатрах.

№ 1. Теперь же, в эпоху информатизации, категорию «слуг» режима можно расширить работниками провайдеров и IT-корпораций, которые вскоре будут знать о нас больше, чем мы сами.

Справка: информационные революции и цензура

Трансформации, которые претерпевает сейчас человечество в связи с массовой коммерциализацией интернета — второго по значимости изобретения информационной эпохи после транзистора, не являются чем-то уникальным.

Первой информационной революцией можно считать изобретение письменности, второй — книгопечатание, с которым долгое время боролись. Цензура — вполне логичное следствие желания власти взять под контроль распространение информации. Иногда цензоры справлялись, но чаще оказывались бессильными перед желанием масс читать самиздат и способностью дельцов провозить контрабандные издания.

Третьей революцией вполне можно назвать изобретение телеграфа. Мир середины XIX века был значительно меньше из-за чёткого разделения общества на образованные элиты и неграмотные массы, которые не могли воспользоваться теми преимуществами, что давал телеграф, изобретённый Сэмюэлом Морзе в 1840 году.

Однако изобретение быстро завоевало всеобщее признание, и уже в 1858 году был проложен первый трансатлантический телеграфный кабель из Европы в Америку (его пришлось переложить в 1864-1870 годах), а в 1870 году телеграфом связали Лондон и Бомбей. В 1865 году был создан Международный телеграфный союз, ставший с 1947 года специализированным учреждением ООН.

Именно из телеграфной связи, которая позднее эволюционировала в телефонную, и выросли привычные нам СМИ. Первым преимущества телеграфа осознал англичанин, барон Пол Джулиус Рейтер, который основал в 1851 году агентство «Рейтер».

Сеть Восточной телеграфной компании в 1901 году.

Как видно по географии прокладки интернет-кабелей, в мире появился новый цент силы — Азия.

Позднее телеграф эволюционировал в телефон, число кабелей резко возросло, а после количество проводов и технологий перешло в качество, породив интернет.

Каждый шаг в эволюции технологий увеличивал скорость передачи информации, сокращал время для принятия управленческих решений, чем ускорял темп жизни, а также снижал анонимность.

Если ранее, в эпоху курьеров, передаваемую информацию знал лишь отправитель (конечно, если письмо не вскрывалось цензорами), то в эпоху телефонов появилась возможность подслушивать разговоры, а теперь — перехватывать данные.

№ 2. На каждое новое информационное изобретение, расширяющее возможности человека по передаче информации, государство отвечало регулятивными актами и цензурой, которая способствовала обеспечению государственной безопасности.

При этом ни тотальной цензуры, ни погружения человечества в пучину регресса не произошло.

И дело не только в компьютерной безграмотности, которая является причиной того, что пользователи «вываливают» в интернет свои личные данные и наперегонки делятся информацией о себе.

Информационная эпоха настолько глубоко проникла в обыденную жизнь, что шпионить за человеком могут не только мобильные телефоны, по которым спецслужбы без проблем устанавливают большую часть данных об интересующем их человеке (номер телефона по паспортным данным, указанным при приобретении сим-карты, местоположение абонента и содержимое его разговоров и переписки по номеру телефона), но и даже бытовая техника.

«Сливают» данные телефоны не только американских, но и китайских производителей, конечно же, под благовидным предлогом «улучшения продукта». И ничуть не лучше ситуация с отпечатками пальцев, с выходом IPhone X и отсканированного изображения лица — пользователь не контролирует места их хранения. Корпорации, конечно, пытаются защититься от государства, которое принуждает их к раскрытию данных (например, Apple отказалась взламывать смартфон террориста по запросу правоохранительных органов), но гарантий абсолютной конфиденциальности биометрических данных нет, потому вероятность того, что они окажутся на серверах компаний-разработчиков и спецслужб, всегда сохраняется.

№ 3. Смартфон автоматически становится шпионящим устройством. Единственное, что остаётся пользователю, — отказаться от его использования или выбрать кого-то, от кого ему нечего скрывать.

Американский телефон и сервисы будут пересылать данные на сервера ЦРУ, китайский телефон — отсылать всё в КНР, а вот российских телефонов нет, однако их отсутствие вполне компенсируется данными провайдеров и интернет-сервисов.

«1984» Оруэлла стал реальностью, и телевизоры научили шпионить: Smart-TV от LG шпионит за вами даже в том случае, когда вы выключаете слежку. Телевизоры Samsung и вовсе слушают ваши слова, записывают их и отправляют на серверы ЦРУ.

Умные телевизоры, умные холодильники, браузеры, телефоны — практически любая умная электроника собирает личные данные пользователей, в лучшем случае для улучшения продуктов своих производителей или показа персонализированной рекламы.

Естественно, что у государства появляется желание получить доступ к интернет-данным своих граждан и ограничить его для своих политических противников. Государство, пусть и с неким запозданием, но принимается регулировать новую сферу общественной жизни, как это делало ранее.

«Следует повысить безопасность и устойчивость работы инфраструктуры российского сегмента интернета. Если для этого потребуется принять дополнительные нормативные акты, – давайте сегодня обсудим, поговорим, какие именно у вас идеи, предложения на этот счёт. При этом подчеркну: речь не может идти об ограничении доступа законопослушных граждан к ресурсам глобальной сети, о каких-то тотальных барьерах и фильтрах. Необходимо строго соблюдать и уважать конституционное право на получение и распространение информации».

Президент России Владимир Путин.

Например, с момента первого полёта самолёта в Российской империи до принятия первого Воздушного кодекса СССР прошло 12 лет. А первый в мире серийный автомобиль с ДВС начали производить в 1885 году, тогда как «Конвенцию о введении единообразия в сигнализации на дорогах», унифицировавшую правила дорожного движения в Европе, приняли лишь в 1931 году.

№ 4. Интернет как технология в своём развитии проходит те же этапы, что и иные технологии, изменившие мир.

How does the INTERNET work?

В 1990 году в американском Массачусетсе появился первый в мире коммерческий интернет-провайдер, спустя 6 лет количество пользователей интернета перевалило за 40 млн человек, к 2000 году интернет разросся до 1 млрд страниц, в 2005-м уже и пользователей сети стало больше 1 млрд человек. Сейчас же только в России интернет-пользователями стал 71% населения страны — свыше 87 млн человек.

Таким образом, наше цифровое «сегодня» — это мир, где:

  1. Наши цифровые устройства (компьютеры, планшеты и смартфоны) знают больше нас самих и являются кладезем информации о пользователе (от данных на диске до расположения иконок на экране и закладок в браузере) — именно эти данные уже используются при прохождении погранконтроля или «беседе» в РОВД;
  2. Страницы в социальных сетях уже давно стали аналогом визитной карточки человека и используются работодателем при приёме сотрудника на работу. Если 7 лет назад отсутствие аккаунта в социальной сети было скорее нормой, то теперь стало аномалией, которая может свидетельствовать о специфическом роде занятий человека (работа на спецслужбы или служба в армии) или его скрытности (что также подозрительно).
  3. Социальная сеть уже не только (и не столько) средство общения, сколько «костыль» для поддержания самооценки: Instagram, Twitter и Facebook заставляют подростков чувствовать себя подавленными и вызывают атрофию навыков преодоления даже ничтожных ежедневных проблем. В Калифорнийском университете в период с 1985 по 2016 год количество первокурсников, которые ощущали себя «перегруженными», выросло с 18% до 41%. По всем США эта цифра скакнула с 50% до 62% в период с 2011 по 2016 год.
  4. Устройства с навигационными модулями и сим-картами автоматически превращаются в устройства для слежки — достаточно просто просмотреть данные в своём аккаунте в Google или поинтересоваться, как компетентные органы отслеживают местоположение интересующих их лиц по базовым станциям мобильных операторов;
  5. Обилие информации приводит к снижению способности её сортировать и проверять. В России поколение «миллениалов» (возраст от 18 до 35 лет) и дети «нулевых» (им от 14 до 17 лет) перепроверяют потребляемую информацию в лишь в 40 и 30% случаев соответственно. Данные поколения всё меньше и меньше читают, что не позволяет им сформировать целостную картину мира и делает их особенно уязвимыми перед информационными атаками и манипуляциями. Интернет мог стать огромной библиотекой, но стал информационным костылём для мозга.

Потому неудивительно, что интернет стал полем не только для общения и коммерции, но и полем для информационных операций.

Справка: регулирование интернета

Свобода интернета после истечения срока действия договора между правительством США и корпорацией ICANN — не более чем иллюзия. Договор не продлили не потому, что США перестали собирать данные интернет-пользователей или решили уступить давлению других государств, а потому что больше не заинтересованы в таком инструменте контроля.

«Патриотический акт» развязал руки АНБ и ЦРУ, которые ещё в 2013 году контролировали ¾ американского интернет-трафика. К 2017 году, надо полагать, контроль стал тотальным, особенно в части передаваемых сообщений — развлекательный контент спецслужбы не интересуют. А вот данные европейцев США интересовали, из-за чего между США и Германией в 2013 году вспыхнул конфликт.

Пример США оказался вполне заразительным: аналоги подобных актов приняты практически во всех развитых странах.

С 2014 года российские интернет-компании обязаны в течение полугода хранить данные о своих пользователях и по первому требованию передавать их органам, ведущим оперативно-разыскную деятельность. С принятием «закона Яровой», который вступит в силу в 2018 году, контролировать интернет-пользователей станет ещё проще.

Работают как системы блокировки сайтов, так и система контроля за блокировкой сайтов «Ревизор». По данным Роскомсвободы — общественного проекта, пропагандирующего свободу информации в интернете, в общей сложности в реестре заблокированных ресурсов побывали более 137,4 тыс. сайтов, из них почти 60% были впоследствии разблокированы.

Инфографика: rbc.ru

Белорусское министерство связи и информатизации с 1 января 2016 года обязало всех белорусских интернет-провайдеров хранить историю посещений сайтов пользователями.

По аналогичному пути идут даже в непризнанных республиках Донбасса: формальный повод для хранения интернет-данных — борьба с «группами смерти».

В общем, интернет никогда не был свободным или бесхозным: просто если ранее в нём безраздельно властвовали США, которые регулировали его и занимались тотальным шпионажем в сети, то теперь Всемирную паутину начинают «национализировать» другие страны.

Весной 2017 года стало известно о тотальной интернет-слежке со стороны США. Целый отдел Центра кибернетической разведки ЦРУ в Лэнгли занимается взломом программного обеспечения Apple и Google, а генеральное консульство США во Франкфурте-на-Майне используется в качестве базы для проведения киберопераций во всех странах Европы. Однако это лишь половина беды: США утратили контроль над большей частью своего хакерского арсенала.

№ 5. Впадать в паранойю не стоит, максимум, что может угрожать обывателю, — показ рекламы экскаваторов после нескольких поисковых запросов о строительной технике. Вероятность того, что поисковые запросы заинтересуют спецслужбы, крайне низка. Но если им станет интересно, то они узнают всё и даже больше.

Потому единственный способ сохранить свои тайны — не доверять их электронике и людям.

№ 6. Интернет же вслед за сушей, морем, воздухом и, вероятно, космосом станет таким же пространством войны, в котором каждая из стран попытается максимально обезопасить себя и предельно изолировать своё интернет-пространство от соседей.

Другое направление контроля со стороны государства за деятельностью своих граждан — камеры видеонаблюдения и безналичные операции.

Тенденция к отказу от использования наличных денег в экономике будет и дальше продолжаться независимо от страны мира. В авангарде этого процесса идёт Швеция, где за последние 7 лет на 40% сократился оборот бумажных крон, из-за чего в стране, вероятно, к 2023 году перейдут исключительно на безналичный оборот. Кроме того, шведский Центробанк решил выпускать собственную криптовалюту.

Вместе с распространением мобильных платежей посредством NFC и запретом на анонимные интернет-кошельки велик риск оказаться в финансовой блокировке со стороны государства. Естественно, в том случае, если и Россия пойдёт по шведскому пути.

И переход на смартфоны как средство оплаты ставит перед государством массу новых вызовов: использование иностранной платёжной системы может привести к «утечке» данных о платежах россиян.

В Китае проблему решили фундаментальным образом, создав свой национальный интернет и свои мобильные платёжные системы.

Справка: деанонимизация интернета по-китайски

Характерно, что Пекин защитил свой телекоммуникационный сектор от глобального рынка не только китайским файрволом «Золотой щит», но и мощнейшими протекционистскими мерами: в Китае нет ни Google, ни Facebook с Instagram и WhatsApp. Потому там их рыночная капитализация равна нулю.

Кроме того, в Китае внедрён запрет на комментирование определённых тем, а для написания комментариев в интернете требуется авторизация. Естественно, это не оставляет места никаким никам и двойникам. Один человек — один профиль в интернете.

За активностью китайцев в сети следят не только 2 миллиона специально обученных сотрудников правоохранительных органов, но и армия из провокаторов и комментаторов.

Проще говоря, интернет в Китае контролирует и регулирует государство.

Заодно в КНР идут в авангарде развития систем слежения в городах и поставили нейросети на службу правоохранительным органам. Впрочем, это немудрено — Китай уже давно является лидером во внедрении систем видеонаблюдения.

Другое перспективное направление развития информационных технологий, которое уже непосредственно влияет на нашу жизнь, — нейросети.

Как устроены искусственные нейронные сети?

В китайском 11-миллионном городе Шэньчжэнь после внедрения технологии компании IntelliFusion по распознаванию лиц камерами наружного наблюдения удалось снизить уровень преступности на 50%.  А вот нейросети позволили раскрыть 67% корыстных преступлений. Система позволяет определить человека не только по данным лица, но и учитывает одежду, форму тела и даже осанку. Кроме того, в КНР ведут работу над созданием национальной системы распознавания лиц, которая позволит опознать любого китайца в любой точке страны за 3 секунды с 90%-ной точностью. Гражданское применение данной системе уже нашли: FaceID позволяет оплачивать покупки без наличных и банковских карт.

К слову, камер наблюдения в одной только Москве уже больше, чем во всей Великобритании.

При этом отсматривают видео не люди, а нейросети, которые научились распознавать лицо человека с первой попытки в 75% случаев, а его действия — в 87% случаев.

Прошлое редко уходит навсегда: гопники как низовое звено преступности будут существовать в разных экологических нишах с хакерами, за которыми будущее преступного мира.

№ 7. Нейросети и тотальное видеонаблюдение позволили совершить в криминалистике такой же прорыв, как и применение дактилоскопии. И случилась эта революция спустя 115 лет после первого применения в Великобритании отпечатков пальцев для раскрытия преступления.

***

  1. И вот теперь мы переходим к самому главном вопросу: как будут использоваться все эти цифровые системы, благодаря которым можно создать как максимально безопасную и предельно удобную среду обитания с бесконтактными платежами и интернет-правительствами, так и тотальную диктатуру, где нет места каким-либо проявлениям нелояльности.
  2. Ничего принципиально нового с внедрением интернета во взаимоотношениях человека и государства не произошло: каждый новый виток развития техники и технологий сужает личное пространство человека, одновременно позволяя ему получать больше разнообразной информации.
  3. Информация же становится для государства вызовом. Во-первых, не всякая информация является полезной для человека. Во-вторых, не всё является безопасным для государства. Что в случае с книгопечатанием, что телефоном и печатными машинками (в советские годы они стояли на учёте в правоохранительных органах) государство принимается регламентировать порядок использования новых технологий, разрабатывая соответствующие правила. И интернет не стал исключением.
  4. Свобода интернета — миф, а его репутация как пространства, где нет места государству, — фикция. С ростом интернет-пользователей до 4 млрд человек государство не исчезло, а просто активно включилось в регулирование интернета вслед за США, которым ранее принадлежала роль единственного регулятора всемирной паутины. Теперь же интернет активно национализируют все страны мира.
  5. С большой долей вероятности интернет перестанет быть пространством анонимности, а глобальная сеть расколется на национальные (наднациональные) сегменты с сильным правовым регулированием. Обратной стороной деанонимизации интернета может стать изменение психологии интернет-пользователей, которые будут вынуждены общаться между собой предельно уважительно и корректно. Также деанонимизация позволит свести участие в избирательном процессе к проставлению галочек в интернет-бюллетене.
  6. Тотальное распространение смартфонов, умной бытовой техники уже сделали анонимность и конфиденциальность иллюзией. Ещё меньше места оставит им распространение интернета вещей. Но впадать в паранойю не стоит: корпорации человек интересует с позиции изучения его вкусовых предпочтений с целью стимулирования его к потреблению персонализированной рекламы, а спецслужбы и без интернета вполне способны узнать интересующую информацию о человеке — оперативно-разыскная деятельность с интернетом облегчается, но принципиально не меняется.
  7. Куда большую гипотетическую опасность представляют не мобильные телефоны, а грядущее тотальное доминирование безналичных платежей, которые крайне легко контролировать и блокировать, а также засилье камер наблюдения, чьи записи будут анализировать нейросети.
  8. Нейросети уже проникли в правоохранительные органы и совершили там переворот сродни дактилоскопии — ловить преступников станет легче.
  9. Вряд ли стоит бояться новых технологий и ожидать неизбежного превращения государств будущего в тоталитарные державы. Дело не в технологиях, а в том, кто, как и с какой целью их использует. Прошлое столетие показало, что внедрить тоталитарный режим, провести холокост и геноциды можно вполне и без интернета с нейросетями. В то же время возможно создать и пространство на 1/6 суши, где из правоохранительных органов были милиция и КГБ, которые, однако, позволили снизить риск террористических актов практически до нуля, превратить границы между республиками лишь в линии на картах и обеспечить поездки из Кишинёва во Владивосток через Среднюю Азию практически без паспорта. Вряд ли повторить опыт СССР, который сочетал жёсткий контроль на внешних границах с предельной (по современным бюрократизированным меркам) внутренней личной безопасностью.
  10. Спасти государство от перерождения в тоталитарное в одиночку невозможно. Практика Украины показала, что единственный способ спасения — эмиграция в другую страну.

Между светлым будущим и цифровым Средневековьем

Каким стал цифровой мир настоящего, мы уже видим на примере триумфального шествия нейросетей и умной электроники. Однако это мир сегодняшнего дня, и куда интереснее, каким будет наше цифровое завтра.

А вот цифровое будущее будет ещё интереснее.

Нас ожидает тотальное использование биометрических данных: если биометрический паспорт уже стал привычным, то ближайшее будущее — использование биометрических данных в госучреждениях и на выборах (в Кыргызстане голосование со сканированием отпечатков пальцев и снимком лица уже стали реальностью). Российское МВД, например, желает ввести всеобщую обязательную дактилоскопию (благо отмывать руки от типографской краски теперь не нужно), что позволит качественно повысить раскрываемость преступлений. В КНР же и вовсе собирают голосовые данные китайцев в одну огромную базу биометрических данных.

Только привыкли к сканерам отпечатков пальцев в смартфонах? На подходе уже биометрические замки:

И вопрос контроля этих биометрических данных — вопрос на грани между удобством и предельно безбарьерной средой и государственной безопасностью.

Разблокировка телефона с помощью губной помады и скотча:

Данные чем дальше, тем больше обособляются от их владельца и перемещаются на «облако». «Облачные» операционные системы, «облачные» программы и хранилища не только проникли в жизнь простых пользователей, но и затронули бизнес. 46% IT-руководителей в Великобритании заявили, что их компании переведут инфраструктуру в облако в течение ближайших шести месяцев.

С одной стороны, «облако» дешевле и надёжнее. А с другой стороны, нет никакой гарантии, что ваше «облако» лишь ваше, а не чьё-либо ещё.

Нас ожидает массовое распространение систем голосового управления и голосовых помощников — от отечественной Алисы до Siri и Bixby. К слову, злоупотребление ими может привести к цифровому одиночеству:

Gatebox — Virtual Home Robot

Это же позволит довести до логического завершения системы «умного дома» (к слову, электроника для «умного дома» стремительно дешевеет), интегрировав всю электронику в единую сеть, которая будет предугадывать ваши желания и знать ваши слабости.

Гарантий тому, что данные устройства не станут вести себя, как смарт-ТВ от Samsung и LG, естественно, нет. Вероятно, пользователю разрешат выбрать лишь то, куда будут перенаправлены его данные: ЦРУ, отечественному ФСБ или китайскому МГБ. А спецслужбы будут соревноваться между собой в получении разведданных с цифровых устройств, или же глобальная сеть просто расколется на несколько огромных сегментов, каждый из которых будет ограничен территорией наднационального объединения или государства (как китайский или северокорейский сегмент интернета).

Разница с персональным компьютером будет стираться. Ноутбуки и ПК не уйдут в прошлое, но их потеснят смартфоны, которые будут способны подключаться к мониторам и клавиатурам. Это позволит превратить смартфон в единственный, а потому и весьма уязвимый (и желанный) источник информации о жизни. Именно в этом направлении движутся как производители мобильной техники (Samsung, Huawei), так и IT-гиганты по типу Microsoft.

№ 8. Операционные системы упрощаются, становятся предельно дружелюбными и простыми в эксплуатации для пользователя, от которого уже требуется несколько нажатий на экран или кликов мышки. В то же время программное обеспечение продолжает содержать огромное количество дыр в системах безопасности, и пользователь ничего не сможет с этим поделать — у него просто нет такой возможности, не говоря уже о специфических знаниях.

Миниатюризация электроники позволит массово перейти к технологии «интернета вещей», что выльется не только в обладание умной одеждой, но и в доведение систем слежения до совершенства: если сейчас ваше местоположение знает простой телефон (он же всегда с вами), то вскоре его станут фиксировать куртка со штанами.

«В будущем разведка будет использовать интернет вещей для идентификации, наблюдения, слежения, поиска и вербовки или для того, чтобы получать доступ к данным пользователя».

Директор Национальной разведки США Джеймс Клеппер.

И не стоит недооценивать интеллект перспективных умных штанов — они уже потенциально способны интегрироваться с нейронными сетями.

Дешевизна кремниевой электроники позволит предельно насытить транзисторами и умными компонентами всё — от холодильников, которые уже способны реагировать на голосовые команды, до автомобилей и специальных машин.

Это грозит сделать умные дома и автомобили предельно уязвимыми перед хакерскими атаками. Проблемы с безопасностью фундаментальных протоколов Wi-Fi или угон автомобиля Tesla с помощью ноутбука — уже реальность.

Как украсть Tesla

Вероятно, вскоре реальностью станут и покушения, наподобие попытки убить главного героя х/ф «Я — робот», вмешавшись в систему автопилота.

№ 9. Впрочем, это исключительно вызовы, которые вполне можно решить: в IT-сфере уже разворачивается специфическая гонка вооружений между хакерами и разработчиками, сродни соревнованию танковой брони и снаряда.

В будущем, похоже, пространство для анонимности будет минимальным, тогда как и без того весьма умные нейросети в перспективе переродятся в искусственный интеллект. Это позволит как построить утопическое государство, где каждый шаг будет менять карму, так и превратить мир в цифровое Варшавское гетто.

Справка: нравственность под присмотром машины

В Китае уже внедряют систему «социального кредита» — к 2020 году не только каждая компания, но и каждый житель материкового Китая будет отслеживаться и оцениваться этой системой в режиме реального времени. Рейтинг доверия физлиц будет привязан к внутреннему паспорту.

Источник: РБК

Обладатели высокого рейтинга будут пользоваться различными социальными и экономическими льготами. А тем, у кого рейтинг будет плохой, придется страдать — на них обрушится вся мощь административных санкций и ограничений: запрет на работу в госучреждениях, отказ в соцобеспечении, особо тщательный досмотр на таможне, запрет на занятие руководящих должностей в пищевой и фармацевтической промышленностях, отказ в авиабилетах и спальном месте в ночных поездах, отказ в местах в люксовых гостиницах и ресторанах, запрет на обучение детей в дорогих частных школах.

Рейтинги будут публиковаться в централизованной базе данных в интернете в свободном доступе.

Black Mirror | Nosedive Featurette

Сложно сказать, кто у кого подсмотрел идею социального кредита — сценаристы сериала «Чёрное зеркало» или китайские власти. Данная система — следствие конфуцианской этики и развития системы «дань-ань» с личными делами на каждого гражданина. Но если ранее эти дела были бумажными, то теперь они станут цифровыми, и меры поощрения/наказания будут применяться автоматически.

Жить в таком мире «социального кредита» — сомнительное удовольствие хотя бы потому, что полного свода правил к данной системе нет и быть не может по причине невероятного разнообразия жизненных ситуаций.

В США уже тестировались алгоритмические системы предсказания рецидивизма. Первые системы прогнозирования преступлений появились в США ещё в начале 2000-х. Они были созданы для снижения количества заключённых. И за эти годы в некоторых американских штатах удалось добиться результатов. Так, за 10 лет в штате Вирджиния рост числа заключённых снизился с 31% до 5%.

Но обнаружились проблемы. Оказалось, что система, чьей задачей были непредвзятые суждения, сама оказалась подвержена предрассудкам, и самая большая проблема — объяснить машине, что такое «справедливость», ведь данная категория неразрывно связана с человеком и обществом.

Древние греки полагали, что справедливость наступит тогда, когда у каждого свободного грека будет по три раба. У рабов, естественно, были другие соображения насчёт справедливости. Национализация с позиции капитала — это несправедливо, но для государства она часто является единственным способом решения проблемы или путём обеспечения безопасности.

Впрочем, несмотря на все несовершенства, алгоритмы на базе машинного обучения уже позволяют прогнозировать и расследовать преступления. Успешные результаты недавно показал Чикаго. За 7 месяцев благодаря умным системам количество убийств в разных районах города снизилось на 33%.

Потому остаётся надеяться, что китайский социальный эксперимент провалится, в противном случае пример Китая наверняка станет крайне привлекательным для остальных стран мира, и шпионящие телефоны и телевизоры будут наименьшей из бед человечества.

Теперь стоит понять, на что уже способны нейросети и что они смогут в ближайшем будущем.

Нейронные сети уже научились создавать классическую музыку в стиле определённого композитора, диагностировать рак и за 10 минут составлять план его лечения, создавать свои языки общения, обыгрывать профессионалов в покер.

Как алгоритмы Яндекса создали музыку по мотивам Скрябина:

В дальнейшем нейросети, похоже, смогут взять на себя часть функций по регулированию интернета, общества и значительно ускорить научно-технический прогресс.

Нейросети: Люди уже не самые умные существа на планете Земля:

Например, Facebook тестирует искусственный интеллект (ИИ) для принятия решений о блокировке запрещённого контента, чем позволит снизить участие человека в данном процессе. Кроме того, нейросети и умное ПО приведёт к сокращению миллионов рабочих мест. Только в Великобритании автоматизация угрожает существованию свыше 15 млн рабочих мест. Яркий пример: бесплатная чат-программа DoNotPay, разработанная 19-летним британским студентом, с осени 2015 года оспорила свыше 160 тысяч штрафов на общую сумму в 3 млн долларов.

«ИИ в нынешнем понимании — точно такая же технологическая волна, с которой человечество уже встречалось несколько раз за XX век. Бульдозеры на стройплощадках и компьютеры в офисах изменили и работы, и задачи, и саму суть некоторых профессий и сотворили новые. Всем пришлось привыкать. Моя бабушка была бухгалтером она работала со счётами, а потом ей пришлось привыкать к калькулятору. Маме пришлось привыкать уже к Excel. Так что привыкать придётся и сейчас, но профессии никуда не денутся. Изменится специфика, появятся новые».

Грег Коррадо, старший научный сотрудник Google Brain Team.

Следовательно, для максимальной личной конкурентоспособности нужно быть не просто обычным работником, но стать лучшим.

Нейросеть может писать новости и даже написала шестую часть саги «Песнь льда и пламени» за Джона Мартина с массой неожиданных сюжетных поворотов, однако она не способна написать аналитический текст или действительно хорошую книгу (искусственное продолжение «Игры престолов» крайне далеко от настоящей литературы).

Телевизионная компания «Пик» и его звезда — ИИ Элиза Кассан из игровой вселенной Deus Ex — не такая уже и далёкая фантастика.

ИИ способен помочь врачу и поставить верный диагноз, затратив минимум времени, но не может придумать методику лечения неизвестной болезни.

А это уже выдвигает не столько новые, сколько забытые старые требования для системы образования.

Человечество не уйдёт от школ: рассказ «Профессия» Айзека Азимова о выпускнике школы, которому отказали в праве записи в мозг профессии металлурга, отправив его учиться в школу, где готовят управленческие и технические элиты, — это наша реальность. Тем более, что тот же ИИ доказал преимущества традиционного образования с учителем перед самообучением.

Система образования не должна готовить узких специалистов и тем более потребителей (их как раз и будут заменять компьютеры и роботы), её задача — формирование человека с целостной картиной мира, которая позволит ему не потеряться в потоках информации, вовремя ориентироваться в них и при необходимости переучиваться с минимальными затратами времени и денег.

№ 10. Государству мало освоить и срастить обыденность с нейросетями и ИИ, мало и взрастить поколение творцов: по отдельности они проиграют. Важно объединить интеллектуальный потенциал человека и те способности, которыми в ближайшей перспективе будут обладать машины и компьютеры.

Однако это идеальный вариант развития. Куда реальнее оказаться в условиях, где нет места ни умным людям, ни интеллектуальным машинам (например, на Украине), или же попасть в среду, где автоматизация вытеснит огромное количество людей с их рабочих мест, а государство, оказавшись неспособно предоставить другую работу, включит репрессивный аппарат или обеспечит людям безусловный базовый доход.

К чему приведёт репрессивный подход, понятно и так — ряд стран и народов ожидает цифровое Средневековье с киберинквизицией и цифровыми гетто.

Безусловный базовый доход не приблизит человечество к коммунизму и не раскроет его дремлющий творческий потенциал — его способен пробудить только труд.

Ещё одна проблема — усложнение технологий. Речь идёт не столько о технологической сингулярности, сколько о деградации человека и непонимании им принципов устройства современного мира, что не только усугубляет течение кризиса научного познания, но и выводит его на качественно новый уровень. Одновременно всё человечество деградировать до такой степени, когда оно перестанет понимать меняющиеся технологии, не сможет, но вот в отдельных странах непонимание причинно-следственных связей может стать нормой.

В условиях крайней деградации как системы образования, так и государства можно ожидать появления культов поклонения объектам инфраструктуры.

В фантастике один из самых ярких примеров — игровая вселенная Fallout 3 с городом Мегатонна и церковью Детей Атома, поклоняющихся неразорвавшейся атомной бомбе, а реальность может породить своих техножрецов и прихожан, которые молятся атомным реакторам.

Пока описанное выше выглядит крайне фантастичным, а реальность оказывается куда прозаичнее.

«Обучение людей религиозным нормам похоже на то, как мы учим машины: через повторение множества примеров, являющихся версиями единственной концепции, которой мы хотим научить машину. Есть сходства между ИИ и религией и в иерархической структуре понимания знаний, которые выражены в нейронных сетях. Идея научить машину учиться, а потом научить её учить (или писать ИИ) не сильно отличается от концепции достижения просветления после прохождения множества испытаний».

Винс Линч, глава компании IV.AI.

Тем временем бывший инженер Google Эндрю Левандовски создал религиозную организацию, члены которой поклоняются искусственному интеллекту. Так что появление конкурента саентологии и вера в ИИ — вопрос времени.

***

Очевидно, грядущее массовое распространение нейронных сетей и умных вещей точно изменят привычный уклад нашей жизни.

  1. Мир не стоит на развилке между светлым технологичным будущим или цифровым Средневековьем, просто мира как единой категории не существует. Законы капитализма разделили мир на капиталистический центр, полупериферию и периферию. Эти же законы сделали технологическое развитие крайне неравномерным. В то время как КНР внедряет систему социального кредита, в африканской глубинке обрабатывают землю мотыгами, слушая музыку на смартфоне. Потому единой и тотальной цифровой диктатуры не будет.
  2. Государству не грозит поражение от корпораций: они скорее продолжат существовать в симбиозе, чем станут антагонистами. Развитие электроники и превращение IT-корпораций в отдельных сотрудников спецслужб ­являются доказательством этого тезиса. До тех пор, пока у государства остаётся монополия на насилие, никакой цифровой корпоративной диктатуры не будет. Потому хоронить государство очень рано — ему нет альтернативы, особенно в нарождающемся столетии Китая с его госкорпорациями.
  3. Внедрение локальной цифровой диктатуры — вопрос не злой воли безумных правителей, а политической и технологической безопасности. Обеспечение тотальной слежки за гражданами — дело весьма затратное (срок хранения данных по «закону Яровой» предложено сократить с 6 до 1 месяца) и не всегда необходимое. Пример Украины показывает, что построить диктатуру можно и в условиях неофеодализма. Однако если перед чиновниками поставят соответствующую цель, то создать цифровую инквизицию не составит труда: для её внедрения нужны тотальная информатизация населения, внедрение интернета вещей, умных домов и ещё несколько шагов в развитии нейросетей, которые будут обрабатывать массивы данных. Цифровые системы контроля за гражданами станут обыденностью для любого более-менее развитого государства, и режим контроля будет ужесточаться в периоды смуты, тогда как в мирные и безопасные времена цифровые «гайки» будут слегка откручивать.
  4. Научно-технический прогресс актуализирует проблему не только информационной безопасности, обеспечение которой станет важнейшей задачей для государства, но и соответствия граждан новым технологиям. Мир вплотную подошёл к новому витку автоматизации производства: если раньше луддиты громили ткацкие станки, то теперь таксисты протестуют против «Uber» и «Яндекс. Такси», а в уже ближайшем будущем стоит ожидать протестов бухгалтеров против ПО с нейросетями или бунта юристов/журналистов против ботов, способных делать ту же работу, но за секунды. Если первая волна автоматизации производства потеснила позиции человека в низкоквалифицированном труде, построив на месте мануфактур фабрики с конвейерами, то вторая волна позволит заменить работников умственного труда искусственным интеллектом. В XXI веке технических специалистов будут теснить роботы, а работников умственного труда — нейросети.
  5. Наступление машин на сферу физического и умственного труда приведёт к необходимости переучивания большого количества специалистов и гибели целых профессий. Вопрос не в том, произойдёт это или нет. Вопрос в том, каковы будут масштабы этого процесса и как государство решит эту задачу. И вариантов решения множество: можно переучить условных бухгалтеров на официантов, что раздует сферу услуг, направить их в производственный сектор или сохранить им работу, взяв на государственную службу. Как именно с этой задачей справятся в Союзном государстве, покажет время, однако судя по тому, как растёт бумажный документооборот в информационную эпоху, которая должна была избавить учреждения от тысяч листов макулатуры, ответ напрашивается сам собой.
  6. Наибольшей конкурентоспособностью в мире будущего будут обладать страны, чьё руководство сможет объединить интеллектуальный потенциал человека и машины, а для этого нужно, как ни странно, отказаться от обучения граждан как потребителей и вернуться к системе образования, которая позволит сформировать человеку целостную и непротиворечивую картину мира. В противном случае велик риск локальной технологической сингулярности и распространения различных технорелигий и сект.
  7. От того, как государство разрешит проблему обеспечения граждан рабочими местами, и зависит вероятность введения тотальной цифровой диктатуры. Чем выше уровень недовольства населения властью и экономической обстановкой, тем больше соблазн не исправлять ситуацию, а задействовать репрессивный аппарат. Другой вариант сохранения безопасности — обеспечение безусловного гарантированного дохода, однако как в таком случае социализировать человека — неясно.
Источник материала
Настоящий материал самостоятельно опубликован в нашем сообществе пользователем admin на основании действующей редакции Пользовательского Соглашения. Если вы считаете, что такая публикация нарушает ваши авторские и/или смежные права, вам необходимо сообщить об этом администрации сайта на EMAIL abuse@proru.org с указанием адреса (URL) страницы, содержащей спорный материал. Нарушение будет в кратчайшие сроки устранено, виновные наказаны.

Читайте также:

Сортировка:   вверху новые | вверху старые
Ванёк26
Ванёк26

Все верно. Но в реальности будет немного по другому