Функционирует при финансовой поддержке Федерального агентства по печати и массовым коммуникациям
Противодействие цифровым угрозам, современному рабству и опасностям для детей

Роботизация нашей жизни: станет ли она опаснее?

Цифровые технологии развиваются с огромной скоростью – фантастические книжки, описывающие развитие компьютеров в ближайшем будущем, устаревают раньше, чем это будущее наступит. Становятся реальностью и зарисовки фантастов полувековой давности – «умные дома», регулирующие температуру и включающие свет по команде владельца, а также символ футуризма – робот. Само собой, в форм-факторе человека и желательно неотличимый от живого хомо сапиенса.

Однако фантасты в подавляющем большинстве упускали один исключительно важный момент – защищенности подобных систем от внешнего вторжения, которое способно заставить систему работать во вред хозяину. В социалистической фантастике предполагалось, что все эти технологии придут к нам вместе с социальным прогрессом – при котором общество «прозреет» настолько, что преступность как таковая исчезнет и делать такие гадости никому не придет в голову. На Западе же - где, как знал почти каждый советский обыватель, «человек человеку волк» - мастера фантастики упоминали массированные сбои, но в их видении это мог быть только «бунт машин» - когда искусственный интеллект осознавал себя настолько, что выходил из подчинения человека по своему собственному решению. Самый известный пример – «Скайнет» из «Терминатора», чье название стало уже нарицательным. «Бытовой» преступности с «умными технологиями», как ни странно, не уделяли внимания и там. Что же касается роботов, то еще Айзек Азимов предложил три базовых закона робототехники – одним из которых являлась невозможность робота причинить вред человеку. Но тот же «Терминатор» показал зрителю, что определение человека может быть весьма условно…

Так или иначе, все эти технологии стали реальностью гораздо быстрее, чем предполагали литераторы, и уже сейчас начинают входить в повседневную жизнь.  А поскольку окружающая нас реальность явно не из Мира Полдня и кишит хакерскими атаками и контентными угрозами, вопрос безопасности новых технологий обозначился весьма остро и сейчас активно обсуждается специалистами.

Технология «умного дома» подразумевает, что большинство домашних систем и устройств, включая кухонные приборы и холодильники, подключено к Интернету. В некоторых случаях это подключение вроде бы не очень нужно, но, например, применительно к холодильникам декларируется их возможность анализировать хранящиеся продукты и даже дозаказывать их в Интернет-магазине самостоятельно. Конечно, если к холодильнику привязана банковская карта. Можно, например, задать микроволновке или духовке программу разогрева еды – будет полезно, если в семье ребенок младшего школьного возраста, а родители на работе. Другая часть «умного дома» - системы самостоятельно диагностируют свою исправность, и если что-то идет не так, то могут вызвать техпомощь.  Гораздо более простая опция, известная и без «умных домов» - возможность компьютерного контроля за освещенностью и температурой в помещениях. Есть место и безопасности – в  том плане, что некоторые разработчики систем предлагают электронные замки с допуском по отпечатку пальцев.

Практически сразу же специалисты по инфобезопасности сформулировали ряд проблем, которые журналисты окрестили «проблемой взбесившегося чайника». Речь шла о том, как поведет себя «умное устройство», если до него все-таки доберутся хакеры. Ведь любое «подключенное» устройство можно теоретически удаленно вывести из строя. А то и вывести на такой режим, из-за которого в доме случится пожар или потоп. И при этом заблокировать выходы – с понятными последствиями для здоровья и жизни.

Правда, гораздо более реальными специалистам по ИБ видятся экономические угрозы. Допустим, блокировка устройства и вымогательство денег за его разблокировку, как сейчас часто проделывают с ноутбуками и телефонами. Конечно, не страшно (можно отнести в мастерскую), да и сложно представить себе личную информацию в электрочайнике - но неприятно. Гораздо хуже, если к устройству привязана банковская карта с деньгами – и устройство самостоятельно оплачивает, скажем, коммунальные услуги или доставку продуктов. В таком случае деньги с карты могут просто «увести» при помощи уже давно отработанных технологий. Особенно если денег на карте много – хотя даже если карта специальная, и на нее периодически закидываются деньги «только на оплату», будет все равно неприятно. Как и в случае с телефонным мошенничеством, наиболее уязвимым элементом системы безопасности скорее всего будет человек – мошенник может позвонить с «более выгодным предложением» и попросить перенастроить «умное устройство» на другие реквизиты (соответственно, мошенника). Причем самое нехорошее в этой схеме в том, что подобным образом жулики будут обрабатывать в первую очередь детей. Дети гораздо легче верят сторонней информации – просто в силу недостатка жизненного опыта, и убедить их пробить брешь в системе безопасности гораздо легче. А обращаться с «умными устройствами» дети наверняка будут уметь.

Что касается детей, то при наличии в доме устройств, подключенных к банковской карте, в семьях понадобится совершенно иной уровень воспитания детей – в плане знания и соблюдения правил финансовой безопасности. Не исключено, что юный «компьютерный гений» использует «умный холодильник» с папиной кредиткой для совершенно невообразимых заказов. Либо каких-нибудь сладостей целый вагон закажет, либо вообще использует данные для покупок на сторонних сайтах. Еще не забылась история о том, как в Великобритании трехлетний мальчик вошел в дедушкин аккаунт с привязанной картой на Интернет-аукционе и купил там настоящий экскаватор, приняв его за игрушечный – как работает аукцион, ребенок уже понимал, а вот что такое деньги – еще нет. В «умном доме» ребенок должен четко знать и соблюдать правило неприкосновенности родительских денег, пусть и в электронной форме.

Еще одна опасность, связанная с «подключенными» устройствами, имеет место уже сейчас и сильно озаботила как специалистов по ИБ, так и производителей техники. Не секрет, что многие «умные» устройства уже сейчас умеют воспринимать голосовые команды – сейчас это касается в первую очередь цифровых телевизоров. Соответственно, чтобы быть готовыми выполнить команду хозяина, такие телевизоры «слушают» все, что происходит в доме – все разговоры. И более того, имеют свойство их записывать и отправлять третьим лицам – например, производителю техники. Подобная история, всплывшая в связи с одним известным брендом цифровой техники, сильно обеспокоила потребителей и защитников информации, ведь таким образом открывается доступ к тайне личной жизни. Собственно, и производителям информации такая информация ни к чему – а представить на их месте хакера, охотящегося за таким контентом, легче легкого. Получается, что в доме может появиться целая куча «домашних шпионов», и дом станет «прозрачнее» жилищ в оруэлловской Океании из «1984» с их телескринами в каждой комнате. Впрочем, видеокамеры на цифровых устройствах есть уже давно, и многие решают вопрос с их безопасностью радикально – заклеивая объектив бумажкой. А вот с микрофонами сложнее – их отключение фактически лишает владельцев использования функции голосового управления.

Роботизация, в отличие от «умных домов», представляется делом более далекого будущего – хотя весьма функциональные роботы появляются уже сейчас. Само собой, в данном случае мы говорим именно о роботе в «форм-факторе» человека. Применительно к ним на данный момент присутствует озабоченность не столько возможным обходом «трех законов робототехники», сколько… возможной эволюцией некоторых контентных угроз.

Выражение «секс-индустрия двинула прогресс во многих областях», как ни странно, имеет под собой некую основу. В частности, узкофункциональные роботизированные куклы, выглядящие максимально похоже на человека, начинают производиться именно для сексуальных целей. Хотя такая кукла и стоит сравнимо с автомобилем, она внешне мало отличается от живого человека, способна выполнять некоторые движения и даже поддерживать разговор – почему этот товар и стал приобретать популярность в Юго-Восточной Азии и грозит «захватить» Северную Америку. Разумеется, форм-фактор кукле можно придать на любой вкус – рост, цвет волос и глаз, полнота… И возраст тоже. В связи с этим возникла серьезная опасность, что начнется подпольное или полуподпольное производство кукол в виде детей и их использование для съемок сцен сексуальной эксплуатации. Ведь на видео такая кукла будет мало отличаться от реального несовершеннолетнего.

Острота этой проблемы будет во многом зависеть от законодательства. В некоторых странах уже сейчас запрещено все, что хотя бы как-то намекает на секс с детьми – не только изображения, но и текстовые описания, и сцены с совершеннолетними актерами в роли детей, и даже художественные зарисовки с фэнтезийными персонажами. При таком законодательстве наказание за распространение подобных сцен с «детьми-роботами» не составит сложности. А вот в странах, где закон отталкивается не просто от этической нормы, а от концепции защиты реальных потерпевших, с прекращением оборота такого контента возникнут проблемы – ибо реального несовершеннолетнего в кадре не будет. При этом чрезмерная реалистичность робота-куклы, по мнению психологов, может вполне подтолкнуть зрителя к тому, чтобы попробовать «реальных ощущений» и совершить одно из самых тяжких преступлений, которое можно себе представить. Некоторые специалисты на Западе высказывают и обратную точку зрения (якобы наличие куклы сделает ненужным нападение на настоящего ребенка), однако криминологический портрет типичного «сексуального хищника» развеивает эту иллюзию –большинство преступников подобного рода, мягко говоря, небогаты и позволить себе робокуклу никогда не смогут – а значит, будут нападать на настоящих детей. Поэтому, скорее всего, во многих странах в ближайшие годы могут появиться законы, запрещающие владение подобными куклами в «детском» форм-факторе – что будет вполне справедливо.  

Таким образом, дальнейшая «цифровизация» нашей повседневной жизни может породить целый ряд ранее незнакомых нам проблем в плане личной безопасности. И каким образом будут разрешены эти проблемы, будет зависеть от отрасли инфобезопасности и от качества борьбы с цифровой преступностью по всему миру. А пока не нужно забывать про имеющиеся схожие угрозы и тщательно соблюдать меры безопасности в пока еще новом для нас «подключенном» мире.

Оставить комментарий

Пока никто не оставил комментариев.

Пропал ребенок!

сообщить

Жестокое обращение!

сообщить

Противоправный контент!

сообщить

Линия помощи!

сообщить

Организаторы

  • Региональный общественный центр Интернет технологий
  • Общественная Палата
  • Сопротивление
  • Уполномоченный при Президенте Российской Федерации по правам ребенка

При поддержке

To Top