Угрожают ли нам Терминаторы? Маск и 200 hi-tech компаний заняли позицию в вопросе роботов-убийц
Исследователи, работники и учредители 200 известных технологических компаний заявили, что не будут разрабатывать боевые роботы с искусственным интеллектом.
Среди подписантов – Илан Маск, основатель SpaceX и Tesla Motors, Яан Таллинн, создатель Skype, учредители DeepMind – отделения Google, занимающееся созданием интеллекта для машин.
Плюсы от использования терминатора. Они же – минусы
«Мы, подписавшиеся ниже, согласны, что решение об уничтожении человеческой жизни никогда не должно быть доверено машине… Мы не будем участвовать или поддерживать разработку, изготовление, торговлю или использование смертельного автономного оружия», – говорится в тексте.
Подписанты отмечают, что их обещание имеет как моральную, так и прагматичную сторону. Во-первых, машина не может нести ответственности за свои поступки. То есть, не будет понятно, кого наказывать за то, что она заберет жизнь у человека.
Во-вторых, появление таких машин, которые сами находят, выбирают и принимают решение об уничтожении своих целей без участия человека, будет очень дестабилизирующим для любой страны и для каждого человека.
Владельцы таких машин смогут убивать людей анонимно, без риска и очень легко.
Против собственного населения?
«Тысячи исследователей искусственного интеллекта согласны в том, что… [в таком случае] летальное автономное оружие может стать мощным инструментом насилия и угнетения, особенно в сочетании с системами наблюдения и базами данных», – отмечают подписанты.
При этом сейчас такое оружие не ограничено международным законодательством, в связи с чем в любой момент может начаться гонка вооружений в этой сфере.
Обращение призывает правительства и политиков создать серьезные международные правовые барьеры в сфере военного искусственного интеллекта. В отсутствие этих норм в данный момент подписчики призывают своих коллег, а также всех остальных присоединяться к их декларации.
Терминатор возможен? Зачем?
Многие юридические, военные и этические вопросы еще не решены, однако уже в 2030 году военные боевые роботы могут стать полностью автономными, считают авторы исследования «Прогноз долгосрочного будущего стрелкового оружия 2022-2042».
Это исследование вышло под грифом Департамента Сухопутных войск США в 2012 году, однако рассекречено было недавно.
При этом стрелять роботы будут гораздо эффективнее, чем человек – биомеханическая система человека не очень подходит к механической задаче меткой стрельбы. Поза, оптика человеческого глаза и многие другие факторы ограничивают возможность человека метко стрелять, и полностью решить эти проблемы технологически невозможно.
Стрельба – это прежде всего алгоритмическая задача с конкретными геометрическими и физическими параметрами, а это как раз то, в чем роботы лучше людей, отмечается в исследовании.
Воздух, море, космос, интернет
Кроме того, использование технологий «стелс», развитие новых типов оружия, размещение этого оружия на космической орбите Земли – например, гиперзвуковых ракет – может привести к тому, что удар ними в любую точку планет сможет быть нанесен за считанные минуты.
Это не оставит возможности с достаточной скоростью отреагировать человеку-оператору систем противоракетной обороны. Таким образом защиту от такого оружия можно будет доверить только автоматическим системам защиты – роботам, которые будут принимать решение на открытие огня за считанные секунды.
Переход на полностью беспилотную боевую авиацию снимает невероятное количество проблем и задач, которые вынуждены решать современные военно-воздушные силы. Снимаются ограничения по перегрузкам, которые не мог вынести даже хорошо подготовленный пилот, снимаются почти все проблемы морально-психологической подготовки, да и просто в самолете освобождается большой объем места, которое можно заполнить дополнительной аппаратурой и оружием.
Более того, процессы миниатюризации могут привести к созданию стай относительно недорогих боевых машин-камикадзе, которые будут рассчитаны на прорыв обороны противника ценой определенного процента неизбежных потерь. После которых в подконтрольное пространство будут залетать более дорогие большие тяжеловооруженные беспилотные аппараты.
В конце 2017 года Агентство перспективных оборонных исследований (DARPA) Министерства обороны США испытало множество небольших автономных беспилотников, которые были сброшены в воздух. Аппараты были связаны между собой в единую сеть таким образом, что образовали единый примитивный искусственный «мозг» и, подобно рою насекомых, демонстрировали коллективное поведение.
Тайные кибер-войны уже ведутся государственными специальными службами и нелегальными организациями с использованием автономных программ, ботов и вирусов. Пока неизвестно об убийстве человека через интернет, однако очень легко представить, как специально разработанная программа, запущенная во внутреннюю сеть больницы, отбирает по каким-то параметры жертв и отключает им системы обеспечения жизни или прописывает им лекарства, которые их убьют.
На поле боя
Уже сейчас компьютеры стоят на боевых кораблях, в танках и самолетах, помогают управлять огнем артиллерии. Все больше функций автоматизируются, чтобы добиться даже минимального преимущества перед противником в скорости оценки ситуации и передачи приказов.
Военные роботизированные летучие и плавающие системы уже существуют и используются в боевых действиях или испытываются. Правда, команды на открытие огня им пока дают люди – операторы, которые ведут бой за сутки, а возможно, и тысячи километров от противника.
Александр Гелогаев/ТП, belsat.eu
